New York neemt nieuwe AI wet aan om rampen te voorkomen

De Amerikaanse staat New York zet een opvallende stap in de richting van strengere AI regels. De staat heeft namelijk de RAISE Act aangenomen, een wet die moet voorkomen dat krachtige AI systemen leiden tot grote rampen. Denk aan scenario’s waarbij meer dan 100 mensen om het leven komen of er meer dan $1 miljard aan schade wordt veroorzaakt. Maar wat houdt de RAISE act in en hoe kan het AI rampen voorkomen?

De wet richt zich specifiek op grote AI bedrijven zoals OpenAI, Google en Anthropic. Deze bedrijven worden verplicht om veiligheidsrapporten te publiceren over hun geavanceerde modellen. Ook moeten ze incidenten waarbij iets misgaat met hun AI systemen meteen melden. Doen ze dat niet, dan riskeren ze boetes tot wel $30 miljoen.

Toch is niet iedereen getroffen door deze nieuwe wet. Alleen AI modellen die zijn getraind met meer dan $100 miljoen aan rekenkracht vallen onder de regels en moeten de nieuwe RAISE act volgen. Startups en academische onderzoekers zijn dus buiten schot gehouden, om innovatie niet in de weg te zitten.

De komst van de wet krijgt ook kritiek, sommige experts hadden liever een zogeheten verplichte “kill switch” gezien. Dit zou een soort noodknop moeten zijn om AI stil te leggen, zodat modellen direct gestopt kunnen worden als er grote risico’s optreden. Ook ligt nu de nadruk voornamelijk op beheerder van grote modellen en niet bij de oorspronkelijke ontwikkelaars.

De tech wereld is niet blij met deze ontwikkeling. Vooral in Silicon Valley klinkt stevige kritiek. Grote investeerders zoals Andreessen Horowitz waarschuwen dat bedrijven hun AI modellen misschien niet langer in New York zullen aanbieden vanwege de nieuwe eisen. Toch denken de politici achter de wet dat dit niet zo’n vaart zal lopen. Ze wijzen op de enorme economische waarde van New York. Het zou voor bedrijven simpelweg financieel onaantrekkelijk zijn om de staat links te laten liggen. De RAISE Act is nog niet helemaal rond. De wet is aangenomen door het parlement, maar wacht nu op goedkeuring van gouverneur Kathy Hochul.