Californië ondertekent AI-wet: hoe veiligheid en vernieuwing samen kunnen bestaan

Californië heeft een nieuwe wet aangenomen die voorschrijft dat grote AI-bedrijven transparant moeten zijn over hun veiligheidssystemen en dat ze aansprakelijk zijn voor kritieke incidenten. De wet, getekend door gouverneur Gavin Newsom, poogt een middenweg te vinden tussen het bevorderen van innovatie en het beheersen van risico’s, volgens TechCrunch.

De kern van de wet verlangt dat bedrijven die AI-systemen ontwikkelen, vooral de grotere spelers, hun veiligheids- en beveiligingsprotocollen openbaar maken. Ze moeten bovendien kritieke incidenten, bijvoorbeeld gevallen waarin AI betrokken is bij cyberaanvallen of andere ernstige schade, binnen een bepaalde termijn melden. Een extra maatregel is dat medewerkers in AI-bedrijven beschermd worden als zij zorgen uiten over de veiligheid van systemen, zeg maar een klokkenluidersregeling.

Voorstanders zien deze wet als bewijs dat regulering en technologische ontwikkeling elkaar niet hoeven uit te sluiten. Zoals Rebecca Bellan van TechCrunch aangeeft: staten kunnen “wetgeving aannemen die werkelijk innovatie beschermt, terwijl producten veilig blijven”. Een aanpak waarbij bedrijven niet verstikt worden door regels, maar wel verantwoordelijk gehouden worden wanneer dingen misgaan.

Critici wijsten erop dat de wet beperkingen kent: hij richt zich vooral op de “grote” AI-labs en op aanzienlijke risico’s zoals grootschalige cyberaanvallen of de ontwikkeling van biowapens. Minder extreme problemen zoals deepfakes, manipulatie of systematische vooringenomenheid worden niet in hetzelfde detail aangepakt.

Een andere kanttekening is de toepassing: hoe streng is de handhaving? Het kantoor van de Office of Emergency Services in Californië krijgt de taak toezicht te houden op naleving van de wet.

Niet iedereen in de techwereld is enthousiast. Sommige grote bedrijven hadden liever een uniforme federale aanpak in plaats van afzonderlijke staatswetten. Toch is er positieve feedback, bijvoorbeeld van Anthropic, dat openlijk steun betuigde aan SB 53. Die steun is opvallend, want eerder was het beleid van California (zoals SB 1047) controversieel en zelfs door de gouverneur verworpen.

Senator Scott Wiener, initiatiefnemer van de wet, legt uit dat hij geen vertrouwen heeft in het federale niveau om snel voldoende AI-regels uit te vaardigen. Daarom wil hij dat staten zoals Californië voortouw nemen.

SB 53 komt na een eerdere poging genaamd SB 1047, waarover veel commotie was. Die wet zou AI-bedrijven aansprakelijk maken voor schade veroorzaakt door hun modellen, maar werd door gouverneur Newsom verworpen. Bij SB 53 is het idee: minder zwaar repressief, meer gericht op transparantie en openbaar toezicht.

Daarnaast was er brede discussie over de reikwijdte van regulering: welke risico’s zijn groot genoeg om ingrijpen te rechtvaardigen, en welke opstapjes zijn proportioneel zonder innovatie te verslechteren?