Californië voert strengere regels in tegen deepfakes en AI

In een poging om de snelle ontwikkeling van kunstmatige intelligentie (AI) en de daarmee samenhangende risico's onder controle te houden, heeft de Amerikaanse staat California een nieuwe wetgeving goedgekeurd. De maatregelen zijn gericht op het aanpakken van deepfakes, het reguleren van AI modellen en het beschermen van werknemers.

Een van de meest urgente kwesties betreft deepfakes, oftewel gemanipuleerde beelden of video's die met behulp van AI zijn gecreëerd. Wetgevers hebben nieuwe regels ingevoerd om deepfakes in verkiezingen te verbieden. Grote sociale mediaplatforms worden verplicht om misleidende inhoud te verwijderen in de periode voorafgaand aan en na verkiezingen. Bovendien moeten politieke campagnes voortaan openbaar maken of zij gebruikmaken van door AI gemanipuleerde advertenties. De maatregelen moeten er uiteindelijk voor zorgen dat de transparantie en betrouwbaarheid van verkiezingsinformatie beter wordt.

Naast de bestrijding van deepfakes, wordt Californië mogelijk de Amerikaanse eerste staat die brede veiligheidsmaatregelen invoert voor grote AI modellen. Ontwikkelaars moeten voortaan openbaar maken welke data zij gebruiken om hun AI modellen te trainen. Dit is bedoeld om meer inzicht te bieden in de werking van AI en om toekomstige technologische rampen te voorkomen. Daarnaast worden er protocollen opgesteld om de risico's van algoritmische discriminatie te beperken, vooral wanneer overheidsinstanties AI-modellen inzetten.

De wetgeving biedt ook bescherming voor werknemers, met name in sectoren waar AI een bedreiging vormt. Er zijn nieuwe regels goedgekeurd die voorkomen dat stemacteurs en andere creatieven worden vervangen door AI klonen. Daarnaast mogen overheidsinstanties AI niet inzetten om werknemers in callcenters te vervangen, en wordt er nagedacht over sancties voor het digitaal klonen van overleden personen zonder toestemming.

Tot slot zet de staat in op onderwijs en bewustwording, met nieuwe richtlijnen voor het integreren van AI kennis in het onderwijs. Dit moet leerlingen beter voorbereiden op een toekomst waarin AI waarschijnlijk een grote rol zal spelen.