Californië verbiedt deepfakes in politieke campagnes met nieuwe wet

De gouverneur van Californië, Gavin Newsom, heeft dinsdag drie baanbrekende wetten ondertekend om de verspreiding van politieke deepfakes aan te pakken vóór de verkiezingen van 2024. Met deze nieuwe wetten wil de staat de invloed van gemanipuleerde video's en beelden, gecreëerd door kunstmatige intelligentie (AI), op de verkiezingsuitslagen beperken.

Een van de nieuwe wetten, die onmiddellijk van kracht gaat, maakt het illegaal om deepfakes gerelateerd aan verkiezingen te maken en te publiceren in de 120 dagen vóór en 60 dagen na de verkiezingsdag. Dit geeft rechtbanken de mogelijkheid om de verspreiding van dergelijk materiaal te stoppen en boetes op te leggen.

"Het beschermen van de integriteit van verkiezingen is essentieel voor onze democratie," zei Newsom in een verklaring. "Het is cruciaal dat we ervoor zorgen dat AI niet wordt gebruikt om het vertrouwen van het publiek te ondermijnen door desinformatie—vooral in het huidige gepolariseerde politieke klimaat." Dat meldt ABC News.

Een andere wet, die volgend jaar van kracht wordt, verplicht grote sociale mediaplatforms om misleidend materiaal te verwijderen. Dit is de eerste wet in zijn soort in de Verenigde Staten. Daarnaast moeten politieke campagnes voortaan openbaar maken als ze advertenties gebruiken die zijn gemanipuleerd door AI.

Newsom ondertekende de wetten onder luid applaus tijdens een gesprek met Salesforce-CEO Marc Benioff op een evenement georganiseerd door het softwarebedrijf tijdens hun jaarlijkse conferentie in San Francisco.

Met deze nieuwe regelgeving bevestigt Californië opnieuw zijn leidende rol in de aanpak van AI in de VS, vooral als het gaat om deepfakes in verkiezingen. Tenminste, dat is hoe de staat en hun politieke leiders het zien. In 2019 was de staat al de eerste die gemanipuleerde video's en afbeeldingen in verkiezingscontext verbood. Wetten voorgesteld door Californische wetgevers dienen vaak als voorbeeld voor andere staten.

Met AI die wereldwijd de dreiging van desinformatie in verkiezingen vergroot, haasten wetgevers zich om dit probleem aan te pakken. Er is bezorgdheid dat gemanipuleerd materiaal het vertrouwen van het publiek in wat ze zien en horen kan ondermijnen.

"Assembleelid Gail Pellerin, auteur van de wet die deepfakes in verkiezingen verbiedt, zei: "Met minder dan 50 dagen tot de algemene verkiezingen is er een dringende behoefte om misleidende, digitaal gemanipuleerde content die de verkiezingen kan beïnvloeden, aan te pakken. Californië neemt een standpunt in tegen het misleidende gebruik van deepfake-technologie om kiezers te bedriegen."

De beslissing van Newsom volgt op zijn belofte in juli om hard op te treden tegen deepfakes in verkiezingen, als reactie op een video gepost door Elon Musk met gemanipuleerde beelden van vice-president en Democratisch presidentskandidaat Kamala Harris.

Op dezelfde dag dat de Californische wetten werden ondertekend, onthulden leden van het Congres federale wetgeving om deepfakes in verkiezingen te stoppen. Het wetsvoorstel zou de Federal Election Commission de bevoegdheid geven om het gebruik van AI in verkiezingen te reguleren, vergelijkbaar met hoe politieke misrepresentatie al decennialang wordt gereguleerd.

Newsom heeft Californië geprezen als een vroege gebruiker en regulator van AI. Hij zei dat de staat binnenkort generatieve AI-tools kan inzetten om verkeersproblemen aan te pakken en belastingadvies te geven, terwijl zijn regering ook kijkt naar nieuwe regels tegen AI-discriminatie bij werving.

Daarnaast ondertekende hij dinsdag nog twee andere wetten om Hollywood-acteurs te beschermen tegen ongeautoriseerd AI-gebruik zonder hun toestemming.