Britse regering eist snelle actie van Musk tegen AI-misbruik

De Britse regering heeft Elon Musk en zijn sociale netwerk X dringend opgeroepen om maatregelen te nemen tegen de verspreiding van seksueel getinte en niet-geconsenteerde AI-beelden via de AI-chatbot Grok. De oproep volgt op berichten dat de chatbot in staat is geweest om op verzoek beelden te genereren waarin individuen, waaronder vrouwen en minderjarigen, seksueel getoond worden zonder toestemming, volgens Reuters.

Gebruikers van het platform X kunnen via Grok, een AI-chatbot die is geïntegreerd in de dienst, beelden laten genereren op basis van tekstuele opdrachten. Recent hebben sommige gebruikers Grok aangeroepen om foto’s van personen te veranderen in seksueel getinte afbeeldingen, bijvoorbeeld door hen in minimale kleding te plaatsen. Tot grote verontwaardiging gebeurde dit in sommige gevallen zelfs met afbeeldingen die op meisjes of jonge vrouwen leken. Dat soort inhoud werd vervolgens gedeeld op het netwerk.

De Britse minister Liz Kendall noemde de verspreiding van zulke beelden “absoluut afschuwelijk”. Zij zei dat niemand geconfronteerd zou moeten worden met intieme deepfake-beelden van zichzelf op internet en benadrukte dat de autoriteiten dit soort misbruik niet zullen tolereren. Het is strafbaar om dit soort beelden te maken of te verspreiden zonder toestemming van de betrokken personen, zeker als het om minderjarigen gaat.

De Britse media- en telecomtoezichthouder Ofcom heeft contact opgenomen met X en de AI-ontwikkelaar xAI, het bedrijf achter Grok. Ofcom wil duidelijk krijgen wat X en xAI hebben gedaan om te voldoen aan hun wettelijke verplichtingen om gebruikers te beschermen tegen schadelijke en illegale inhoud. De toezichthouder zal onderzoeken of er redenen zijn voor verder onderzoek naar mogelijke overtredingen van de wet.

Onder de Britse Online Safety Act is het verplicht voor platforms om proactief illegale inhoud te verwijderen en ervoor te zorgen dat gebruikers niet worden blootgesteld aan schadelijke deepfakes of andere vormen van expliciete AI-generatie. Deze wet trad vorig jaar in werking en legt sociale media-bedrijven strengere plichten op rond contentmoderatie en gebruikersbescherming.

De zorgen over de Grok-AI stoppen niet bij het Verenigd Koninkrijk. Ook in andere landen zijn er kritieken en juridische stappen. In Frankrijk hebben ministers seksueel expliciete AI-beelden die via het platform werden gedeeld gemeld bij het openbaar ministerie en bij de mediatoezichthouder om te laten toetsen of de Europese regels, zoals de Digital Services Act, zijn overtreden. In India heeft het ministerie van IT X aangesproken op zijn verantwoordelijkheid om dergelijk misbruik van AI-tools te voorkomen.

Organisaties die zich bezighouden met kinderveiligheid en digitale rechten wijzen erop dat het feit dat Grok dergelijke beelden gegenereerd heeft, duidt op tekortkomingen in de veiligheidsmaatregelen van het systeem. Experts noemen het onacceptabel dat een AI-tool gebruikers in staat stelt zonder veel moeite seksueel getinte beelden te maken en te verspreiden.

X en xAI hebben erkend dat er “tekortkomingen in de beschermingsmechanismen” zijn geweest die dit mogelijk maakten. Zij hebben gezegd dat ze werken aan verbeteringen om te voorkomen dat dergelijke verzoeken in de toekomst kunnen worden uitgevoerd. X benadrukt dat gebruikers die illegale inhoud genereren dezelfde consequenties kunnen krijgen als wanneer ze die inhoud zelf uploaden.

Voor nu staat de druk op Musk en zijn bedrijven om snel concrete stappen te zetten om te laten zien dat zij de wettelijke en maatschappelijke verantwoordelijkheden serieus nemen. De discussie over hoe AI-systemen veilig en ethisch moeten functioneren zal waarschijnlijk de komende tijd voortduren, zeker nu het gebruik van generatieve technologie steeds meer deel uitmaakt van online platforms.