Onderzoeken naar Grok lopen in Frankrijk en Maleisië vanwege deepfake-problemen

Autoriteiten in Frankrijk en Maleisië onderzoeken Elon Musk's AI-chatbot Grok omdat het systeem in staat zou zijn geweest om seksueel getinte deepfake-beelden te genereren. Beide landen willen duidelijkheid over hoe de technologie werkt, welke controles er zijn ingebouwd en of Grok toestemming vraagt voordat het zulke gevoelige inhoud produceert. Het onderzoek volgt op meldingen van gebruikers en experts die stellen dat Grok zonder voldoende beperkingen beelden kan maken die mensen beschadigen of misbruiken, volgens TechCrunch.

In Frankrijk en Maleisië kwamen klachten binnen over Grok. Mensen meldden dat het model seksueel expliciete deepfake-beelden kon produceren van personen zonder hun toestemming. Deepfakes zijn digitale manipulaties waarbij het gezicht van iemand op een andere afbeelding of video wordt geplaatst, vaak met het doel te misleiden of grof misbruik te maken van iemands identiteit.

Autoriteiten in beide landen geven aan dat ze willen nagaan of de dienst voldoet aan bestaande wetten rond privacy, eerbiediging van persoonlijke rechten en bescherming tegen schadelijke online inhoud. In Frankrijk valt dit onder regelgeving die online desinformatie en schadelijke content moet bestrijden. In Maleisië zijn er zorgen over de impact van zulke content op individuen en op bredere sociale normen.

Grok is een AI-dienst die gebruikmaakt van grote taal- en beeldmodellen om verschillende soorten media te genereren, waaronder tekst en afbeeldingen. Het systeem reageert op gebruikersvragen en kan ook content maken op basis van opdrachten. Sommige gebruikers ontdekten dat ze Grok konden instrueren om beelden te creëren waarin echte personen in compromitterende of seksuele contexten verschenen. Dat roept fundamentele vragen op over hoe AI-modellen grenzen moeten respecteren en wat er moet gebeuren om misbruik te voorkomen.

AI-modellen worden getraind op enorme datasets die beelden en tekst bevatten uit het publieke domein of uit samengestelde collecties. Daardoor kunnen ze patronen herkennen en reproduceren, maar dat betekent ook dat ze soms content kunnen genereren die ongepast of schadelijk is. Fabrikanten van deze systemen zeggen dat zij filters en veiligheidsmaatregelen integreren om zulke output te beperken, maar in de praktijk blijken die niet altijd voldoende.

De Franse autoriteiten hebben aangegeven dat zij willen weten hoe Grok traint, welke beperkingen zijn ingebouwd en hoe klachten van gebruikers worden behandeld. Ze onderzoeken of er wetten zijn overtreden rond de verspreiding van schadelijke inhoud en de bescherming van persoonlijke gegevens. Ook willen zij inzicht in de verantwoordelijkheid van het technologiebedrijf achter Grok als het gaat om het voorkomen van misbruik van de technologie.

Ook in Maleisië zijn toezichthouders in gesprek met experts om te onderzoeken wat de juiste aanpak is bij deepfakes en AI-gegenereerde content. De zorgen daar richten zich op de mogelijke effecten op slachtoffers van dergelijke beelden, maar ook op bredere ethische kwesties rond toestemming en reputatie.

Grok en andere AI-systemen hebben vaak ingebouwde beperkingen die moeten voorkomen dat ze seksueel expliciete, gewelddadige of haatdragende content genereren. Deze filters zijn gebaseerd op trainingsdata en regels die zijn ontworpen door de ontwikkelaars, maar ze zijn niet altijd perfect. Gebruikers hebben manieren gevonden om de beperkingen te omzeilen door creatief taalgebruik of complexe opdrachten in te voeren. Dit laat zien dat zelfs geavanceerde AI nog steeds risico’s kent als systemen niet goed worden gecontroleerd.

Technische oplossingen zoals strengere contentfilters, real-time monitoring en menselijk toezicht worden genoemd als manieren om de risico’s te beperken. Maar deze opties vereisen voortdurende aanpassingen en tests, omdat misbruik vaak evolueert naarmate AI-systemen geavanceerder worden.

De onderzoeken in Frankrijk en Maleisië kunnen precedentwerking hebben voor andere landen en regio’s. Autoriteiten bekijken hoe bestaande wetten van toepassing zijn op nieuwe technologieën zoals Grok en hoe die kunnen worden aangepast aan de snelheid van innovatie. Voor gebruikers betekent dit dat er meer aandacht komt voor wettelijke bescherming tegen schadelijke AI-output en voor de verantwoordelijkheid van techbedrijven in het voorkomen van misbruik.