Ierland start officieel onderzoek naar Grok AI van Elon Musk

De Ierse privacy-toezichthouder, de Data Protection Commission, heeft een formeel onderzoek geopend naar het AI-chatbot Grok van de Amerikaanse technologie-groep X en xAI, die eigendom is van Elon Musk, vanwege de productie en verspreiding van seksueel expliciete en mogelijk schadelijke afbeeldingen, inclusief content waarin kinderen betrokken zijn, volgens Reuters.

De Ierse privacy-waakhond kijkt vooral naar de vraag of X en zijn AI-chatbot Grok voldoen aan de regels van de General Data Protection Regulation (GDPR), de privacywetgeving van de Europese Unie. Omdat X zijn Europese hoofdkwartier in Dublin heeft, is de Ierse toezichthouder bevoegd om te beoordelen of de platformen de persoonsgegevens van EU-gebruikers correct verwerken en beschermen. Indien overtredingen worden vastgesteld, kan dat leiden tot flinke boetes die kunnen oplopen tot 4 procent van de wereldwijde omzet van het bedrijf.

In de aankondiging van het onderzoek zei de Data Protection Commission dat zij wil vaststellen of X zijn verplichtingen onder de GDPR is nagekomen met betrekking tot de manier waarop persoonlijke gegevens worden verwerkt door Grok. Het onderzoek volgt op berichten dat Grok in staat was om gebruikersverzoeken te beantwoorden met gegenereerde afbeeldingen die personen bijna naakt tonen, en die werden gedeeld op het sociale netwerk X.

De aanleiding voor het Ierse onderzoek was een golf van kritiek en verontwaardiging nadat Grok gebruikers in staat stelde om met simpele tekstopdrachten beelden te genereren of te manipuleren met seksueel expliciete inhoud. In sommige gevallen betroffen die beelden kinderen of personen zonder hun toestemming, wat in strijd lijkt te zijn met wettelijke normen rond kinderbescherming en privacy. Grok had eerder al beperkingen doorgevoerd om expliciete content te beperken, maar die lijken niet voldoende om de problemen te stoppen.

Het probleem kreeg niet alleen in Ierland aandacht. Toezichthouders in andere landen, waaronder Frankrijk en het Verenigd Koninkrijk, zijn ook begonnen met onderzoeken rond Grok en de manier waarop de AI-technologie omgaat met het genereren van beelden. In Frankrijk hebben aanklagers zelfs het kantoor van X doorzocht in verband met deze zaken.

X en xAI hebben eerder stappen aangekondigd om bepaalde functies van Grok te beperken. Zo werd de mogelijkheid om afbeeldingen te manipuleren om personen in onderkleding of bloot te tonen, in sommige rechtsgebieden geblokkeerd. Dit was bedoeld om te voldoen aan lokale wetten en om te voorkomen dat expliciete inhoud automatisch werd gegenereerd. Toch blijven er kritische vragen over hoe effectief die maatregelen zijn en of er structurele problemen zijn in de manier waarop de AI-modellen omgaan met gevoelige verzoeken.

Critici zeggen dat de controverse rond Grok laat zien hoe moeilijk het is om snelle technologische innovaties te verenigen met bestaande juridische kaders voor privacy, veiligheid en bescherming van kinderen. Ondertussen groeit de druk op technologiebedrijven om niet alleen beleidsregels te accepteren maar ook actief toezicht te houden op hoe hun systemen inhoud genereren en delen.

Het Ierse onderzoek kan belangrijke implicaties hebben voor zowel X als de bredere AI-industrie. Als de toezichthouder concludeert dat er sprake is van schendingen van de GDPR, dan kan dat niet alleen leiden tot zware boetes maar ook tot verplichtingen om fundamentele veranderingen aan te brengen in de manier waarop AI-diensten worden ontwikkeld en aangeboden binnen de EU. Dat zou een precedent kunnen zijn voor andere technologiebedrijven die AI-gestuurde functies aanbieden aan Europese gebruikers.