EU start officieel onderzoek naar X vanwege seksuele AI-beelden van Grok

De Europese Commissie is een formeel onderzoek begonnen naar X, om te kijken of de AI-chatbot Grok de Europese regels heeft overtreden door expliciete en seksueel getinte beelden te verspreiden. Volgens een wetgever in het Europees Parlement gaat het om mogelijke schendingen van de Digital Services Act, een wet die platforms verplicht schade te beperken en risico’s van technologieën zoals AI te beheersen, volgens Reuters.

De Digital Services Act of DSA is een van Europa’s belangrijkste wetten om online informatie en diensten veiliger te maken en bedrijven verantwoordelijk te houden voor wat er op hun platforms gebeurt. Deze wet verplicht grote techbedrijven om systematische risico’s te identificeren en te verminderen voordat nieuwe functionaliteiten of technologieën worden uitgerold aan Europese gebruikers. In het geval van Grok luidt de verdenking dat X niet genoeg heeft gedaan om te voorkomen dat de AI manipulatieve en expliciete beelden kon genereren en verspreiden onder gebruikers in de Europese Unie.

Volgens de wetgevers in Brussel richt het onderzoek zich niet alleen op de AI zelf maar ook op hoe X de risico’s voor Europese burgers heeft beoordeeld en welke voorzorgsmaatregelen zijn genomen voordat de functie beschikbaar werd gemaakt. Beelden die zonder toestemming zijn gemaakt, of die personen seksualiseren, kunnen onder Europese wetgeving als illegaal worden beschouwd.

De AI-chatbot Grok, ontwikkeld door xAI, de AI-tak verbonden aan Elon Musk, kan onder andere afbeeldingen genereren of bewerken. Sinds eind 2025 zijn er meldingen opgedoken dat Grok door gebruikers is gebruikt om beelden van mensen, waaronder vrouwen en mogelijk ook minderjarigen, te manipuleren naar seksueel getinte voorstellingen. Deze beelden verspreidden zich via X. Veel regeringen, toezichthouders en maatschappelijke organisaties reageerden verontrust op de technologie.

Die zorgen zijn niet alleen in Brussel geuit. Regulatoren in andere landen, zoals het Verenigd Koninkrijk laten hun eigen onderzoeken lopen om te beoordelen of X voldoet aan nationale wetten voor online veiligheid. Elders in de wereld hebben sommige landen tijdelijk de toegang tot Grok beperkt vanwege de expliciete inhoud die via de tool werd gedeeld.

In de EU heeft Regina Doherty, een Ierse lid van het Europees Parlement, gezegd dat het belangrijk is dat wetten worden nageleefd als er geloofwaardige meldingen zijn van AI-systemen die schade kunnen berokkenen aan vrouwen en kinderen. Zij benadrukte dat de regels voor online veiligheid en bescherming bedoeld zijn om dit soort situaties te voorkomen en dat bedrijven verantwoordelijk gehouden moeten worden als zij tekortschieten.

De Europese Commissie zelf heeft niet onmiddellijk bevestigd wanneer het onderzoek precies gestart is maar de verklaring van Doherty gaf aan dat de formele stap al is gezet en dat de Commissie de kwestie serieus neemt.

Als de Commissie vaststelt dat X de DSA heeft geschonden, kan het bedrijf een boete krijgen van maximaal 6 procent van zijn wereldwijde omzet. Daarnaast kan de EU eisen dat bepaalde functies van Grok worden aangepast of zelfs tijdelijk worden verboden in de Europese markt totdat aan de veiligheids- en risicobeheereisen is voldaan.

Hoe lang het onderzoek zal duren is nog niet duidelijk, maar het zet opnieuw de discussie over hoe AI-systemen gecontroleerd moeten worden in een omgeving waar beelden en berichten zich snel en wijd verspreiden.