Europese Commissie sleept X voor rechter om verbod op AI-chatbot Grok

De Europese Commissie is een juridische procedure gestart om via de rechter een verbod af te dwingen in de Europese Unie op de AI-chatbot Grok. Brussel zegt dat X, het sociale mediaplatform waarop Grok draait, onvoldoende heeft gedaan om te voorkomen dat de chatbot seksueel expliciete en manipulatieve beelden kan genereren en verspreiden. De zaak richt zich op mogelijke overtredingen van Europese regels voor digitale diensten en veiligheid online, aldus nu.nl.

De juridische stap komt nadat de Europese Commissie oordeelde dat X niet genoeg heeft gedaan om de risico’s van Grok te beperken voor Europese gebruikers. De Commissie verwijst daarbij naar de Digital Services Act, een wet die grote technologiebedrijven verplicht om systematisch risico’s te identificeren en te verminderen voordat nieuwe technologieën grootschalig worden ingevoerd. Volgens de Commissie biedt Grok nog steeds functies waarmee gebruikers beelden van echte mensen zonder toestemming kunnen laten bewerken naar seksueel expliciete of onthullende varianten. Deze deepfake-achtige beelden hebben in meerdere landen tot verontwaardiging geleid, mede omdat sommige beelden mogelijk vrouwen en minderjarigen betreffen.

Onder de Digital Services Act moet een bedrijf als X proactieve maatregelen nemen om illegale content en schadelijke risico’s te voorkomen. Als de EU-rechter oordeelt dat X die plicht heeft geschonden, kan de Commissie eisen dat Grok wordt aangepast of zelfs uit de Europese markt wordt verwijderd. In het meest verstrekkende scenario kan een totaal verbod op de dienst worden opgelegd.

Dit juridische traject sluit aan op eerdere stappen van de EU rond Grok. Naast dit verbod vraagt vraagstuk loopt er ook een formeel onderzoek naar de vraag of X de regels uit de Digital Services Act heeft overtreden door niet genoeg te doen aan het indammen van de verspreiding van seksueel expliciete AI-beelden. Die beelden zijn via het platform gedeeld en door miljoenen gebruikers bekeken en verspreid. Sommige waarnemers en autoriteiten spreken van deepfakes die grenzen overschrijden, waaronder afbeeldingen die mogelijk kunnen neerkomen op kindermisbruikmateriaal.

X heeft eerder al beperkingen ingevoerd op wat gebruikers kunnen genereren met Grok in bepaalde rechtsgebieden, vooral rond expliciete beelden. Zo werden sommige functies gelimiteerd tot betalende gebruikers, maar de EU stelt dat deze stappen niet voldoende zijn om aan de wettelijke eisen te voldoen.

De zaak heeft ook internationaal aandacht gekregen, omdat andere landen en toezichthouders soortgelijke problemen met Grok en AI-gegenereerde inhoud onderzoeken. In sommige landen zijn maatregelen genomen tegen Grok vanwege de zorgen over AI-beelden die zonder toestemming worden aangemaakt en gedeeld.

Binnen de EU onderstreept de Europese Commissie dat het beschermen van burgers tegen schadelijke online content en het afdwingen van naleving van de Digital Services Act centraal staan in deze stap. Wie precies verantwoordelijk is voor wat binnen de wetgeving en hoe diep de verplichtingen van platforms gaan, zal in de rechtszaal duidelijker moeten worden.

Als de rechter de Commissie in het gelijk stelt, kan dat ingrijpende consequenties hebben voor X en xAI. Naast het mogelijk stoppen van Grok in de EU kunnen er ook boetes volgen als de regels uit de Digital Services Act zijn overtreden. Boetes onder deze wet kunnen aanzienlijk zijn, oplopend tot miljoenen euro’s afhankelijk van de ernst van de overtreding.

De uitkomst van deze juridische procedure kan ook precedentwerking hebben voor andere AI-diensten die worden aangeboden in Europa. Voor techbedrijven blijft het onduidelijk welke stappen precies nodig zijn om te voldoen aan de strikte eisen van de Europese digitale wetgeving als het gaat om het beheer van AI-systemen en de risico’s die zij met zich meebrengen.