Kort geding tegen Grok: AI-tool onder vuur om nep-naaktbeelden en privacy-schending

De Nederlandse organisaties Offlimits en Fonds Slachtofferhulp hebben een kort geding aangespannen tegen de AI-chatbot Grok van socialmediaplatform X. Ze eisen dat de tool per direct verboden wordt nu het mogelijk blijkt om zonder toestemming nep-naaktbeelden van mensen te genereren, inclusief beelden van minderjarigen.

Volgens de eisers groeit de groep slachtoffers snel en is onmiddellijke actie noodzakelijk om verdere schade te voorkomen. Met Grok kunnen gebruikers niet alleen tekstvragen stellen aan de AI, maar ook bestaande foto’s manipuleren zodat de geportretteerde personen schaars gekleed of volledig naakt lijken. Het genereren van zulke deepfakes kan ernstige gevolgen hebben voor de slachtoffers, waaronder gevoelens van schaamte, langdurige stress en zelfs suïcidale gedachten.

In Nederland is het zonder toestemming seksualiseren van beeldmateriaal strafbaar. De organisaties stellen dat de zogenoemde nudify-tools die Grok mogelijk maakt niet alleen in strijd zijn met het recht op privacy, maar ook met wetten zoals de Algemene Verordening Gegevensbescherming (AVG), de Europese Digital Services Act (DSA), het Wetboek van Strafrecht en het portretrecht. Door dergelijke AI-functie te faciliteren zou X de grenzen van wat wettelijk en ethisch acceptabel is overschrijden.

Grok ligt al langer onder vuur vanwege de uitkleedfunctie voor foto’s. In verschillende landen lopen inmiddels onderzoeken naar de AI-tool, waaronder van de Europese Commissie en mediawaakhonden in Frankrijk en het Verenigd Koninkrijk. De Commissie onderzoekt of X voldoende doet om de verspreiding van illegale en schadelijke content tegen te gaan en of de rechten van burgers voldoende worden beschermd.

Eerder kondigde X aan de regels voor Grok te zullen aanscherpen, zodat het maken van zulke nep-beelden “waar dit illegaal is” niet meer mogelijk zou zijn. Toch blijft het risico op misbruik bestaan, en critici vinden de maatregelen onvoldoende om slachtoffers echt te beschermen. Verschillende landen hebben zelfs al Grok-toegang geblokkeerd vanwege de problematische functies.

De rechtszaak tegen Grok staat gepland voor 12 maart bij de rechtbank in Amsterdam. Offlimits en Fonds Slachtofferhulp hopen met de juridische stap niet alleen het gebruik van deze AI-tool te stoppen, maar ook een signaal af te geven over de noodzaak van striktere regulering van AI-systemen die beeldmanipulatie zonder controle mogelijk maken.

Critici waarschuwen dat tools zoals Grok niet alleen individuen kunnen schaden via sextortion en andere vormen van misbruik, maar ook het vertrouwen in online platforms en digitale zelfbeschikking ondermijnen. De uitkomst van deze zaak kan belangrijke consequenties hebben voor hoe AI-bedrijven worden gereguleerd in Europa en daarbuiten.