Grok moet stoppen met uitkleden van mensen in Nederland met AI

donderdag, 26 maart 2026 om 20:33

Een Nederlandse rechter heeft bepaald dat de AI-chatbot Grok van Elon Musk per direct moet stoppen met het genereren van naaktbeelden zonder toestemming. De uitspraak zet extra druk op AI-bedrijf xAI en platform X en markeert een belangrijk moment in de regulering van AI-uitkleedapps in Nederland en Europa.

De voorzieningenrechter in Amsterdam oordeelde donderdag dat Grok geen beelden meer mag genereren waarin personen worden uitgekleed, ook niet gedeeltelijk. Dit geldt voor alle mensen die in Nederland wonen. Overtreedt het bedrijf deze regels, dan riskeert het een dwangsom van 100.000 euro per dag, met een maximum van 10 miljoen euro.

Rechter grijpt in na zorgen over AI-misbruik

De rechtszaak werd aangespannen door Offlimits en Fonds Slachtofferhulp. Zij wilden een verbod afdwingen op de functie waarmee gebruikers via Grok eenvoudig kleding van personen op foto’s konden laten verwijderen.

Volgens de organisaties verlaagt deze technologie de drempel voor online seksueel misbruik drastisch. Gebruikers konden zonder toestemming beelden manipuleren, ongeacht of het volwassenen of minderjarigen betrof.

Directeur Robbert Hoving van Offlimits noemt de uitspraak een belangrijke stap:

Bescherming van slachtoffers staat centraal
AI maakt grootschalig misbruik eenvoudiger
Internationale impact is waarschijnlijk

De rechter erkent dat de technologie ernstige schade kan veroorzaken. Voor slachtoffers maakt het volgens betrokken organisaties geen verschil of een beeld echt is of door AI is gegenereerd.

Grok en AI-tools versnellen probleem op grote schaal

De AI-chatbot Grok kreeg de afgelopen maanden veel kritiek vanwege de schaal waarop beelden konden worden gegenereerd. Volgens berichtgeving produceerde het systeem duizenden gemanipuleerde afbeeldingen per uur.

Dit soort toepassingen valt onder zogenaamde deepfake-technologie. Hierbij gebruikt AI bestaande beelden om nieuwe, realistisch ogende content te maken. In dit geval gaat het specifiek om het digitaal verwijderen van kleding, vaak zonder toestemming.

Belangrijke kenmerken van dit probleem:

Lage technische drempel voor gebruikers
Snelle verspreiding via sociale media
Moeilijk te verwijderen content
Langdurige impact op slachtoffers

De zaak onderstreept dat AI-systemen niet alleen innovatiekansen bieden, maar ook nieuwe risico’s creëren voor privacy en veiligheid.

Europa bereidt totaalverbod op AI-uitkleedapps voor

Op dezelfde dag stemde het Europees Parlement in met een verbod op AI-tools die kleding kunnen verwijderen van foto’s. Dit verbod treedt naar verwachting in juli 2026 in werking in alle EU-lidstaten.

Het besluit betekent dat:

AI-uitkleedapps volledig verboden worden
Platforms deze tools actief moeten weren
Zoekmachines ze niet meer mogen tonen

Volgens experts kan deze Europese aanpak wereldwijd invloed hebben. Technologiebedrijven opereren immers internationaal en zullen hun systemen mogelijk aanpassen aan strengere Europese regels.

Nederland worstelt met handhaving en beleid

Hoewel het maken van deepfake-naaktbeelden in Nederland al strafbaar is, bevinden de tools zelf zich juridisch in een grijs gebied. Instanties zoals de Autoriteit Persoonsgegevens en andere toezichthouders noemen de problematiek complex.

Eerder gaf demissionair minister Foort van Oosten aan dat deze toepassingen “buitengewoon verwerpelijk” zijn, maar een concrete aanpak bleef uit.

De uitspraak tegen Grok kan nu dienen als precedent voor toekomstig beleid. Tegelijk blijft handhaving een uitdaging. Zonder actieve controle dreigt regelgeving volgens experts ineffectief te blijven.

AI-regulering bereikt kantelpunt

De zaak rond Grok laat zien dat AI-regulering in een nieuwe fase komt. Waar technologiebedrijven eerder relatief vrij konden experimenteren, grijpen rechters en wetgevers nu sneller in.

Voor Nederland betekent dit:

Meer juridische druk op AI-aanbieders
Snellere beleidsontwikkeling
Grotere focus op bescherming van burgers

De combinatie van nationale rechtspraak en Europese wetgeving maakt duidelijk dat AI-systemen voortaan aan strengere maatschappelijke normen moeten voldoen.

Robin HeesterOprichter

Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.