Nederland onderzoekt verbod op AI-apps die naaktbeelden faken

Demissionair minister Foort van Oosten (Justitie en Veiligheid) onderzoekt of het juridisch mogelijk en wenselijk is om AI-toepassingen te verbieden die mensen zonder toestemming ‘uitkleden’ door middel van kunstmatig gegenereerde beelden. Dat bevestigt het ministerie na berichtgeving van het Algemeen Dagblad, dat de mogelijkheden van AI-tool Grok onder de loep nam.

Van Oosten noemt het gebruik van dergelijke technologieën “buitengewoon verwerpelijk”. Volgens de minister is de maatschappelijke schade groot: “De impact van online seksueel misbruik is enorm, zeker wanneer beelden zich razendsnel via sociale media verspreiden en nauwelijks meer te verwijderen zijn.”

Het ministerie benadrukt dat het vervaardigen en verspreiden van seksueel getinte beelden van personen zonder hun toestemming al strafbaar is onder het huidige strafrecht. Dat geldt ook wanneer het om door AI gegenereerde nepbeelden gaat. Toch blijkt handhaving in de praktijk lastig.

“De technologie ontwikkelt zich sneller dan wetgeving en opsporing,” aldus een woordvoerder. “Een app of tool verbieden lijkt eenvoudig, maar in werkelijkheid is de kwestie complex en kent zij helaas geen snelle oplossing.” Veel AI-diensten opereren vanuit het buitenland, gebruiken open modellen of zijn via omwegen toegankelijk, wat een nationaal verbod juridisch en technisch uitdagend maakt.

De discussie laaide op na onderzoek van het AD naar Grok, een AI-systeem dat is ontwikkeld door het bedrijf achter platform X, eigendom van Elon Musk. Het onderzoek liet zien dat met relatief eenvoudige prompts seksueel getinte, gemanipuleerde beelden zijn te genereren die echte personen suggereren.

Het ministerie bekijkt niet alleen de rol van de AI-ontwikkelaars, maar ook die van de platforms waarop dergelijke beelden zijn gedeeld. Daarbij kijkt men naar de zorgplicht voor platforms, meldmechanismen en de snelheid waarmee schadelijke content is te verwijderen.

Nederland staat niet alleen in deze discussie. Meerdere landen in Europa en daarbuiten hebben inmiddels onderzoeken aangekondigd naar Grok en vergelijkbare AI-tools. Toezichthouders willen weten in hoeverre ontwikkelaars voldoende waarborgen hebben ingebouwd om misbruik te voorkomen, zoals technische blokkades, strengere contentfilters en duidelijke gebruikersvoorwaarden.

Binnen de Europese Unie kan de AI Act op termijn extra handvatten bieden. Deze wetgeving stelt strengere eisen aan zogenoemde ‘hoog-risico-toepassingen’ en aan transparantie bij generatieve AI. Of expliciete ‘undressing-apps’ hieronder zullen vallen, is echter nog onderwerp van interpretatie en nadere uitwerking.

Van Oosten benadrukt dat het kabinet voorzichtig wil omgaan met ingrijpende maatregelen. “We willen innovatie niet onnodig afremmen, maar de bescherming van burgers, en in het bijzonder van slachtoffers van online seksueel misbruik, staat voorop.”

In de komende maanden gaat men onderzoeken welke instrumenten effectief zijn: van aanvullende strafbaarstellingen en hogere boetes tot samenwerking met platforms en internationale afspraken.

Tot die tijd roept het ministerie slachtoffers op om aangifte te doen en beelden te melden bij platforms en meldpunten. De politieke discussie over een mogelijk verbod op specifieke AI-tools zal naar verwachting in de volgende kabinetsperiode worden voortgezet, wanneer duidelijker is welke juridische en technische routes daadwerkelijk haalbaar zijn.