Nep-influencers met een beperking? Zo misleidt AI ons op sociale media

vrijdag, 21 maart 2025 om 17:55

Een nieuwe en zorgwekkende AI-trend op Instagram onthult hoe technologie wordt misbruikt om kwetsbare groepen te exploiteren. AI-gegenereerde nep-influencers doen zich voor als mensen met een beperking – zoals het syndroom van Down – om volgers aan te trekken en betaald expliciete materiaal te verkopen.

De trend, gemarkeerd met de cynische hashtag #OnlyDown, roept scherpe ethische vragen op over identiteit, misleiding en de grenzen van digitale creatie.

Volledig fictieve profielen met honderdduizenden volgers

Een van de bekendste voorbeelden is het Instagram-account @mariadopari, een volledig AI-gecreëerde persona met een gezicht dat niet echt bestaat. Met zorgvuldig gegenereerde foto's en gestolen visuele elementen wist het account ruim 148.000 volgers te verzamelen. Achter de schermen werd de content echter aangestuurd door anonieme makers die geld verdienen via links naar adultplatforms zoals OnlyFans en Fanvue.

Deze nepmodellen worden in de markt gezet als unieke creators met een beperking, terwijl ze in werkelijkheid nooit bestaan hebben. De opzet: inspelen op een specifieke fetish-niche, waarbij mensen met het syndroom van Down of andere zichtbare beperkingen worden geseksualiseerd. Voor een maandelijkse bijdrage krijgen volgers toegang tot “exclusieve” content, die zogenaamd door deze AI-influencer is gemaakt.

Deepfake en fetish: een giftige combinatie

Het gebruik van deepfake-technologie in combinatie met het fetisjeren van mensen met een beperking is bijzonder schrijnend. Cybernews.com, dat het fenomeen onderzocht, stelt dat het niet alleen gaat om misleiding, maar ook om een grove vorm van digitale exploitatie. De content wordt bewust zo ontworpen dat het lijkt alsof de modellen echt bestaan en zelf controle hebben over hun profiel.

In werkelijkheid worden de beelden samengesteld met AI-modellen zoals Stable Diffusion en FaceSwap, waarbij ook gestolen of gemanipuleerde foto’s van echte mensen worden gebruikt. Hierdoor is er sprake van een dubbele misleiding: het publiek wordt bedrogen, en de beeldvorming over mensen met een beperking wordt op gevaarlijke wijze vervormd.

Hoe reageren socialmediaplatforms?

Op sociale media groeit de verontwaardiging. Gebruikers op X (voorheen Twitter) en Reddit stellen de platforms verantwoordelijk voor het laten bestaan van dit soort accounts. Hashtags als #OnlyDown en #AIscam worden massaal gebruikt om bewustwording te creëren. Toch lijken Instagram en TikTok vooralsnog traag te reageren.

Er zijn wel meldmechanismen voor deepfake-content en misleiding, maar deze blijken inefficiënt of onvoldoende effectief in het herkennen van AI-gegenereerde gezichten. Bovendien bevinden veel van deze nepmodellen zich op de grens van de gebruikersvoorwaarden, waardoor ze lastig automatisch verwijderd kunnen worden.

Ethiek onder druk: waar ligt de grens van creativiteit?

Deze trend onderstreept hoe AI de grenzen van creativiteit en ethiek oprekt. Het gaat niet langer alleen om nepnieuws of gezichtsvervanging van beroemdheden. Hier wordt kunstmatige intelligentie gebruikt om een verzonnen identiteit met een beperking uit te buiten voor seksueel en commercieel gewin.

Experts waarschuwen dat dit niet alleen schadelijk is voor het vertrouwen in online content, maar ook een diepe impact heeft op de beeldvorming rondom mensen met een beperking. Het suggereert dat hun bestaan vooral een fetisj is, wat het werk van inclusieve creators ondermijnt.

Lees ook

Meta probeert AI reacties op Instagram uit

Onderzoek: '40% van Facebook-berichten komt waarschijnlijk van AI'

Wat moet er gebeuren?

Er is dringend behoefte aan:

Strengere regels voor AI-gegenereerde content op sociale platforms.
Betere detectietools om deepfakes te herkennen.
Verantwoording van platformeigenaren zoals Meta en ByteDance.
Bewustwordingscampagnes over de impact van deze praktijken.
Een open maatschappelijk debat over de ethiek van AI-creatie.

Voor beleidsmakers, techbedrijven en contentmakers ligt hier een grote verantwoordelijkheid. Wat vandaag een nichetrend is, kan morgen een breed probleem zijn.

Conclusie

De opkomst van AI-influencers die zich voordoen als mensen met een beperking toont de schaduwzijde van technologische vooruitgang. In plaats van te verbinden, wordt AI hier gebruikt om te misleiden en te exploiteren. Het is tijd voor actie: van regelgeving tot educatie, en van handhaving tot ethisch besef.