Racistische AI-video’s gaan rond op TikTok

Op TikTok zijn de laatste dagen veel racistische video’s te zien die zijn gemaakt met kunstmatige intelligentie, liet The Verge weten op 3 juli. Deze filmpjes gebruiken Google’s nieuwe video-AI, genaamd Veo 3. In sommige van deze video’s worden zwarte vrouwen op een stereotyperende en kwetsende manier neergezet. Ook worden er stereotypes gebruikt over Joodse mensen en immigranten. Sommige filmpjes zijn miljoenen keren bekeken. Eén video kreeg zelfs meer dan 14 miljoen views. 

De AI-tool van Google is eigenlijk bedoeld om mensen te helpen creatieve video’s te maken. Maar sommige mensen gebruiken de technologie op een verkeerde manier. Ze voeren expres teksten in die ervoor zorgen dat de AI racistische beelden maakt. Omdat de video’s er realistisch uitzien en snel gedeeld worden op TikTok, gaan ze makkelijk viral.

Een voorbeeld zijn de “Bigfoot baddies”-video’s. Daarin worden zwarte vrouwen afgebeeld op een manier die sterk lijkt op oude, racistische karikaturen van vroeger, met overdreven gezichtsuitdrukkingen en stereotiep taalgebruik.

Volgens onderzoekers doet TikTok niet genoeg om deze video’s tegen te houden. Ook Instagram en YouTube zouden vergelijkbare video’s laten zien. Hoewel sommige accounts die de video’s plaatsten later zijn verwijderd, bleven de filmpjes lange tijd zichtbaar en werden ze massaal gedeeld.

TikTok zegt dat ze proberen de video’s te verwijderen, maar veel mensen vinden dat ze te traag reageren. Ook Google zegt dat ze bezig zijn om hun AI veiliger te maken. Toch is het duidelijk dat de platformen de video's te laat verwijderen.

AI-tools zoals Veo 3 kunnen in korte tijd indrukwekkende video’s maken. Dat is handig, maar ook gevaarlijk als mensen deze tools misbruiken. De video’s worden op TikTok vaak gedeeld omdat ze opvallend en schokkend zijn. Het algoritme van TikTok laat zulke video's vaker zien, omdat mensen er veel op reageren. Daardoor worden ze nóg bekender. Sommige experts noemen dit “rage bait”: mensen maken expres boze of kwetsende video’s omdat ze weten dat dit veel aandacht oplevert.

Volgens deskundigen moeten sociale media sneller ingrijpen als racistische AI-content opduikt. Ook moet AI-software beter worden gemaakt, zodat het moeilijker wordt om zulke beelden te creëren. Tot slot is het belangrijk dat mensen kunnen zien of een video echt is, of gemaakt met AI.