Kan TikTok AI-slop tegengaan met nieuwe gebruikerscontrole?

TikTok heeft onlangs aangekondigd dat gebruikers binnenkort via een schuifregelaar kunnen aangeven hoeveel door AI gegenereerde content zij in hun videofeed willen zien, volgens The Verge. Tegelijkertijd voert het platform niet alleen labels in voor door AI gegenereerde content, maar past het ook onzichtbare watermerken toe om zulke content beter te herkennen. Deze stap komt op een moment dat er steeds meer zorgen zijn over de kwaliteit en de hoeveelheid AI-gegenereerde video’s op sociale media, die vaak gekenmerkt worden als “AI slop”: content van lage kwaliteit, grootschalig geproduceerd, met weinig inhoud of originaliteit. 

De nieuwe schuifregelaar laat gebruikers aangeven dat ze bijvoorbeeld “minder” AI-gegenereerde video’s willen zien. TikTok zegt daarmee gebruikers meer controle te geven over de mix in hun feed. Daarnaast vereist het platform dat makers realistische beelden, audio of video’s die “significant” door AI bewerkt of geheel gegenereerd zijn, labelen. Ook zet TikTok in op automatische detectie en metadata-labeling.

Hoewel de intentie duidelijk is, suggereren onderzoeksresultaten dat dergelijke label- en controlemechanismen niet noodzakelijkerwijs het probleem van massale AI-slop oplossen. Een studie van 2024 naar de impact van labels op door AI gegenereerde content (AIGC) vond dat hoewel labels gebruikers hielpen onderscheiden wat door AI was gemaakt, zij nauwelijks effect hadden op wat mensen geloven, vertrouwen of delen. Verder blijkt uit onderzoek dat hoewel gebruikerslabels kunnen aangeven dat iets door AI is gemaakt, dit niet per se verandert hoe vaak het bekeken of gedeeld wordt. Dit betekent dat zelf wanneer TikTok “zichtbaarheid” aanbiedt, het gedrag van gebruikers mogelijk nauwelijks verandert.Daarnaast ligt de uitdaging niet alleen in labels: AI-slop komt voort uit schaal, automatisering, en de incentive om snel content te produceren. Je kunt dus technisch wel een schuifregelaar invoeren, maar als de onderliggende stroming van lage-kwaliteit AI-content blijft aanzwellen, dan is een individuele instelling misschien onvoldoende.

Probleem is bovendien dat platforms zoals TikTok al worstelen met de immense hoeveelheid video’s die dagelijks worden geüpload. AI-slop is aantrekkelijk voor sommige makers omdat het snel en goedkoop is te produceren en algoritmes soms belonen wat engagement oplevert. De nieuwe functie van TikTok richt zich op “hoeveel” AI-content een gebruiker ziet, maar niet op het fundament: waarom bepaalde content überhaupt wordt aanbevolen of hoe de algoritmes reageren op kwaliteit. 

Om echt effectief te zijn, zouden maatregelen breder moeten gaan dan alleen gebruikersinstellingen. Ze zouden moeten ingaan op: hoe AI-gegenereerde content wordt opgemerkt door algoritmes, welke prikkels makers hebben om lage-kwaliteit content te produceren, en hoe platformen het verschil maken tussen “zinvolle” AI-ondersteunde creatie en overmatige slop.