Onderzoekers voerden in het geheim een AI-manipulatie experiment uit

In de wereld van kunstmatige intelligentie (AI) gebeurt er eigenlijk elke dag wel iets bijzonders. Dit keer is het raak op de grote online forum Reddit. Recent kwam er namelijk een opmerkelijk AI experiment aan het licht, waarbij onderzoekers, vermoedelijk van de Universiteit van Zürich, zonder toestemming een grootschalige test uitvoerden op het platform.

Op het populaire forum genaamd ‘changemyview’ gingen onderzoekers vier maanden lang undercover. Binnen deze gemeenschap, ook wel een subreddit genoemd, kunnen gebruikers hun standpunten delen en discussies aangaan over andere perspectieven.

Maar wat deden de onderzoekers? Ze zetten tientallen AI-bots in die zich op deze subreddit voordeden als gewone gebruikers, met profielen als een verkrachtingsslachtoffer of een maatschappelijk werker. Zonder dat iemand iets in de gaten had, mengden deze bots zich in gesprekken en probeerden ze actief de meningen van echte mensen te beïnvloeden.

De bots gingen grondig te werk. Zo doken ze diep in de profielen van Reddit-gebruikers om details te achterhalen zoals geslacht, leeftijd, afkomst en politieke voorkeur. Vervolgens stemden ze hun reacties hier slim op af. Volgens de onderzoekers zelf was het AI-experiment op Reddit verrassend succesvol, de bots verzamelden meer dan 20.000 upvotes en slaagden erin om in 137 gevallen daadwerkelijk iemands mening te veranderen.

De moderators van de subreddit kwamen er pas achter het experiment toen het allang was afgerond. En dat viel duidelijk niet in goede aarde. Volgens hen waren gebruikers zonder enige vorm van toestemming blootgesteld aan psychologische beïnvloeding. “Onze gemeenschap verdient een plek waar gesprekken eerlijk en menselijk verlopen, zonder ongewenste AI-inmenging,” lieten de beheerders duidelijk weten.

Hoewel de onderzoekers ervoor kozen anoniem te blijven, reageerden ze wel op de kritiek. Ze verdedigden hun aanpak op Reddit door te benadrukken dat er bij elke reactie menselijke controle betrokken was. Voor de moderators voelde dat echter als mosterd na de maaltijd.