AI-bots manipuleren Reddit-gebruikers: Universiteit van Zürich onder vuur​

Een geheim experiment van de Universiteit van Zürich heeft geleid tot verontwaardiging binnen de Reddit-gemeenschap. Onderzoekers gebruikten AI-gestuurde bots om gebruikers op het populaire subreddit r/ChangeMyView te beïnvloeden, zonder hun medeweten of toestemming.

De bots slaagden erin om gebruikers tot zes keer effectiever te overtuigen dan menselijke deelnemers, wat ernstige ethische vragen oproept over de inzet van kunstmatige intelligentie in online interacties.​ Dat is o.a te lezen bij The Decoder.

Gedurende vier maanden plaatsten AI-bots, aangedreven door modellen zoals GPT-4o, Claude 3.5 Sonnet en Llama 3.1-405B, bijna 1.800 reacties op r/ChangeMyView. Deze bots namen overtuigende persona's aan, waaronder een trauma-therapeut, een overlevende van seksueel geweld en een zwarte man die zich uitsprak tegen de Black Lives Matter-beweging.

Ze analyseerden de postgeschiedenis van gebruikers om persoonlijke informatie zoals leeftijd, geslacht, etniciteit en politieke voorkeur af te leiden, waarmee ze hun reacties afstemden op de individuele gebruikers.

De moderators van r/ChangeMyView ontdekten het experiment pas na afloop en uitten scherpe kritiek op de onderzoekers. Ze benadrukten dat het gebruik van niet-aangekondigde AI-content in strijd is met de regels van de subreddit en dat de onderzoekers nooit toestemming hadden gekregen om het experiment uit te voeren.

De Universiteit van Zürich heeft inmiddels een onderzoek ingesteld en aangegeven dat de resultaten van het experiment niet zullen worden gepubliceerd.

Reddit heeft de betrokken onderzoekers verbannen van het platform en overweegt juridische stappen. Ben Lee, Chief Legal Officer van Reddit, noemde het experiment "moreel en juridisch onjuist" en benadrukte dat het in strijd is met zowel de gebruikersovereenkomst van Reddit als met bredere normen voor academisch onderzoek en mensenrechten.

Dit incident onderstreept de noodzaak van strikte ethische richtlijnen bij het gebruik van AI in sociale interacties. Het roept vragen op over hoe we AI kunnen inzetten zonder de integriteit en het vertrouwen binnen online gemeenschappen te ondermijnen.​