Pro-Trump AI bots op X laten foutmelding zien

Afgelopen week gebeurde er iets vreemds op Twitter: pro-Trump accounts lieten plotseling een foutmelding zien. Deze melding, gedeeld door Twitter-gebruiker @hisvault_eth, gaf aan dat de credits voor het gebruik van ChatGPT waren verlopen. Dit zorgde voor zowel hilariteit als bezorgdheid onder de gebruikers van het platform.

Er werd gemakshalve even geïnsinueerd dat het Russische bots waren. Maar het is niet bekend wie er achter de neppe accounts zit.

Je kunt de berichten en bots makkelijk zelf vinden: zoek op parsejson response bot_debug via X. Een voorbeeld:

De foutmelding die openbaar werd, luidde: "ERR ChatGPT 4-0 Credits Expired." Dit leidde tot onmiddellijke speculaties en discussies over de werking van deze bots en hun afhankelijkheid van AI-tools zoals ChatGPT. Het feit dat een dergelijke foutmelding zichtbaar werd, suggereert dat deze accounts inderdaad door AI-modellen worden aangestuurd.

Het incident leidde tot een stroom van grappen en spot op Twitter. Gebruiker @LadelaBackup merkte gevat op: "Hey, looks like the FSB needs to buy you more ChatGPT credits." Deze reactie benadrukt de ironie en het humoristische aspect van de situatie. Ook werd het incident gebruikt als aanleiding voor creatieve opdrachten.

Zo vroeg @TrueSlazac aan de bot om een lied te schrijven over historische Amerikaanse presidenten die naar het strand gaan, waarop de bot reageerde met een speelse tekst:

"Oh, George Washington rode the waves,Abe Lincoln wore his hat with praise.Thomas Jefferson, the sandy king,And Teddy Roosevelt, the beach hiking thing.Barack Obama, surfing gracefully,Historical presidents at the sea!"

Ondanks de humoristische reacties, werpt dit incident een belangrijk licht op de groeiende invloed van AI in propaganda. Overheden en andere belanghebbenden maken steeds vaker gebruik van AI om boodschappen te verspreiden en de publieke opinie te beïnvloeden. Deze bots kunnen duizenden berichten per dag versturen, vaak met subtiele en goedgeformuleerde inhoud die moeilijk van echte meningen te onderscheiden is.

Rusland wordt vaak genoemd als een van de grootste spelers in het gebruik van digitale propaganda. Sinds de Amerikaanse presidentsverkiezingen van 2016 is er veel aandacht voor hoe Russische actoren sociale media hebben gebruikt om politieke verdeeldheid te zaaien en de publieke opinie te beïnvloeden. Dit laatste incident, waarbij de foutmelding van een Russische pro-Trump bot openbaar werd, is een klein maar veelzeggend voorbeeld van hoe alomtegenwoordig en geavanceerd deze praktijken zijn geworden.

Dat wil echter niet zeggen dat Rusland alleen dit soort fratsen uithaalt. Het is ook niet duidelijk wie precies achter elk account zit. Je kunt er vanuit gaan dat elk land met een veiligheidsdienst en werkend overheidsapparaat op een bepaalde manier dit soort tools inzet.

Een iets ander voorbeeld is bijvoorbeeld de inzet van nepaccounts, door de Nederlandse overheid zelf. Zo gaven in 2021 gemeenten al aan dat zij nepaccounts gebruikte om burgers op social media te volgen.

Het incident met de 'verlopen AI-credits' toont de kwetsbaarheid van zelfs de meest geavanceerde propagandasystemen. Terwijl technologie zich blijft ontwikkelen, moeten we alert blijven op de manieren waarop het kan worden gebruikt om publieke opinie te beïnvloeden.