Meta: misleidende AI content op Facebook en Instagram

Meta, het moederbedrijf van Facebook, heeft netwerken geïdentificeerd die misleidende inhoud verspreiden, vermoedelijk gegenereerd door AI. Het gaat bijvoorbeeld om opmerkingen die Israël prijzen voor de aanpak van de oorlog in Gaza, geplaatst onder berichten van wereldwijde nieuwsorganisaties en Amerikaanse wetgevers.

Deze netwerken gebruikten geavanceerde AI-tools om teksten en afbeeldingen te creëren die bedoeld waren om gebruikers te manipuleren.

Het sociale mediabedrijf meldt in haar kwartaalrapport dat deze nepaccounts zich voordeden als Joodse studenten, Afro-Amerikanen en andere bezorgde burgers, gericht op publiek in de Verenigde Staten en Canada. Meta schrijft de campagne toe aan het in Tel Aviv gevestigde politieke marketingbedrijf STOIC, maar deze wilde niet in het openbaar reageren.

Meta heeft de Israëlische campagne vroegtijdig verwijderd en gelooft niet dat nieuwe AI-technologieën hun vermogen om beïnvloedingsnetwerken te verstoren hebben belemmerd. Ze zagen geen AI-gegenereerde afbeeldingen van politici die realistisch genoeg waren om te worden verward met authentieke foto's.

Mike Dvilyanski, hoofd security research bij Meta, licht toe: "Er zijn verschillende voorbeelden binnen deze netwerken van hoe ze waarschijnlijk generatieve AI-hulpmiddelen gebruiken om inhoud te creëren. Misschien geeft het hen de mogelijkheid om dat sneller of met meer volume te doen. Maar het heeft onze capaciteit om ze te detecteren niet echt beïnvloed."

Belangrijk is dat Meta in hun rapport voor het eerst melding maakt van het gebruik van tekstgebaseerde generatieve AI-technologie sinds eind 2022.

Onderzoekers maken zich zorgen dat generatieve AI, die snel en goedkoop mensachtige teksten, beelden en audio kan produceren, kan leiden tot effectievere desinformatiecampagnes en verkiezingen kan beïnvloeden.

Onlangs heeft Meta de AI-mogelijkheden op haar platformen uitgebreid, dit is wat je daarvan moet weten.