Opkomst van generatieve AI zorgt voor vervaging van realiteit op het internet, volgens Google-onderzoek

Google-onderzoekers hebben onlangs een alarmerend rapport uitgebracht waarin ze waarschuwen dat generatieve AI het internet overspoelt met nepinhoud. Dit is opvallend, aangezien Google zelf actief bezig is met het promoten van dezelfde technologie.

Volgens de studie, die door 404 Media werd ontdekt en nog niet gepeerreviewd is, gebruiken veel mensen generatieve AI om nepinhoud te creëren en te verspreiden, zoals vervalste afbeeldingen en video's. De onderzoekers hebben tientallen eerdere studies en ongeveer 200 nieuwsartikelen over het misbruik van generatieve AI geanalyseerd.

De onderzoekers stellen dat de technologie vaak wordt gebruikt voor het manipuleren van beelden en het vervalsen van bewijsmateriaal. Dit gebeurt meestal met de bedoeling om de publieke opinie te beïnvloeden, fraude te plegen, of winst te maken.

Een verontrustende trend is dat generatieve AI steeds geavanceerder en makkelijker toegankelijk wordt, wat betekent dat zelfs mensen zonder technische kennis deze technologie kunnen gebruiken. Dit zorgt voor een vervaging van de grens tussen werkelijkheid en fictie, wat leidt tot een verwrongen beeld van de realiteit bij het publiek.

Opvallend is dat het rapport niet ingaat op de eigen mislukkingen van Google met generatieve AI, ondanks dat het bedrijf zelf ook verantwoordelijk is geweest voor het verspreiden van nepinhoud.

De studie concludeert dat de massale productie van lage kwaliteit en misleidende inhoud kan leiden tot een groeiend wantrouwen onder mensen ten aanzien van digitale informatie. Gebruikers worden overbelast met de taak om te verifiëren wat echt en wat nep is.

Het rapport waarschuwt ook dat prominente figuren soms ongunstig bewijsmateriaal als AI-gegenereerd kunnen wegzetten, wat het lastiger maakt om de waarheid te achterhalen.

Met de voortdurende integratie van AI in verschillende producten, lijkt het probleem alleen maar groter te worden.