VN waarschuwt: ‘Sterkere aanpak nodig tegen AI-gedreven deepfakes’

De Verenigde Naties (VN) roepen op tot strengere maatregelen tegen de opmars van AI-gegenereerde deepfakes, vanwege toenemende zorgen over verkiezingsmanipulatie en digitale fraude. Dat blijkt uit een rapport van de International Telecommunication Union (ITU), gepresenteerd tijdens de AI for Good Summit in Genève.

Volgens het rapport vormen deepfakes – vervalste beelden, video's en audio gegenereerd met behulp van kunstmatige intelligentie (AI) – een groeiend gevaar voor de informatie-integriteit wereldwijd. Deze technologie stelt kwaadwillenden in staat om uiterst realistische media te maken die mensen kunnen misleiden, stemmen kunnen beïnvloeden of financiële markten kunnen verstoren.

"Het vertrouwen in sociale media is fors gedaald", stelt Bilel Jamoussi, hoofd van de ITU-afdeling voor standaardisatiegroepen. "Mensen weten niet meer wat echt is en wat niet." Vooral de krachtige mogelijkheden van generatieve AI, die automatisch geloofwaardige content kan fabriceren, maken het moeilijk om nep van echt te onderscheiden. Dat meldt Reuters.

De ITU adviseert een reeks maatregelen. Zo moeten platforms als X, Instagram en TikTok digitale verificatietools inzetten waarmee content vooraf wordt gecontroleerd op echtheid. Deze technologie – zoals watermerkstandaarden en metadata-insluiting – zou moeten tonen wie de maker is, wanneer het bestand is gemaakt en of het is bewerkt.

Ook roept de ITU op tot internationale samenwerking. Volgens dr. Farzaneh Badiei, oprichter van Digital Medusa, bestaat er nu geen centrale toezichthouder op deepfake-inhoud. “Zonder mondiale afstemming worden deepfakes juist effectiever. Een lappendeken van regels werkt averechts.”

Softwaregiganten zoals Adobe, die zich al sinds 2019 bezighouden met de strijd tegen deepfakes, benadrukken het belang van ‘content provenance’ – het traceren van de herkomst van digitale bestanden. "We moeten zorgen dat gebruikers bij het scrollen op hun tijdlijn kunnen zien: is dit te vertrouwen?", aldus Leonard Rosenthol, technologisch directeur bij Adobe.

Het rapport vermeldt dat de ITU momenteel werkt aan standaarden voor videowatermerken. Aangezien video volgens de VN inmiddels 80% van het wereldwijde internetverkeer uitmaakt, is dat een cruciale stap om manipulatie te herkennen.

Ook de private sector krijgt een duidelijk signaal. Tomaz Levak, oprichter van het Zwitserse AI-bedrijf Umanitek, waarschuwt dat AI steeds krachtiger en moeilijker te doorgronden wordt. Daarom is het volgens hem noodzakelijk dat bedrijven voorlichting geven aan gebruikers, en investeren in digitale vaardigheden.

"Alleen door mensen te trainen en bewust te maken, kunnen we voorkomen dat ze slachtoffer worden van systemen die ze zelf niet meer kunnen begrijpen", aldus Levak.

De oproep van de VN komt op een moment dat meerdere landen verkiezingen voorbereiden, en experts waarschuwen dat deepfake-campagnes gebruikt kunnen worden om desinformatie te verspreiden. De verwachting is dat de druk op overheden en bedrijven zal toenemen om deze dreiging serieus aan te pakken – met technologische, juridische én educatieve middelen.