Slimme detector ontmaskert deepfakes met bijna 100% nauwkeurigheid

Met de opkomst van steeds geavanceerdere AI worden ook Deep fakes steeds overtuigender en gevaarlijker. Maar daar komt nu verandering in, dankzij een nieuwe universele deep fake detector die is ontwikkeld door onderzoekers met hulp van Google. Deze slimme technologie is in staat om allerlei soorten AI gemanipuleerde video's te herkennen, en dat doet hij beter dan alle eerdere methodes.

De meeste detectie tools richten zich op slechts een type deep fake: gezichten die verwisseld zijn. Dat maakt ze beperkt bruikbaar in een wereld waarin AI ook volledig nieuwe, synthetische video's kan creëren. Deze nieuwe detector kijkt breder en controleert onder andere op subtiele afwijkingen in gezichten, achtergronden, belichting en bewegingen.

In tests wist de tool tussen de 95% en 99% van de deep fakes correct te herkennen. En dat ging niet alleen om filmpjes met mensen erin: ook computer gegenereerde beelden uit bijvoorbeeld games als GTA V werden als nep herkend. Daarmee is het systeem dus veelzijdiger dan ooit.

De toepassing van zo’n tool is belangrijk. Deep fakes worden op grote schaal misbruikt voor bijvoorbeeld nepnieuws, financiële oplichting en niet-consensuele AI porno. Vooral vrouwen, inclusief bekende actrices en zelfs scholieren, zijn hier vaak slachtoffer van.

Het is nog niet bekend of platforms zoals YouTube de technologie binnenkort gaan gebruiken. Wel willen de ontwikkelaars de detector uitbreiden naar live video’s, zoals Zoom- of Teams-calls. Dat zou betekenen dat deepfakes in realtime kunnen worden opgespoord, wat een flinke stap vooruit zou zijn in de strijd tegen online misleiding.

De toekomst van digitale veiligheid ziet er met deze technologie een stuk hoopvoller uit. Maar of het genoeg is om de golf van AI desinformatie te keren? Dat zal de tijd leren, met het continu veranderende AI landschap, betere tools en steeds sterkere computers zullen opsporings tools als deze continu moeten innoveren.