De Australische overheid heeft maandag in Canberra een spoedoverleg georganiseerd over een verontrustende en snelle toename van
AI-gegenereerd kindermisbruikmateriaal. Experts spreken van een “explosie” van digitale beelden, waarbij kunstmatige intelligentie wordt ingezet om kinderen virtueel te misbruiken, zonder dat er ooit een camera aan te pas komt. Dit meldde
News.com.au op maandag.
Grote zorgen om deepfake-technologie
Het ministerie van Binnenlandse Zaken van Australië noemde de bijeenkomst "dringend en noodzakelijk". Kinderrechtenorganisaties, techbedrijven, politie en juristen kwamen samen in Canberra om te bespreken hoe kinderen beter kunnen worden beschermd tegen AI-gegenereerde deepfakes.
De aanleiding was een stijging van 1.325% in meldingen van AI-gegenereerd misbruik in slechts één jaar tijd. Veel van die beelden zijn zogeheten
deepfakes, waarbij bestaande foto's van kinderen worden gebruikt om realistisch ogende, maar volledig gemanipuleerde pornografische beelden te maken.
"AI wordt ingezet om schade aan te richten bij kinderen. Australië moet snel in actie komen om te voorkomen dat deze systemen zich sneller ontwikkelen dan onze wetten kunnen bijhouden," zei Colm Gannon van het International Centre for Missing and Exploited Children Australia.
Slachtoffers bestaan echt, ook al zijn de beelden nep
Hoewel het om digitale creaties gaat, benadrukken experts dat zulke deepfakes echte schade aanrichten bij kinderen. In veel gevallen gaat het om beelden die via sociale media of gesloten netwerken verspreid worden.
Wetgeving en techbedrijven onder druk
De Australische regering wil de wetgeving nu snel aanpassen om AI-misbruik expliciet strafbaar te stellen. Ook moeten platforms sneller optreden bij meldingen van deepfake-kindermisbruik. Daarbij wordt gekeken naar strengere verplichtingen voor bedrijven als Meta, TikTok en X (voorheen Twitter).
Internationale samenwerking nodig
Australië roept ook andere landen op om samen te werken in de strijd tegen AI-misbruik. De productie en verspreiding van deze beelden stopt namelijk niet bij landsgrenzen. Er wordt gesproken over een internationaal verdrag dat specifiek gericht is op AI en kinderrechten.