Grootste deepfake-porno website stopt definitief

De populairste website voor deepfake-porno is dit weekend definitief offline gehaald. Dat meldt 404 Media.

De website “Mr. Deepfakes” trok een stroom aan giftige gebruikers aan die, volgens onderzoekers, bereid waren tot wel $1.500 te betalen voor video's waarin beroemdheden of andere doelwitten via geavanceerde gezichtswisseltechnieken zonder toestemming in pornografische scènes zijn geplaatst.

Op het hoogtepunt telde het platform meer dan 43.000 video’s, die samen ruim 1,5 miljard keer bekeken zijn. De video's zijn geproduceerd door bijna 4.000 makers die profiteerden van deze onethische en inmiddels illegale handel.

Maar sinds dit weekend zijn al die video’s niet meer beschikbaar en zijn ook de fora waarop nieuwe verzoeken zijn gedaan verdwenen, aldus 404 Media. Volgens een bericht op het platform is de stekker eruit getrokken toen “een cruciale dienstverlener” de service “permanent” beëindigde.

“Gegevensverlies heeft het onmogelijk gemaakt om door te gaan,” bevestigt Mr. Deepfakes, met de waarschuwing om geen vertrouwen te stellen in imitatiewebsites die in zijn plaats opduiken. “We keren niet terug. Elke website die dat beweert is nep. Dit domein zal uiteindelijk verlopen en we zijn niet verantwoordelijk voor toekomstig gebruik. Dit bericht wordt over ongeveer een week verwijderd.”

Het is onduidelijk welke dienst Mr. Deepfakes precies heeft afgesloten, maar volgens onderzoekers was een van de belangrijkste onderdelen voor het maken van deepfakes de gratis toegang tot GPU’s via Google Colab-notebooks.

De val van Mr. Deepfakes komt kort na de goedkeuring van de Amerikaanse Take It Down Act, een wet die het illegaal maakt om niet-consensuele intieme beelden (NCII) te maken of te verspreiden, inclusief synthetische NCII gegenereerd met AI.

Platforms die een melding ontvangen van NCII hebben 48 uur de tijd om het materiaal te verwijderen, anders kunnen ze worden aangepakt door de Federal Trade Commission (FTC).

De handhaving gaat pas volgend voorjaar van start, maar de dienstverlener zou Mr. Deepfakes alvast kunnen hebben verbannen in reactie op de nieuwe wet. Vorig jaar begon Mr. Deepfakes al met het blokkeren van bezoekers uit het Verenigd Koninkrijk, toen daar vergelijkbare wetgeving werd aangekondigd, meldt Wired.

Het sluiten van Mr. Deepfakes lost het deepfake-probleem echter niet op. In 2022 explodeerde het aantal deepfakes doordat AI-technologie steeds realistischer synthetische NCII mogelijk maakte, wat in 2023 leidde tot een waarschuwing van de FBI over het toenemende gebruik ervan in sextortion-zaken. Maatregelen zoals het lager ranken van expliciete deepfakes in zoekresultaten door Google hadden weinig effect; Google weigerde platforms als Mr. Deepfakes te demoten tenzij er sprake was van een “groot aantal verwijderingsverzoeken”.

Volgens onderzoekers was Mr. Deepfakes, een anonieme persoon die vermoedelijk een 36-jarige ziekenhuismedewerker uit Toronto is, de bedenker van de software die deze explosie aanjoeg. Zijn tool DeepFaceLab is “het leidende deepfake-programma” genoemd en zou volgens schattingen achter 95% van alle deepfake-video’s zitten. De software is meer dan 8.000 keer gekopieerd op GitHub.

Voor gewone gebruikers bood zijn platform video's te koop aan, meestal boven de $50 als ze realistisch waren. Gevorderde gebruikers gebruikten de fora om verzoeken in te dienen of hun eigen deepfakevaardigheden te verbeteren.

De illegale activiteiten van Mr. Deepfakes begonnen op Reddit, maar verhuisden in 2018 naar een eigen platform na een verbod. Daar deelden duizenden makers technische kennis. De forums werden volgens onderzoekers “de enige bruikbare bron van technische ondersteuning voor het maken van seksuele deepfakes”.

Aangezien de community eerder is verhuisd, is het waarschijnlijk dat ze opnieuw een platform zullen vinden om hun activiteiten voort te zetten, mogelijk onder een nieuwe naam. In 2023 schatten onderzoekers dat het platform meer dan 250.000 leden had, waarvan velen mogelijk snel een alternatief zullen zoeken of zelf een vervanger proberen op te zetten.

Tot slot wijst 404 Media erop dat de GitHub-repository van DeepFaceLab – hoewel gearchiveerd in november en niet langer bewerkbaar – nog steeds beschikbaar is om te kopiëren en gebruiken. Veel voormalige leden van Mr. Deepfakes hebben elkaar intussen weer gevonden op Telegram, waar synthetische NCII ook regelmatig wordt gedeeld.

Hany Farid, professor aan UC Berkeley en expert op het gebied van gemanipuleerde digitale beelden, zegt tegen 404 Media: “Hoewel deze sluiting een goed begin is, zijn er nog veel meer van dit soort sites. We mogen hier dus niet stoppen.”