OpenAI legt deepfake-generatie van Martin Luther King Jr. in Sora stil

OpenAI heeft het tijdelijk niet mogelijk gemaakt om nepvideo’s van Martin Luther King Jr. te genereren via de AI-video app Sora. Dat schrijft TechCrunch in een artikel over de beslissing. De stap komt nadat er video’s verschenen waarin de Amerikaanse burgerrechtenleider op kwetsende manieren werd afgebeeld. 

De familie van King had OpenAI gevraagd om in te grijpen. Volgens hen zijn sommige video’s beledigend en oneerbiedig. OpenAI reageerde door alle nieuwe video’s met het gezicht van King voorlopig te blokkeren. Het bedrijf zegt dat families of vertegenwoordigers van bekende personen kunnen vragen om hetzelfde te doen.

Sora is een AI-programma dat tekst kan omzetten in realistische video’s. Gebruikers kunnen bijvoorbeeld een scène beschrijven, en de AI maakt er automatisch een filmpje van. Zo doken ook video’s op waarin Martin Luther King Jr. werd nagespeeld. Sommige daarvan lieten hem dingen doen of zeggen die nooit zijn gebeurd, wat veel mensen ongepast vonden.

De dochter van King, Bernice King, riep mensen daarna op om te stoppen met het delen van zulke beelden. Ze zei dat het pijn doet om te zien dat het gezicht van haar vader wordt gebruikt voor grappen of nepvideo’s. Ook andere families van bekende overledenen, zoals de nabestaanden van Robin Williams, hebben eerder bezwaar gemaakt tegen AI-beelden van hun dierbaren.

De beslissing van OpenAI laat zien hoe moeilijk het is om grenzen te trekken bij AI-technologie. De software kan indrukwekkende video’s maken, maar ook misbruikt worden om echte mensen op onjuiste of kwetsende manieren af te beelden.

OpenAI zegt dat het een evenwicht probeert te vinden tussen creatieve vrijheid en respect voor personen. “We willen dat mensen AI kunnen gebruiken om te leren en te creëren, maar niet op een manier die anderen schaadt,” aldus een woordvoerder. Het bedrijf onderzoekt nu hoe het beter kan voorkomen dat zulke situaties opnieuw gebeuren.

De blokkade van King-beelden geldt voorlopig alleen voor Sora, maar kan later worden uitgebreid. OpenAI zegt dat families van andere historische figuren ook kunnen vragen om hun gelijkenis te beschermen.

Experts verwachten dat dit soort regels steeds belangrijker wordt nu AI-systemen realistische video’s van echte mensen kunnen maken. De vraag is wie bepaalt wat respectvol is, en of het gebruik van een overleden persoon in een AI-video ooit acceptabel kan zijn.

Voor nu is duidelijk dat OpenAI probeert te reageren op de zorgen van nabestaanden, en dat de discussie over AI en respect voor echte mensen nog maar net is begonnen.