OpenAI’s Sora: veelbelovend, maar doorspekt met vragen en beperkingen

OpenAI’s nieuwe video-app Sora laat gebruikers korte AI-video’s maken (zelfs met zichzelf in de hoofdrol) maar in een hands-on test blijkt dat de ervaring zowel indrukwekkend als zorgelijk is, volgens journalisten van The Verge die de app testten.

Met Sora kun je 10 seconden durende AI-video’s genereren op basis van tekstprompts. Je kunt “cameos” gebruiken waarin je eigen gezicht (of dat van een ander) wordt ingezet, mits die persoon toestemming geeft. Bij de lancering steeg Sora snel naar de top van gratis apps in de Amerikaanse App Store.

In gebruik viel op dat de app een “content advisory” toont bij aanmelding en dat er waarschuwingen zijn over wat wel of niet geproduceerd mag worden. Bijvoorbeeld: een prompt om te “rennen door een weiland” werd eerst afgewezen als «content violation», maar met een subtielere woordkeuze (“frolicking”) slaagde de AI alsnog.

De AI-generatie van je gezicht is opvallend accuraat qua uiterlijk, maar de stem en expressie kloppen vaak minder. In sommige video’s ziet het gezicht in het begin wat vervormd uit. Bij een testvideo verscheen het woord “running” als problematisch, wat illustreert dat contentfilters soms streng of inconsistent zijn. 

Wat betreft gebruiksgemak: bij lancering kreeg de auteur een melding dat de server onder zware belasting stond, met de instructie “try again later”. De app vereiste een hoofdbewegingstest plus een gesproken unieke reeks om je gezichtscameo te kunnen activeren. 

Verder zijn er twijfels over de watermerken en privacy. OpenAI belooft dat elke video meerdere signalen bevat die aangeven dat het AI-gegenereerd is (zoals metadata en bewegende watermerken). Maar in tests bleek dat screenshots en geluidopnamen toch mogelijk zijn, wat het risico op verspreiding van deepfakes vergroot. 

In de gemeenschap is de ontvangst gemengd. Sommigen waarschuwen dat ultra-realistische video’s met echte gezichten een “misinformation nightmare” kunnen veroorzaken.

Intern uiten ook medewerkers hun zorgen. John Hallman (pre-training bij OpenAI) zei openlijk dat hij zich zorgen maakte bij de release van Sora 2, al erkent hij de inspanning van het team. Boaz Barak, technicus, noemde het “een mix van zorg en opwinding”. Hij erkende de technische prestatie, maar benadrukte dat het te vroeg is om te zeggen dat OpenAI alle valkuilen ontwijkt. 

Sora’s aantrekkingskracht zit misschien vooral in de mogelijkheid om jezelf of vrienden in humoristische of absurde scènes te plaatsen. De vraag is of die aantrekkingskracht op lange termijn volstaat om een volwaardig sociaal platform te vormen, of dat het slechts een momentopname blijft.

Bij de test liep het tegen beperkingen aan: contentfilters, serverbelasting en inconsistenties in beeld of audio. Bovendien verdient privacy bijzondere aandacht; je kunt je account niet los verwijderen zonder je ChatGPT-account te wissen, en je kunt niet met dezelfde e-mail of telefoon opnieuw inschrijven (hoewel OpenAI aangeeft eraan te werken).

OpenAI zegt dat ze streng zijn op het gebruik van publieke figuren: video’s met publieke figuren kunnen geweigerd worden tenzij expliciete toestemming is gegeven.  Maar in tests bleek dat je wel een generiek “tech-exec” prompt kunt laten werken die doet denken aan publiek bekende types, zolang je niet direct de naam gebruikt.