Moeten we ons zorgen maken over OpenAI’s nieuwe video generator Sora?

OpenAI’s Sora is nu breed beschikbaar en luidt een nieuw tijdperk in waarin het creëren van video’s makkelijker is dan ooit. De ontwikkeling brengt echter ook grote risico's met zich mee. Zo zijn experts bank dat de verspreiding van frauduleuze content, of “nepnieuws”, eenvoudiger is dan ooit. De ontwikkelingen roepen belangrijke vragen op over de betrouwbaarheid van digitale media en de ethische implicaties van zulke geavanceerde tools. Kunnen we in de toekomst nog wel echt van nep onderscheiden? Of belanden we in een dystopische wereld waar we voortdurend moeten twijfelen aan alles wat we zien en horen?

Cybercriminelen maken al gebruik van diverse kunstmatige intelligentie (AI) tools om misbruik te maken van slachtoffers. Zo kunnen scammers de stemmen nabootsen van familieleden om mensen te misleiden. Hiervoor hebben ze tegenwoordig maar schokkend weinig geluidsmateriaal nodig om een AI mee te trainen. Daarnaast zien we al meerdere jaren dat deepfakes worden ingezet om politieke desinformatie te verspreiden of om individuen te chanteren.

OpenAI probeert het scammers zo lastig mogelijk te maken. Zo komen de video's van Sora altijd met een visuele watermerk. Daarnaast zijn er verschillende restricties. Zo weigert de AI tool om bekende mensen of merken af te beelden. Ook expliciete of gewelddadige content is logischerwijs verboden. De maatregelen moeten ervoor zorgen dat de technologie op een verantwoorde manier wordt gebruikt en misbruik zoveel mogelijk wordt voorkomen.

Nog een weg te gaan

Ondanks de zorgen, is Sora op het moment waarschijnlijk nog niet goed genoeg om mensen te misleiden. Wie met de tool aan de haal gaat zal zien dat het op bepaalde vlakken uitstekend presteert, maar dat het op verschillende gebieden ook zijn beperkingen heeft. Het is bijvoorbeeld bijzonder goed in het genereren van natuurbeelden. Echter, bij het afbeelden van mensen in beweging ondervindt de AI meer moeite. Vaak bewegen mensen in een soort slow motion en mist de tool de benodigde context. Hierdoor bewegen mensen soms op onlogische wijze, negeren ze de natuurwetten, en wisselen de benen van personen soms zonder verklaring.

Lees ook

OpenAI introduceert creditsysteem voor Sora, ChatGPT Plus en Pro: details en functies op een rij

Bekijk hier video's gemaakt met Sora