Opvallend: Amazon haalt AI-recap van Fallout offline na fouten

Amazon wilde Prime Video kijkers een handje helpen met een slimme, AI gegenereerde video recaps van de populaire Fallout serie. Een snelle manier om je geheugen op te frissen, zo was het idee. Maar die experimentele functie bleek iets minder robuust dan gehoopt. Binnen korte tijd haalden fans meerdere missers eruit, waarna Amazon de video stilletjes heeft verwijderd. Wat ging er precies mis?

De video recap werd gepromoot als een testfunctie die kijkers in een klap moest bijpraten over de gebeurtenissen uit het eerste seizoen. Maar al snel bleek dat de AI niet altijd even goed begreep in welke wereld Fallout zich afspeelt.

In een voorbeeld beschreef het systeem een scene als een “flashback uit de jaren 50”, terwijl het juist plaatsvindt in 2077. Dat is geen klein foutje: het verandert de volledige context van de scene.

Daarnaast had de AI moeite met het in kaart brengen van relaties tussen personages. Fans merkten op dat de recap verschillende verbindingen verkeerd uitlegde, waardoor nieuwe kijkers juist misleid zouden kunnen worden. Het verhaal dat al complex is met meerdere tijdlijnen, lore en achtergrondverhalen kunnen die fouten ervoor zorgen dat kijkers het verhaal compleet verkeerd begrijpen.

Amazon heeft tot nu toe niet gereageerd op vragen over waarom de recap offline is gehaald. Maar het voorval past in een bredere trend: bedrijven experimenteren steeds vaker met AI gegenereerde samenvattingen, en dat gaat toch nog vaker gemist dan verwacht werd. Apple en Google moesten eerder al vergelijkbare functies terugschroeven vanwege onnauwkeurigheden in samenvattingen van nieuws, tv-series en apps.

Het incident laat opnieuw zien dat AI samenvattingen voorlopig nog niet altijd kunnen tippen aan de menselijke redactie. Vooral bij fictie met rijke werelden en complexe verhaallijnen gaat het snel fout. Toch betekent het niet dat we AI niet gaan terugzien in samenvattingen voor series en shows. AI ontwikkelt zich snel en de toon is al gezet door veel bedrijven.