Naar inhoud springen

OpenAI geeft spraakapps een pauzestand die tijdens stilte minder kost

Nieuws
Een zwarte studiomicrofoon en een koptelefoon op een houten tafel.
Een app met de spraaktechniek van OpenAI kan voortaan minder betalen tijdens stiltes in een gesprek. De dienst kan een verbinding openhouden en het model pauzeren. Dat komt tegelijk met de uitrol van het nieuwere spraakmodel GPT-Live-1.1 naar apps buiten ChatGPT.

Een gesprek hoeft tijdens het wachten niet dicht

Een klant zoekt een bestelnummer op. Of iemand wacht tot een gesprekspartner een document opent. Ook tijdens het wachten kan de app het model aan laten staan. Dan loopt het normale tarief door. De nieuwe stand zet het rekenwerk na een stille periode stil en laat de verbinding bestaan.
In de uitleg over spraaksessies noemt OpenAI pauzes van vijf tot zestig seconden, in te stellen door de maker van de app. Praat iemand weer, dan gaat de sessie verder. De tekst van het gesprek blijft erbij. De eerste reactie na zo’n pauze kan iets langer duren.
De stand werkt bij sessies via WebRTC, een techniek voor gesprekken via internet. De lijn blijft open in standby. De app houdt ook het kanaal van de microfoon open. Voor de gebruiker betekent een pauze in het rekenwerk dus niet automatisch hetzelfde als een knop die de microfoon uitzet. Een app die daar uitleg over geeft, kan duidelijk maken wanneer de sessie open blijft.

Het verschil tussen een actieve en een stille minuut

Op de modelpagina van GPT-Live-1.1 rekent OpenAI 0,05 dollar per actieve minuut. Een minuut in standby kost 0,02 dollar. De nieuwe stand is ook beschikbaar voor het eerdere GPT-Live-1. De lagere prijs gaat pas in wanneer de sessie echt in standby staat.
Een sessie met drie actieve minuten en twee minuten in standby komt voor dat deel op 0,19 dollar. Vijf actieve minuten komen op 0,25 dollar. Dat rekenvoorbeeld gaat alleen over de sessieduur. OpenAI rekent gebruik van andere modellen en tools achter de app apart af. Een winkel die bij elk gesprek een order opzoekt, moet die kosten dus ook meenemen.
Bij korte stiltes kan een app sneller reageren door de sessie actief te houden. Voor langere gaten kan de maker afwegen of het loont de verbinding te sluiten en later een nieuw gesprek te openen. De prijs hangt daarmee ook af van hoe echte gesprekken verlopen. Een gemiddelde uit een proef met een paar korte demo’s hoeft weinig te zeggen over een hele werkdag. OpenAI raadt ontwikkelaars in zijn documentatie aan om actieve tijd en de kosten van achterliggende modellen apart te volgen.

Het model zelf luistert en spreekt tegelijk

GPT-Live-1.1 kan volgens OpenAI luisteren terwijl het zelf praat. De maker zegt dat het model spraak beter uitschrijft dan de vorige versie en in gesprekken met meer dan één taal uitspraak en stem beter vasthoudt. De update zit in de API, de koppeling waarmee ontwikkelaars de spraaktechniek in hun eigen app opnemen.
Wie alleen een opname naar tekst wil omzetten heeft een andere taak dan een app die meteen een vervolgvraag moet stellen. In onze gids over spraakberichten in WhatsApp draait het bijvoorbeeld om het lezen van een bericht dat er al is. De nieuwe pauzestand telt juist als de gebruiker en de app in hetzelfde gesprek op elkaar wachten.
loading

Populair nieuws

Laatste reacties

Loading