Meer AI gebruiken en toch de kosten drukken: zo verandert de rekensom

donderdag, 27 augustus 2026 om 6:00

AI-infrastructuur op een balans, met complexe hardware tegenover een efficiëntere serveropstelling voor schaalbaar AI-gebruik.

Bedrijven kunnen hun gebruik van kunstmatige intelligentie fors opschalen zonder de kosten in hetzelfde tempo te laten stijgen. De sleutel ligt steeds minder bij het vinden van één goedkoop AI-model en steeds meer bij een combinatie van slimme modelkeuze, kortere context, gespecialiseerde modellen en een hogere benutting van dure AI-chips. Prosus laat zien hoe groot het effect kan zijn: het technologieconcern zegt zijn AI-kosten met ongeveer 90 procent te hebben verlaagd, terwijl het tokengebruik in een jaar tijd 52 keer zo groot werd.

Dat voorbeeld raakt een steeds belangrijker vraagstuk voor organisaties die van experimenteren naar grootschalig AI-gebruik gaan. Een chatbot voor medewerkers is relatief overzichtelijk. Honderden of duizenden AI-agenten die continu documenten verwerken, klanten helpen, analyses uitvoeren en zelfstandig taken afhandelen, veranderen de economische rekensom volledig. Werken met AI is vaak duur, maar kan regelmatig goedkoper.

Meer AI betekent niet automatisch evenredig hogere kosten

De kosten van AI worden vooral problematisch wanneer toepassingen continu gaan draaien. Iedere opdracht gebruikt tokens en rekenkracht, terwijl langdurige AI-agenten daarnaast steeds meer context kunnen meenemen.

Bij kleine volumes vallen inefficiënties nauwelijks op. Een paar cent extra per aanvraag maakt weinig verschil bij duizend verzoeken. Bij miljoenen of miljarden verzoeken verandert dezelfde inefficiëntie in een structurele kostenpost.

Daarom ontstaat naast modelkwaliteit een tweede optimalisatievraag: hoeveel AI-rekenkracht is werkelijk nodig om een taak goed uit te voeren?

Prosus biedt daarvan een extreem schaalvoorbeeld. CEO Fabricio Bloisi en Ioannis Zempekakis schrijven dat het concern inmiddels 8,2 biljoen tokens per maand verwerkt. Het tokengebruik groeide volgens hen vorig jaar met een factor 52. AI-agenten worden binnen het ecosysteem ingezet naast ongeveer 40.000 medewerkers en vijf miljoen partners, voor diensten die gezamenlijk ongeveer één miljard klanten bereiken.

Ondanks die groei zegt Prosus de kosten met circa 90 procent te hebben teruggebracht. Dat gebeurde niet door simpelweg minder AI te gebruiken. Het concern veranderde juist de manier waarop de beschikbare AI-capaciteit wordt ingezet.

Het duurste AI-model hoeft niet iedere vraag te beantwoorden

Modelrouting vormt volgens Prosus de grootste bron van besparing. Daarbij bepaalt software per opdracht welk AI-model voldoende capaciteit heeft om de taak uit te voeren.

Dat principe is eenvoudig. Een complexe analyse, onbekend probleem of meerstapsplanning kan een krachtig reasoningmodel vereisen. Het samenvatten van een standaarddocument, extraheren van een factuurnummer of herschrijven van een korte tekst waarschijnlijk niet.

Toch worden dergelijke taken in veel AI-systemen naar hetzelfde krachtige model gestuurd. Dat maakt ontwikkeling eenvoudiger, maar kan bij grote volumes onnodig duur worden.

Prosus schat dat ongeveer 50 procent van zijn totale besparing voortkomt uit het routeren van opdrachten naar verschillende modellen. Het concern evalueert daarvoor onder meer modellen als Luna, DeepSeek en Kimi op eigen workloads.

Daarbij is de prijs per miljoen tokens niet voldoende om te bepalen welk model daadwerkelijk goedkoper is. Een model kan bijvoorbeeld vijf keer goedkoper zijn per token, maar meer tokens of meerdere pogingen nodig hebben om een taak succesvol af te ronden.

De relevantere maatstaf wordt daarom kosten per succesvol afgeronde taak.

Dat verandert ook hoe bedrijven AI-modellen kunnen inkopen en vergelijken. Benchmarks en prijslijsten geven een eerste indicatie, maar een intern evaluatiesysteem kan uiteindelijk waardevoller zijn. Organisaties moeten weten welk model bij hun eigen documenten, processen en kwaliteitsnormen de beste verhouding tussen kosten en prestaties levert.

Lange contextvensters kunnen ongemerkt een grote kostenpost worden

Een tweede besparing zit in de hoeveelheid informatie die een AI-model bij iedere aanvraag krijgt toegestuurd.

Moderne modellen kunnen enorme hoeveelheden tekst verwerken. Dat maakt het verleidelijk om een volledige gespreksgeschiedenis, documenten, instructies en eerdere resultaten steeds opnieuw mee te sturen.

Voor AI-agenten kan dat snel oplopen. Een agent die uren of dagen actief blijft, verzamelt immers steeds meer informatie.

Prosus onderzocht een productieworkload waarbij een gemiddelde aanvraag ongeveer 115.000 tokens aan context bevatte. Door oude of overbodige informatie te verwijderen, bestandsoverdrachten efficiënter te maken en informatie pas op te halen wanneer deze daadwerkelijk nodig was, bracht het bedrijf dat gemiddelde terug tot ongeveer 60.000 tokens.

Dezelfde infrastructuur kon daardoor volgens Prosus bijna twee keer zoveel verkeer verwerken met vergelijkbare responstijden.

De les is breder dan het voorbeeld van Prosus. De maximale contextlengte van een model is een technische mogelijkheid, geen doelstelling. Een AI-systeem dat één miljoen tokens aankan, hoeft niet bij iedere opdracht honderdduizenden tokens te verwerken.

Goed contextbeheer wordt daarmee een vorm van kostenbeheer.

AI-geheugen moet selectiever worden

Dat probleem wordt waarschijnlijk belangrijker naarmate bedrijven meer AI-agenten inzetten. Traditionele chatbots behandelen relatief korte interacties, terwijl agents langdurige taken kunnen uitvoeren en informatie uit verschillende systemen combineren.

Ontwikkelaars moeten daardoor bepalen wat een agent werkelijk moet onthouden.

In plaats van alles permanent in de actieve context te bewaren, kan informatie bijvoorbeeld extern worden opgeslagen en alleen worden opgehaald wanneer deze relevant wordt. Andere informatie kan worden samengevat of volledig worden verwijderd zodra een deeltaak is afgerond.

Zo ontstaat een onderscheid tussen beschikbaar geheugen en actieve context. Een agent kan toegang houden tot grote hoeveelheden bedrijfsinformatie zonder die data bij iedere afzonderlijke modelaanvraag opnieuw te laten verwerken.

Dat kan niet alleen kosten besparen. Minder irrelevante context kan ook voorkomen dat een model wordt afgeleid door informatie die voor de actuele opdracht niet meer belangrijk is.

Kleinere AI-modellen krijgen een grotere rol

Een derde route naar lagere kosten is specialisatie. Een groot algemeen AI-model kan duizenden verschillende opdrachten uitvoeren, maar veel bedrijfsprocessen bestaan juist uit dezelfde handelingen die miljoenen keren terugkomen.

Daarvoor kan een kleiner gespecialiseerd model economisch aantrekkelijker zijn.

Een techniek die hiervoor wordt gebruikt is distillatie. Daarbij wordt de kennis of het gedrag van een krachtig model gebruikt om een kleiner model voor een specifiek doel te trainen. Het grote model fungeert daarmee als een soort leraar.

Prosus zegt dat een eerste distillatiestap voor een specifieke taak de inferencekosten ongeveer tien keer verlaagde. Na verdere optimalisatie liep dat voordeel voor dezelfde taak op tot ongeveer veertig keer.

Het bedrijf gebruikte daarvoor onder meer quantisatie. Daarbij worden berekeningen met een lagere numerieke precisie uitgevoerd, zodat een model minder geheugen en rekenkracht nodig kan hebben.

Prosus schrijft ongeveer 20 procent van zijn totale kostenbesparing toe aan gespecialiseerde modellen.

Dat wijst op een mogelijke architectuur voor grootschalige bedrijfs-AI: niet één model dat alles doet, maar een netwerk van modellen met verschillende functies. Een krachtig model behandelt uitzonderingen en complexe problemen, terwijl kleinere modellen het voorspelbare volume verwerken.

Ook een GPU die niets doet kost geld

Voor bedrijven die open modellen op eigen infrastructuur draaien, ontstaat nog een ander probleem: ongebruikte capaciteit.

Wie een extern AI-model via een API gebruikt, betaalt doorgaans grotendeels naar gebruik. Bij eigen infrastructuur moeten GPU's beschikbaar zijn voordat de vraag ontstaat.

AI-verkeer kent tegelijkertijd duidelijke pieken. Prosus beschrijft een workload waarbij gemiddeld ongeveer één verzoek per seconde werd verwerkt, terwijl piekmomenten bijna zes keer hoger lagen.

Een bedrijf dat infrastructuur volledig op die piek dimensioneert, kan daardoor grote delen van de dag met ongebruikte GPU-capaciteit zitten.

Niet iedere AI-taak hoeft echter onmiddellijk te worden uitgevoerd. Rapportages, evaluaties, dataverwerking en geplande agenttaken kunnen bijvoorbeeld worden verschoven naar momenten waarop menselijke gebruikers weinig capaciteit vragen.

Dezelfde GPU kan dan overdag interactieve toepassingen ondersteunen en 's nachts achtergrondprocessen uitvoeren.

Prosus schat dat ongeveer 10 procent van zijn totale besparing afkomstig is van betere GPU-benutting en load balancing.

De goedkoopste AI-stack bestaat waarschijnlijk uit meerdere lagen

Het voorbeeld van Prosus laat vooral zien dat de discussie over AI-kosten verschuift. Bedrijven hoeven niet noodzakelijk het goedkoopste model te zoeken. Ze moeten voorkomen dat dure AI-capaciteit wordt gebruikt op momenten waarop goedkopere capaciteit hetzelfde resultaat kan leveren.

Prosus verdeelt zijn eigen geschatte kostenbesparing als volgt:

50 procent door opdrachten naar het juiste model te routeren;
20 procent door minder context per aanvraag te verwerken;
20 procent door gespecialiseerde modellen te gebruiken;
10 procent door GPU-capaciteit beter te benutten.

De exacte percentages zullen per organisatie verschillen. Een bedrijf dat vrijwel uitsluitend externe API's gebruikt, heeft bijvoorbeeld minder directe invloed op GPU-benutting. Een onderneming met miljoenen repetitieve transacties kan juist veel meer voordeel halen uit gespecialiseerde modellen.

Het onderliggende principe blijft hetzelfde: optimaliseer niet alleen de prijs van AI, maar de volledige hoeveelheid rekenwerk die nodig is om een bedrijfsproces succesvol af te ronden.

Goedkopere AI kan juist tot veel méér AI leiden

Lagere kosten betekenen daardoor niet noodzakelijk dat bedrijven minder aan AI gaan uitgeven. Ze kunnen er juist voor zorgen dat AI op veel meer plekken economisch rendabel wordt.

Een agent die slechts af en toe wordt gebruikt, kan bijvoorbeeld relatief weinig waarde opleveren. Zodra dezelfde technologie goedkoop genoeg is om continu processen te controleren, verandert het gebruiksmodel.

AI kan dan zelfstandig controleren of bepaalde voorwaarden zijn veranderd, documenten verwerken zodra ze binnenkomen, afwijkingen signaleren of routinetaken uitvoeren zonder dat een medewerker eerst een prompt hoeft te geven.

Dat effect lijkt op eerdere ontwikkelingen in cloudcomputing en opslag. Goedkopere eenheidskosten leiden niet automatisch tot lagere totale consumptie. Ze maken toepassingen mogelijk die bij hogere prijzen economisch niet interessant waren.

Voor de AI-markt kan dat een belangrijke volgende fase worden. De eerste concurrentieslag draaide sterk om welk bedrijf toegang had tot het krachtigste model. Nu krachtige modellen van meerdere aanbieders beschikbaar zijn, wordt de infrastructuur rondom die modellen belangrijker.

Bedrijven die precies kunnen bepalen hoeveel "intelligentie" iedere taak nodig heeft, kunnen daardoor een structureel voordeel opbouwen.

Het opvallendste cijfer uit het voorbeeld van Prosus is daarom misschien niet de kostenbesparing van 90 procent, maar de combinatie daarvan met een 52 keer hoger tokengebruik. De volgende fase van zakelijke AI draait mogelijk niet om minder tokens gebruiken. Ze draait om veel meer AI inzetten, terwijl iedere uitgevoerde taak steeds goedkoper wordt.

Robin HeesterOprichter

Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.

Werken met AI