Nvidia heeft bekendgemaakt dat zijn Groq 3 LPX-accelerator volledig in productie is. Daarmee verandert de eerder aangekondigde Groq-technologie in hardware die daadwerkelijk op grote schaal kan worden uitgerold. Nvidia koppelt Groq 3 aan zijn Vera Rubin-platform en kiest daarmee opvallend genoeg niet voor één type AI-chip, maar voor verschillende processors die elk een ander deel van AI-inferentie voor hun rekening nemen.
De productiestart is belangrijk omdat AI-bedrijven steeds meer geld en energie besteden aan inference: het daadwerkelijk uitvoeren van getrainde AI-modellen. Vooral AI-agents kunnen daarbij enorme hoeveelheden tokens verwerken, waardoor snelheid, energieverbruik en kosten per token steeds belangrijker worden.
Wat is Nvidia Groq 3 LPX?
Groq 3 LPX is een gespecialiseerde accelerator voor snelle AI-inferentie en vormt binnen Nvidia's infrastructuur een aanvulling op Vera Rubin NVL72. Het systeem is vooral ontworpen voor het decode-gedeelte van inference, waarbij een taalmodel zijn antwoord token voor token genereert.
Nvidia presenteerde de architectuur eerder dit jaar, maar sprak toen nog over beschikbaarheid in de tweede helft van 2026. De nieuwe status "full production" is daarom relevanter dan de specificaties zelf: Nvidia zegt nu klaar te zijn om de technologie daadwerkelijk op grotere schaal te leveren.
Een volledig LPX-rack bevat volgens Nvidia maximaal 256 Groq 3 LP30-processors. Het systeem biedt:
- 315 PFLOPS aan FP8-inference-rekenkracht;
- 128 GB SRAM;
- 40 petabyte per seconde aan SRAM-bandbreedte;
- 640 TB/s aan onderlinge scale-up-bandbreedte;
- maximaal 256 chips per rack.
SRAM is snel geheugen dat veel dichter bij de processor zit dan het geheugen waarop grote AI-systemen doorgaans sterk leunen. De combinatie van veel SRAM en extreem hoge bandbreedte moet vooral wachttijden tijdens het genereren van tokens verminderen.
Dat maakt Groq 3 fundamenteel anders dan simpelweg "nog een Nvidia-GPU".
Nvidia verdeelt één AI-workload over verschillende chips
De grotere verandering zit in de manier waarop Nvidia AI-inferentie wil organiseren. In plaats van iedere fase van een AI-verzoek door hetzelfde type processor te laten uitvoeren, combineert het bedrijf verschillende architecturen binnen één AI-infrastructuur.
Vera Rubin NVL72 blijft de zware GPU-rekenmachine. Groq 3 LPX wordt daarnaast ingezet voor onderdelen waarbij zeer snelle en voorspelbare tokenproductie belangrijk is. Nvidia beschrijft dit als een heterogene inference-architectuur.
Dat onderscheid wordt belangrijker naarmate AI-systemen complexer worden.
Een traditionele chatbot ontvangt bijvoorbeeld een vraag en genereert één antwoord. Een AI-agent kan binnen dezelfde opdracht tientallen of honderden modelinteracties uitvoeren, tools gebruiken, informatie ophalen, subagents inschakelen en eerdere resultaten opnieuw aan het model aanbieden.
Daardoor verschuift de economische vraag van "hoe krachtig is deze chip?" naar "hoeveel bruikbaar AI-werk kan een datacenter per watt en per dollar uitvoeren?"
Groq past opvallend goed binnen die verschuiving.
Van Groq-technologie naar Nvidia-product
De massaproductie laat bovendien zien hoe snel Nvidia de technologie uit zijn Groq-deal in zijn eigen infrastructuurstrategie heeft verwerkt. Groq bouwde zijn reputatie juist rond gespecialiseerde Language Processing Units, of LPU's, die zijn geoptimaliseerd voor snelle en voorspelbare inference.
Groq 3 LPX wordt nu expliciet onderdeel van het Vera Rubin-ecosysteem.
De eerste implementatie is volgens Nvidia bovendien al bekend. Cloudbedrijf Nebius wordt de eerste aanbieder die Groq 3 LPX inzet binnen zijn AI-infrastructuur. De systemen moeten later dit jaar operationeel worden. Daarna moet ook Groq zelf de hardware gebruiken voor zijn inferencecloud.
Dat is strategisch belangrijk. Nvidia verkoopt hiermee niet alleen een accelerator, maar probeert een groter gedeelte van de infrastructuur achter AI-diensten te controleren: van GPU-rekenkracht en CPU's tot netwerkverbindingen, software en gespecialiseerde inferenceprocessors.
Waarom AI-inferentie de volgende grote chipstrijd wordt
Inference wordt belangrijker omdat AI-modellen na hun training voortdurend rekenkracht nodig hebben om daadwerkelijk gebruikt te worden. Iedere ChatGPT-achtige reactie, gegenereerde afbeelding, codeopdracht of actie van een AI-agent veroorzaakt nieuwe berekeningen.
Bij agents kan die hoeveelheid snel oplopen.
Nvidia verwijst naar gegevens van OpenRouter waaruit volgens het bedrijf blijkt dat agentic workloads ongeveer 15 keer zoveel tokens kunnen verwerken als eenvoudige chatverzoeken. Een agent voert immers niet noodzakelijk één prompt uit, maar kan een hele reeks onderling verbonden taken afwerken.
Voor cloudbedrijven verandert daardoor de rekensom.
Een klein verschil in energieverbruik of tokens per seconde lijkt bij één gebruiker nauwelijks relevant. Bij miljoenen gebruikers en continu draaiende AI-agents kan hetzelfde verschil grote gevolgen hebben voor stroomverbruik, beschikbare datacentercapaciteit en uiteindelijk de prijs van een AI-dienst.
Nvidia probeert daarom steeds nadrukkelijker prestaties per watt en kosten per token als maatstaven voor AI-infrastructuur neer te zetten.
Nvidia claimt tot 30 keer meer AI-werk per megawatt
Nvidia publiceerde tegelijk nieuwe metingen waarin Vera Rubin NVL72 tot 30 keer meer agentic inference-throughput per megawatt behaalt dan GB300 NVL72. De meting gebruikte AgentX-workloads met vastgelegde agentic coding-sessies, waaronder lange contexten, toolcalls en subagents.
Dat cijfer vereist wel belangrijke nuance.
De resultaten zijn door Nvidia zelf gemeten en zijn volgens Nvidia nog in afwachting van beoordeling door SemiAnalysis. De winst van 30 keer werd bovendien bereikt binnen een specifieke DeepSeek V4 Pro-workload en bij een bepaald prestatieniveau van 160 tokens per seconde per gebruiker. Het cijfer kan daarom niet zonder meer worden vertaald naar "Rubin is 30 keer efficiënter" voor iedere AI-toepassing.
Nvidia claimt daarnaast tot 35 keer lagere kosten per miljoen tokens ten opzichte van GB300 NVL72 onder zijn geteste omstandigheden. Ook dat is vooralsnog een leveranciersbenchmark en geen onafhankelijk vastgesteld algemeen kostenvoordeel.
De onderliggende focus is minstens zo relevant als het spectaculaire cijfer: Nvidia optimaliseert zijn nieuwe infrastructuur nadrukkelijk voor agentic AI, waarbij niet alleen maximale rekenkracht maar vooral throughput, latency, stroomverbruik en kosten tegelijkertijd tellen.
Wat betekent Groq 3 voor Nvidia's concurrentiepositie?
Groq 3 geeft Nvidia een gespecialiseerde inference-architectuur naast zijn dominante GPU-platform. Dat kan belangrijk worden als gespecialiseerde chips bij bepaalde AI-workloads efficiënter blijken dan algemene GPU-infrastructuur.
Juist op dat terrein ontstaat concurrentie.
Cloudbedrijven ontwikkelen steeds vaker eigen AI-chips om minder afhankelijk te worden van externe accelerators en de kosten van inference te verlagen. Nvidia reageert daar niet alleen op met snellere GPU's, maar met een steeds breder systeem waarin verschillende processors, netwerkcomponenten en software als één platform samenwerken.
Groq 3 maakt die strategie concreter.
De chip hoeft de Rubin-GPU namelijk niet te vervangen. Nvidia kan juist proberen beide architecturen zo te combineren dat iedere processor het gedeelte van een AI-workload uitvoert waarvoor hij het efficiëntst is.
Dat kan voor klanten uiteindelijk belangrijker zijn dan welke individuele chip de hoogste theoretische rekenkracht heeft.
Lees ook
De echte test begint in de datacenters
De overgang naar massaproductie maakt Groq 3 LPX voor het eerst een operationeel Nvidia-product in plaats van hoofdzakelijk een technologisch vooruitzicht. De volgende vraag is daarom niet meer wanneer de hardware verschijnt, maar hoe goed het systeem presteert zodra cloudproviders het op grote schaal inzetten.
Voor Nvidia staat daarbij meer op het spel dan de verkoop van één nieuwe accelerator.
Als AI-agents inderdaad veel meer inferencecapaciteit gaan vragen, worden energie, latency en kosten per token cruciale beperkingen voor de verdere groei van AI. Nvidia probeert die markt nu te bedienen met gespecialiseerde chips binnen één geïntegreerde architectuur.
Groq 3 LPX laat daarmee vooral zien waar Nvidia denkt dat de volgende fase van de AI-chipstrijd wordt uitgevochten: niet alleen bij het trainen van grotere modellen, maar bij het zo goedkoop en snel mogelijk laten draaien ervan.
Robin HeesterOprichter
Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.
Populair nieuws
Xiaomi onthult drie eigen chips voor telefoons, lokale AI en auto's
OpenAI lanceert ChatGPT Ads in Europa, maar er zit een belangrijke beperking aan
Hugging Face mogelijk te koop voor $13 miljard: wie wil het hart van open AI bezitten?
RUM Group tekent GPU-contract van $13,7 miljard, maar geld voor de bouw ontbreekt
IBM bouwt mainframechip die Arm en Z op dezelfde cores draait
Laatste reacties
- Hoi Robin, Ik heb je via e-mail benaderd over onze samenwerking en ook een follow-up gestuurd, maar ik heb tot nu toe nog geen reactie ontvangen. Omdat je hier actief bent, zou ik het erg waarderen als je je inbox even zou kunnen controleren en me, wanneer je tijd hebt, kunt laten weten wat de status is. Alvast bedankt!
selenadaniel00025-08-2026 - Ja, de transcriptie van het gesprek is gedaan met AI. Dank voor de feedback over de herhalingen, daar kan ik zeker nog wat scherper op zijn.RobinHeester21-08-2026
- Goed artikel, alleen jammer dat er zoveel Ai bij gebruikt is om het te schrijven, veel herhalingen, het had een stuk compacter gekund.🙃Cas.v21-08-2026
- Voor zover ik weet moet je bij academische publicaties vooral eerlijk en transparant zijn over hoe en waar je AI hebt gebruikt. En de oorspronkelijke informatiebronnen kunnen dan gewoon volgens APA worden vermeld. Maar daar weet ik het fijne ook (nog) niet van.RobinHeester13-08-2026
- Ik ben benieuwd wat dit gaat betekenen voor de APA verwijzingen in academische publicaties.Cas.v13-08-2026
- Wie wordt er beter van.....zal Meta wel zijnhenk.h10-07-2026
- Wat voor weer wordt het vandaaghenk.h03-07-2026
- Dit artikel is van 1 april, dus deze belasting is niet echt. Gelukkig maar. :)RobinHeester12-05-2026
- Of een ander land..dat lijkt mij beterHan10-05-2026
- Op 1 april 2028 komt er een AI die al het kantoorwerk van alle Nederlanders overneemt. Heb ik van horen zeggen.RobinHeester01-04-2026
Loading