OpenAI en Broadcom onthullen Jalapeño, een maatwerkchip voor AI-inferentie

OpenAI en Broadcom hebben Jalapeño onthuld, een maatwerkchip die specifiek is ontwikkeld voor het draaien van large language models (LLM’s). Volgens OpenAI richt de nieuwe processor zich op AI-inferentie: de fase waarin getrainde modellen antwoorden genereren op gebruikersprompts. De aankondiging markeert OpenAI’s eerste eigen AI-accelerator en weerspiegelt de groeiende inzet om meer van de benodigde infrastructuur te bouwen om AI-diensten op schaal te laten draaien.

Jalapeño is een maatwerk-inferentiechip die gezamenlijk is ontwikkeld door OpenAI en Broadcom. OpenAI stelt dat de processor is ontworpen rond de eisen van LLM-inferentie en bedoeld is om de efficiënte uitrol van AI-modellen binnen zijn diensten te ondersteunen.

In tegenstelling tot trainingschips, die worden gebruikt om AI-modellen te ontwikkelen en te verfijnen, zijn inferentieprocessors verantwoordelijk voor het aanbieden van die modellen aan gebruikers. Nu AI-toepassingen miljoenen gebruikers aantrekken en enorme aantallen verzoeken verwerken, is inferentie uitgegroeid tot een cruciale laag in de AI-rekenstack.

OpenAI beschrijft Jalapeño als de eerste accelerator binnen een bredere hardware-roadmap over meerdere generaties, ontwikkeld in samenwerking met Broadcom.

De lancering komt op het moment dat de vraag naar AI-rekenkracht razendsnel blijft groeien. Bedrijven die geavanceerde AI-modellen ontwikkelen, kijken steeds vaker voorbij standaardhardware en investeren in op maat gemaakte silicon die is afgestemd op hun werklasten.

Met dedicated chips kunnen AI-ontwikkelaars prestaties optimaliseren, efficiëntie verbeteren en mogelijk de kosten van het leveren van AI-diensten verlagen. Het geeft organisaties ook meer controle over hun infrastructuur, juist nu toegang tot AI-rekenbronnen een strategische prioriteit is.

Voor OpenAI kan maatwerkhardware helpen om de toenemende rekenvraag op te vangen die gepaard gaat met het wereldwijd bedienen van large language models.

De aankondiging onderstreept OpenAI’s ambitie om een grotere rol te spelen in de infrastructuurlaag van AI. Historisch leunde het bedrijf op externe hardwareplatforms om zijn modellen te trainen en te deployen. Met Jalapeño zet OpenAI een stap naar een meer verticaal geïntegreerde aanpak, waarin software, modellen, netwerken en doelgerichte compute-infrastructuur samenkomen.

De rol van Broadcom in het project benadrukt bovendien het toenemende belang van maatwerk-AI-accelerators binnen de halfgeleiderindustrie. Het bedrijf is uitgegroeid tot een sleutelpartner voor organisaties die gespecialiseerde chips voor AI-werklasten zoeken.

De introductie van Jalapeño kan gevolgen hebben die verder reiken dan OpenAI’s eigen operaties. Nu inferentie één van de grootste kostenposten in AI wordt, kunnen doelgebouwde processors steeds bepalender worden voor de economie van het uitrollen van geavanceerde modellen.

Als het slaagt, kunnen maatwerk-inferentiechips de efficiëntie verhogen, de operationele kosten verlagen en de brede beschikbaarheid van AI-diensten ondersteunen. Voor OpenAI is Jalapeño de eerste stap in wat het bedrijf omschrijft als een langetermijninspanning om dedicated hardware te bouwen voor de volgende generatie AI-systemen.