Wat zijn GPU’s en waarom zijn ze cruciaal voor AI?

De graphics processing unit, een chip ontworpen om pixels te renderen en polygonen over een scherm te duwen, is stilletjes uitgegroeid tot het belangrijkste onderdeel van de AI-infrastructuur.

Ooit beperkt tot gaming-pc’s en werkstations, vormt de GPU nu het hart van AI-datacenters die stroom verbruiken als hele stadswijken, waar de grote taalmodellen en generatieve AI-systemen worden getraind die sectoren van zorg tot financiën hervormen.

De vraag naar deze chips is zo hevig gegroeid dat Nvidia, de dominante fabrikant, is uitgegroeid tot het meest waardevolle bedrijf ter wereld; een opmerkelijke opmars die laat zien hoe centraal GPU-rekenkracht is geworden in de AI-wedloop.

Om te begrijpen waarom GPU’s ertoe doen, helpt het om ze te vergelijken met de processor die de meeste mensen kennen: de centrale verwerkingseenheid, of CPU. Een CPU is het algemene brein van een computer. Snel, flexibel en gemaakt om een breed scala aan taken sequentieel af te handelen. Meestal heeft hij tussen de 4 en 64 hoogwaardige cores, elk ontworpen om complexe instructies razendsnel één voor één uit te voeren.

Een GPU daarentegen is een gespecialiseerde chip die eind jaren negentig op de markt kwam. Hij is gebouwd rond een fundamenteel andere architectuur, met duizenden kleinere, eenvoudigere cores die ontworpen zijn om veel berekeningen gelijktijdig uit te voeren. Waar een CPU uitblinkt in diepe, sequentiële redenering, excelleert een GPU in breedte: het draaien van duizenden parallelle operaties op hetzelfde moment.

Nvidia’s GeForce 256, gelanceerd in 1999, wordt vaak gezien als de eerste consumenten-GPU, al werd de term zelf door Nvidia bedacht als marketingonderscheiding. De chip nam het zware werk van het renderen van 3D-graphics over van de CPU, waardoor games rijker oogden en vloeiender draaiden dan ooit.

Bijna tien jaar na hun introductie bleven GPU’s vooral het domein van gaming en visuele computing. Hun vermogen om pixelkleuren, lichtberekeningen en geometrische transformaties parallel te verwerken, maakte ze uitzonderlijk geschikt voor de realtime-beelden waar gamers om vroegen.

In het midden van de jaren 2000 beseften onderzoekers echter dat de parallelle architectuur van de GPU veel verder reikte dan graphics. In 2006 bracht Nvidia CUDA (Compute Unified Device Architecture) uit, een programmeerplatform waarmee ontwikkelaars GPU-cores konden inzetten voor algemene berekeningen, niet alleen voor rendering.

De introductie van CUDA was een breukmoment. Wetenschappers begonnen GPU’s te gebruiken om moleculaire interacties te modelleren, weersystemen te simuleren en satellietbeelden te verwerken. De GPU werd een algemene parallelle computer, vermomd als grafische kaart.

De band tussen GPU-architectuur en kunstmatige intelligentie is geen toeval, maar architectuur. Het trainen van een AI-model, met name een neuraal netwerk, vereist dat een enorme hoeveelheid wiskundige bewerkingen gelijktijdig worden uitgevoerd. In de kern draait deep learning om matrixvermenigvuldiging: gigantische roosters met getallen vermenigvuldigen en transformeren over vele lagen om patronen in data te leren.

Precies daarvoor zijn GPU’s ontworpen. Een moderne AI-trainingsklus kan biljoenen floating-pointoperaties per seconde (FLOPS) vergen. Zulke workloads op zelfs de krachtigste CPU’s draaien is onpraktisch traag. GPU’s, met hun duizenden geparallelliseerde cores, kunnen deze berekeningen orders van grootte sneller voltooien.

De impact daarvan werd in 2012 glashelder, toen Alex Krizhevsky, Ilya Sutskever en Geoffrey Hinton twee Nvidia-GPU’s gebruikten om AlexNet te trainen, een diep neuraal netwerk dat de ImageNet-competitie voor visuele herkenning overtuigend won. Het nieuws sloeg in als een bom in de machine learning-gemeenschap. Wat eerder weken op CPU’s kostte, lukte in dagen op consumenten-GPU’s. De AI-periode had zijn motor gevonden.

Vandaag domineert Nvidia de AI-chipmarkt met de H100 en de recentere B200 Blackwell-GPU’s, speciaal gebouwd voor de eisen van grootschalige AI-training en -inference. Een enkele Nvidia H100, geprijsd rond $30.000 (£24.000), levert 4 petaFLOPS aan AI-prestaties. Datacenters stapelen nu duizenden van deze chips in clusters die tientallen megawatt aan stroom verbruiken.

Concurrenten voeren het tempo op om deze dominantie uit te dagen. AMD’s Instinct MI300X boekt terreinwinst bij cloudproviders, terwijl Google’s Tensor Processing Units (TPU’s) – maatwerksilicium speciaal voor AI-workloads – een propriëtair alternatief bieden. Ook Intel schuift op met zijn Gaudi-acceleratorlijn.

Toch blijven GPU’s, ondanks alle nieuwkomers, de lingua franca van de AI-infrastructuur. Hun combinatie van parallelle rekenkracht, volwassen software via platforms als CUDA en de diepte van het ecosysteem maakt ze de standaardkeuze voor het trainen van grensverleggende modellen.

Van het renderen van fantasielandschappen in videogames tot het trainen van systemen die code kunnen schrijven, ziekten kunnen diagnosticeren en kunst kunnen genereren: de GPU heeft een tocht afgelegd naar een van de meest bepalende keerpunten in de geschiedenis van het computeren. Wat begon als een specialistische chip voor consumentenentertainment werd de cruciale infrastructuur van een technologische omwenteling.

Naarmate AI-modellen groter en capabeler worden, lijkt de vraag naar GPU-rekenkracht niet te vertragen. Als AI het brein van dit nieuwe tijdperk is, dan is de GPU onmiskenbaar de spierkracht.