Startup ontwikkelt metalen stapels om AI-datacenters koel te houden

Een steeds groter probleem in de wereld van kunstmatige intelligentie is de enorme hoeveelheid warmte die gegenereerd wordt door krachtige AI-chips in datacenters. Volgens een artikel van TechCrunch heeft de startup Alloy Enterprises nu een oplossing bedacht in de vorm van metalen stapels of “metal stacks”, die efficiënte vloeistofkoeling mogelijk moeten maken. Dat zou betekenen dat er minder water nodig is om AI-chips te koelen.

In het artikel wordt uitgelegd dat toekomstig geplande GPU-racks een verbruik van wel 600 kilowatt kunnen bereiken. Dat is bijna het dubbele van sommige grote elektrische auto-snelladers. Deze enorme energievraag leidt direct tot grote koeluitdagingen. Traditionele luchtkoeling voldoet niet langer, en ook bestaande vloeistof­koelings­systemen stuiten op beperkingen wanneer ook onderdelen zoals geheugenmodules en netwerkchips koel gehouden moeten worden. Alloy Enterprises stelt dat zij daarmee juist een gat in de markt ziet: de zogenaamde “peripheral chips” en ondersteunende hardware vormen ongeveer 20 procent van het koelprobleem, en voor die delen bestaan nog weinig goede oplossingen.

Het kernidee van Alloy is om koperplaten te vervaardigen via een proces dat zij “stack forging” noemen. Hierbij worden dunne platen koper op elkaar gestapeld en onder hoge druk en temperatuur vergendeld tot één solide stuk met interne microkanalen waar koelvloeistof doorheen stroomt. Het resultaat is een koelelement dat volgens de startup tot 35 procent betere thermische prestaties levert dan traditionele koelplaten. In tegenstelling tot 3D-geprinte platen is dit stuk gewoon massief en bevat het geen naden of poriën die tot lekkage zouden kunnen leiden. Volgens de startup bereiken deze platen bijna de rauwe materiaaleigenschappen van koper zoals dat door machinaal produceren wordt verkregen.

Voor de operators van datacenters betekent dit mogelijk een manier om intensievere rekeninstallaties beter beheersbaar te houden qua warmteafvoer. Aangezien de grootte en het vermogen van AI-hardware blijven groeien, wordt de efficiëntie van koelsystemen een steeds belangrijker factor: zowel qua operationele betrouwbaarheid als qua energieverbruik. Alloy hoopt met haar technologie een rol te spelen in de infrastructuur­wereld van AI. De startup noemt meerdere grote spelers als potentiële klanten, al worden geen namen bekendgemaakt.

Hoewel de technologie volgens het artikel indrukwekkend klinkt, zijn er kritische vragen te stellen. De kosten voor dit productieproces zijn hoger dan bij traditionele machining, al zou het goedkoper zijn dan 3D-printen. Verder moet nog blijken hoe goed deze technologie op grote schaal werkt: het stapelen, lasersnijden, voorbehandelen en dan diffuseren vergt precisie en schaalbaarheid. Of de relais tussen proefopstellingen en real-world datacenter­omstandigheden soepel verlopen, is nog open.

Deze ontwikkeling van Alloy Enterprises onderstreept hoe de fysieke infrastructuur achter AI een steeds grotere uitdaging wordt. Naarmate AI-modellen zwaarder en complexer worden, groeit ook de noodzaak aan innovatieve hardware­oplossingen. Metalen stapels zoals die van Alloy kunnen deel worden van het antwoord, maar het is de vraag wanneer ze deel zijn van de norm in datacenters.