AI op je eigen pc: Sam Altman ziet liever gedeelde rekenkracht

Sam Altman vindt het inefficiënt als iedereen schaarse geheugenchips in zijn eigen computer stopt om af en toe AI te gebruiken. De OpenAI-topman ziet meer in intensief benutte cloudservers. Maar voor gebruikers draait de keuze ook om privacy, kosten en controle over hun eigen digitale hulpmiddelen.

Altman deed zijn uitspraken in de Cheeky Pint-podcast met John Collison. Zijn redenering: geheugen dat thuis grotendeels ongebruikt blijft, kan in een datacenter meer werk verzetten.

“Je wilt maximale benutting in de cloud”, zei hij, vertaald uit het Engels.

Daarbij noemde Altman geheugen dat slechts 5 procent van de tijd wordt gebruikt. Hij gaf daarvoor in het gesprek geen meetgegevens. Dat percentage is dus geen vastgesteld gemiddelde voor alle thuiscomputers.

Hij kondigde geen beperking op lokale AI aan en pleitte niet voor het verwijderen van werkgeheugen uit pc’s. Zijn kritiek betrof de verdeling van schaarse hardware.

Dat onderscheid is belangrijk. Een pleidooi voor efficiëntere servers beantwoordt nog niet de vraag wie die servers moet beheren, welke gegevens erheen mogen en hoeveel onafhankelijkheid gebruikers willen behouden.

In de discussie lopen verschillende onderdelen van een computer gemakkelijk door elkaar. Een GPU is een processor die veel berekeningen parallel kan uitvoeren. Werkgeheugen houdt de gegevens beschikbaar waarmee processors werken. Voor AI zijn zowel rekencapaciteit als voldoende, snel toegankelijk geheugen van belang.

Wie een AI-model lokaal gebruikt, laat de eigen computer de antwoorden berekenen. Dat heet inferentie. Het is iets anders dan een groot model helemaal opnieuw trainen. Je kunt een bestaand model downloaden en uitvoeren zonder zelf het volledige trainingsproces te doorlopen.

Ook lokale AI heeft niet altijd dezelfde hardwareopstelling. In de documentatie van Ollama, software voor het uitvoeren van AI-modellen, zie je dat een model in het geheugen van een GPU, in het systeemgeheugen of verdeeld over beide kan staan. “AI op je eigen pc” is dus geen eenduidige technische categorie.

Bovendien is niet iedere geheugenchip uitwisselbaar. Een gewone geheugenmodule voor een desktop verschilt van het gespecialiseerde geheugen naast krachtige AI-processors. Chipmaker Micron beschrijft high-bandwidth memory, oftewel HBM, als gestapeld DRAM met een andere verbinding en fysieke opbouw dan traditionele DDR5-modules.

Wie thuis een geheugenmodule weglaat, levert daarmee niet rechtstreeks een bruikbaar HBM-onderdeel voor een AI-server op. De discussie gaat over hoe de industrie haar productie en investeringen verdeelt, niet over het letterlijk verplaatsen van een RAM-stick uit een gaming-pc naar een datacenter.

Er zit een begrijpelijk technisch principe achter het delen van rekenkracht. Een computer die uitsluitend voor één persoon werkt, moet wachten wanneer die persoon niets vraagt. Een gedeelde dienst kan in die tussentijd opdrachten van andere gebruikers verwerken.

Servers kunnen daarnaast meerdere verzoeken combineren. Nvidia legt in zijn documentatie over batchverwerking uit hoe zo’n aanpak de beschikbare hardware beter kan benutten. In plaats van ieder verzoek afzonderlijk af te handelen, verwerkt het systeem geschikte opdrachten gezamenlijk.

Dat kan het aantal afgehandelde taken per seconde vergroten. De winst hangt wel af van het model, de opdrachten en de instellingen. Nvidia waarschuwt zelf dat een ideaal rekenvoorbeeld niet betekent dat alle berekeningen in de praktijk perfect parallel verlopen.

Voor iemand die uitsluitend voor incidenteel AI-gebruik een dure extra computer zou aanschaffen, is dat een relevant argument. Het is redelijk om eerst te vragen of die investering voldoende werk gaat verrichten.

Maar neem een andere situatie: iemand heeft al een geschikte computer voor videobewerking, programmeren of games en gebruikt daarop ook een bescheiden AI-model. Dan kun je niet zonder meer de volledige aanschaf van die computer aan AI toerekenen. De vergelijking moet aansluiten op wat iemand daadwerkelijk extra koopt en verbruikt.

Een hogere serverbezetting, lagere kosten voor de gebruiker en minder energie per bruikbaar antwoord zijn bovendien verschillende uitkomsten. Wie één daarvan aantoont, heeft de andere twee nog niet bewezen.

De uitspraken krijgen extra betekenis naast een oudere toekomstvisie van OpenAI. In september 2025 beschreef medeoprichter Greg Brockman tegenover CNBC een wereld waarin iedereen een eigen toegewezen GPU zou hebben. Tom’s Hardware legde die uitspraak destijds vast.

Brockman had het over AI-assistenten die proactief werk verrichten, ook wanneer hun gebruiker slaapt. De uitspraak kwam van hem, niet van Altman. Het ging om een toekomstbeeld, niet om een aangekondigd consumentenproduct of een toezegging dat iedereen een videokaart zou ontvangen.

Het woord “persoonlijk” zegt hier vooral voor wie de rekenkracht werkt. Het zegt niet automatisch waar de hardware staat of wie de eigenaar is. Een assistent kan volledig op jouw voorkeuren zijn afgestemd en toch draaien op servers die je niet bezit.

Altman besprak een verwante gedachte in zijn interview met Matthew Berman van 21 oktober 2026. Hij vroeg hoeveel GPU’s iemand voor zichzelf en zijn persoonlijke assistent zou willen laten werken. Berman antwoordde dat hij er zoveel mogelijk zou willen hebben.

Altman verwacht dat betere modellen en lagere kosten per taak nieuwe toepassingen uitlokken. Daardoor kan de totale vraag naar rekenkracht blijven groeien, zelfs wanneer afzonderlijke taken goedkoper worden. Dat is zijn verwachting over de markt, geen gemeten bewijs dat iedere gebruiker onbeperkte rekencapaciteit nodig heeft.

De twee visies zijn daarom niet noodzakelijk tegenstrijdig. Veel persoonlijke AI-assistenten kunnen gebruikmaken van centraal beheerde hardware. Maar “iedereen toegang tot AI” is een andere belofte dan “iedereen bezit de infrastructuur voor zijn eigen AI”.

Een exclusief gereserveerde GPU kan overigens ook in een datacenter werkloos blijven. Het efficiëntievoordeel volgt niet automatisch uit de locatie, maar uit de manier waarop capaciteit wordt gedeeld, ingepland en benut.

OpenAI heeft een duidelijk strategisch belang bij grote hoeveelheden beschikbare datacentercapaciteit. Dat blijkt bijvoorbeeld uit de intentieovereenkomst met Nvidia van september 2025. Daarin beschreven de bedrijven plannen voor minstens 10 gigawatt aan Nvidia-systemen voor het trainen en uitvoeren van AI-modellen.

Dat was een aangekondigde ambitie. De overeenkomst bewijst op zichzelf niet dat die volledige capaciteit inmiddels operationeel is. Wel laat zij zien op welke schaal OpenAI zijn infrastructuur wil uitbreiden.

Die uitbreiding draait niet alleen om processors. De oorspronkelijke samenwerking met Foxconn omvat ook onderdelen van de fysieke datacenterinfrastructuur. AI Wereld schreef onlangs over nieuwe gesprekken tussen OpenAI en Foxconn, waarbij een definitieve nieuwe overeenkomst nog ontbrak.

Een pleidooi voor intensiever gebruik van cloudservers sluit dus aan bij OpenAI’s eigen strategie. Dat maakt het technische argument niet automatisch onjuist. Het betekent wel dat gebruikers het moeten afwegen vanuit hun eigen belangen, niet uitsluitend vanuit de behoefte van een aanbieder aan rekenkracht.

Tegelijk zou het onjuist zijn om OpenAI neer te zetten als een bedrijf dat uitsluitend tegen lokale AI is. Het bracht in augustus 2025 zelf de downloadbare modellen gpt-oss-120b en gpt-oss-20b uit. Bij de introductie stelde OpenAI dat de kleinere variant op geschikte apparaten met 16 GB geheugen kon draaien.

Dat is geen garantie dat iedere laptop met 16 GB RAM het model probleemloos en snel uitvoert. Software, hardware en de gekozen uitvoering blijven relevant. Het laat wel zien dat OpenAI zelf toepassingen op consumentenhardware ondersteunt.

Deze modellen zijn bovendien niet simpelweg een offline versie van de volledige ChatGPT-dienst. OpenAI noemt ze open-weightmodellen: de getrainde modelgewichten zijn beschikbaar om zelf te gebruiken. Welke extra mogelijkheden je krijgt, hangt vervolgens af van de software en hulpmiddelen die je eraan koppelt.

De aantrekkingskracht van lokale AI zit niet alleen in de prijs van een antwoord. Voor sommige toepassingen is het belangrijker dat documenten het apparaat niet hoeven te verlaten.

LM Studio beschrijft bijvoorbeeld hoe gebruikers met gedownloade modellen offline kunnen chatten en documenten kunnen verwerken. Voor die lokale functies is na de benodigde downloads geen internetverbinding nodig. Volgens de documentatie blijven de bijbehorende teksten en documenten op de eigen machine.

Dat maakt een praktisch verschil. Wie een vertrouwelijk concept wil samenvatten, kan de eis stellen dat de inhoud niet naar een externe modeldienst gaat. De vraag is dan niet alleen welke oplossing het snelst antwoordt, maar ook welke oplossing aan die eis voldoet.

“Lokaal” op het etiket van een app is daarvoor niet voldoende. Ollama ondersteunt bijvoorbeeld zowel lokale uitvoering als cloudfuncties. De gekozen instellingen en modellen bepalen welke route een verzoek volgt. In onze gids over lokale AI die toch de cloud gebruikt staat welke controles daarbij van belang zijn.

Ook bij een lokaal model kun je externe diensten aansluiten, bijvoorbeeld voor webzoekopdrachten. Dan moet je afzonderlijk bekijken welke informatie die diensten ontvangen. Lokale modelberekening en een volledig lokale werkwijze zijn niet hetzelfde.

Daar staat tegenover dat zelf beheren ook verantwoordelijkheid betekent. Je moet zorgen dat de software, opgeslagen bestanden en eventuele netwerktoegang passen bij het gewenste beveiligingsniveau. Het feit dat een model op je computer draait, is op zichzelf geen volledige beveiligingscontrole.

Offline werken biedt daarnaast een vorm van beschikbaarheid die losstaat van een externe modeldienst. Een eenmaal gedownload, werkend lokaal model hoeft voor zijn gewone antwoorden geen server van die aanbieder te bereiken. Voor nieuwe modellen, updates of actuele informatie uit externe bronnen blijft verbinding natuurlijk wel relevant.

Wie lokale AI en cloud-AI financieel vergelijkt, moet meer meenemen dan een abonnementsprijs. Aan de lokale kant tellen eventuele extra hardware, stroom, beheer en de tijd voor installatie en onderhoud mee. Aan de cloudkant tellen de gekozen dienst, het gebruik en de bijbehorende tarieven mee.

OpenAI erkent die afweging zelf in zijn uitleg over de kosten van zelf gehoste modellen. Volgens het bedrijf kan zelf hosten in bepaalde situaties goedkoper zijn, terwijl een beheerde dienst voordeel kan bieden zodra onderhoud en upgrades meetellen.

Er is dus geen universeel omslagpunt waarbij een eigen GPU zich voor iedereen terugverdient. Iemand die af en toe een tekst laat herschrijven, maakt een andere berekening dan een organisatie die iedere werkdag grote hoeveelheden documenten verwerkt.

Ook de kwaliteit hoort in die vergelijking thuis. Een goedkoop antwoord dat voor de taak onbruikbaar is, vormt geen besparing. Omgekeerd is het onnodig om iedere eenvoudige bewerking met het zwaarste beschikbare model uit te voeren. Een eerlijke vergelijking begint bij dezelfde opdracht en een vergelijkbaar bruikbaar resultaat.

Voor energie geldt een vergelijkbare eis. Alleen vaststellen dat een server vaak bezig is, vertelt niet hoeveel elektriciteit een bepaalde taak kost. Voor een betrouwbare vergelijking moet je bepalen welke systemen en ondersteunende voorzieningen je meetelt, en welke kwaliteit het resultaat moet hebben.

Een gebruiker kan bovendien bewust voor lokale uitvoering kiezen zonder te beweren dat die het goedkoopst is. Onafhankelijkheid of het binnenhouden van gegevens kan een eigen waarde hebben. Die keuze verdwijnt niet doordat een cloudprovider zijn hardware efficiënter weet te benutten.

De keuze is ook niet beperkt tot een GPU in iedere woonkamer of volledige afhankelijkheid van één externe aanbieder. Een organisatie kan bijvoorbeeld een model op eigen gedeelde infrastructuur uitvoeren. Daarmee combineert zij centraal gebruik met een andere verdeling van beheer en zeggenschap.

Voor consumenten bestaat eveneens een combinatie van lokaal en op afstand. Apple beschrijft in zijn architectuur voor Apple Intelligence modellen die op apparaten draaien naast servermodellen via Private Cloud Compute.

Volgens Apple moet dat cloudsysteem persoonlijke gegevens verwerken zonder ze te bewaren of toegankelijk te maken voor Apple. Dat is een privacyclaim en ontwerpkeuze van het bedrijf, geen reden om alle cloudsystemen dezelfde eigenschappen toe te schrijven. Het laat wel zien dat de discussie genuanceerder is dan “lokaal is privé, cloud is dat nooit”.

Een gemengde aanpak kan de afweging per taak maken. Een toepassing kan een lokale samenvatting verwerken zonder de brontekst te versturen en voor een andere, zwaardere opdracht een externe dienst gebruiken. Dan moet wel duidelijk zijn wanneer die omschakeling plaatsvindt en welke gegevens meegaan.

Juist bij een persoonlijke assistent die steeds meer taken overneemt, wordt die zichtbaarheid belangrijk. De gebruiker moet kunnen nagaan waar zijn documenten worden verwerkt, welke onderdelen zonder verbinding blijven werken en wat er overblijft wanneer hij van aanbieder verandert.