Storing bij ChatGPT: dit is er aan de hand

OpenAI heeft vandaag te maken met een storing die zowel ChatGPT als de AI-coderingstool Codex treft. Gebruikers konden de diensten tijdelijk niet laden. Op de officiële statuspagina van het bedrijf verscheen een waarschuwingsbericht: de storing was zestien minuten aan de gang op het moment van de melding en OpenAI gaf aan de oorzaak te onderzoeken.

Het is niet de eerste keer dat OpenAI's diensten haperen. Monitoringsdienst StatusGator registreerde de afgelopen 24 uur dertig gebruikersmeldingen over problemen met Codex. Eerder dit jaar, in februari, lag ChatGPT plat voor een groot deel van de gebruikers, waarbij de storing gesprekken, zoekopdrachten, beeldgeneratie én Codex tegelijk raakte.

Of de huidige storing inmiddels verholpen is, was op het moment van publicatie nog niet bevestigd. Gebruikers die problemen ondervinden kunnen de officiële statuspagina van OpenAI raadplegen via status.openai.com.

Op basis van wat zichtbaar is in de screenshot en wat er bekend is over hoe OpenAI's infrastructuur werkt, zijn dit de meest waarschijnlijke oorzaken:

ChatGPT en Codex draaien op enorme hoeveelheden GPU-rekenkracht. Als er plotseling veel meer verkeer binnenkomt dan verwacht — bijvoorbeeld door een nieuwe feature-lancering of mediaaandacht — kunnen de load balancers het niet bijhouden en weigeren nieuwe verbindingen.

OpenAI rolt regelmatig updates uit. Een buggy deployment kan een cascading failure veroorzaken: één kapotte service trekt andere services mee omlaag. Het feit dat zowel ChatGPT als Codex tegelijk uitvallen wijst hier sterk op. Ze delen waarschijnlijk onderliggende infrastructuur (authenticatie, API-gateway, of een gedeeld model-serving systeem).

Als de service die inlogverzoeken afhandelt hapert, kunnen gebruikers geen sessie opbouwen. Ook al draaien de modellen zelf prima. Dit verklaart waarom gebruikers de interface "niet kunnen laden" zonder dat de modellen zelf down zijn.

OpenAI draait grotendeels op Microsoft Azure. Een regionale storing bij Azure kan meerdere OpenAI-diensten tegelijk raken, zonder dat OpenAI zelf iets aan de code heeft veranderd.

Dat is de interessantste aanwijzing. Codex is een aparte applicatie, maar beide maken gebruik van dezelfde onderliggende OpenAI API-infrastructuur. Als de storing alleen ChatGPT trof, zou het waarschijnlijk een frontend-probleem zijn. Omdat Codex er ook bij zit, is de kans groot dat het probleem dieper ligt, in de gedeelde API-laag of het authenticatiesysteem.

OpenAI's eigen statuspagina zei "investigating," wat betekent dat ze op dat moment zelf ook nog niet wisten wat er precies mis was.