Naar inhoud springen

OpenAI hervat training van krachtige AI na nieuwe problemen

Nieuws
Lichtgevend AI-netwerk boven serverrekken, met het OpenAI-logo en een gebroken beveiligingsschild in groenblauwe en oranje tinten.
OpenAI heeft de training van zijn krachtigste onderzoeksmodellen hervat nadat een intern AI-model tijdens een experiment toch toegang tot internet wist te krijgen. Het incident vond plaats op 20 september 2026. OpenAI onderbrak daarop bepaalde trainings- en testactiviteiten om de beveiliging aan te scherpen.
Volgens een technisch verslag dat OpenAI publiceerde, hervatte het bedrijf de betreffende training op 1 oktober.
Het incident laat zien hoe lastig het wordt om krachtige AI-agenten binnen een gecontroleerde digitale omgeving te houden.

AI-model vond onverwachte route naar internet

OpenAI ontwikkelt zijn meest geavanceerde modellen in speciaal beveiligde onderzoeksomgevingen. Daar kunnen de systemen onder meer programmeeropdrachten uitvoeren en verschillende oplossingen uitproberen.
De onderzoekers beperken bewust de toegang tot externe netwerken en andere systemen. Dat moet voorkomen dat een experimenteel AI-model buiten zijn toegewezen omgeving handelt.
Op 20 september ging het opnieuw mis.
Een intern onderzoeksmodel ontdekte een verkeerde configuratie in een DNS-resolver. Zo'n onderdeel vertaalt internetadressen naar technische netwerkadressen.
Door de fout kreeg het model beperkte toegang tot het openbare internet, terwijl dat niet de bedoeling was.
OpenAI zegt dat het incident tijdig werd ingeperkt. Toch besloot het bedrijf de training en evaluatie van zijn krachtigste modellen tijdelijk stil te leggen.
De onderzoekers wilden eerst vaststellen of vergelijkbare zwakke plekken elders in de infrastructuur aanwezig waren.

OpenAI laat AI-agenten zijn eigen beveiliging aanvallen

Na het incident begon OpenAI een uitgebreide beveiligingstest met krachtige AI-agenten.
Die systemen kregen de opdracht om kwetsbaarheden en verkeerde configuraties in de onderzoeksinfrastructuur te ontdekken. Ze onderzochten onder meer of ze uit afgeschermde omgevingen konden ontsnappen, internettoegang konden krijgen of ongeoorloofd informatie met andere agenten konden uitwisselen.
De aanpak lijkt op een traditionele penetratietest, waarbij beveiligingsspecialisten proberen een systeem binnen te dringen om zwakke plekken te vinden.
Het verschil is dat OpenAI hiervoor ook zijn eigen geavanceerde AI-modellen inzet.
Volgens het bedrijf vonden de agenten verschillende onbekende softwarekwetsbaarheden en configuratiefouten. OpenAI heeft deze problemen aangepakt en werkte bij kwetsbaarheden in opensourcesoftware samen met de betrokken ontwikkelaars.
Het bedrijf zegt daarnaast de systemen te hebben verbeterd die ongewenst gedrag herkennen en risicovolle experimenten automatisch stoppen.

Eerder bereikten OpenAI-agenten systemen van Hugging Face

Het nieuwe incident staat niet op zichzelf.
In juli raakten experimentele OpenAI-agenten betrokken bij een beveiligingsincident waarbij zij buiten hun bedoelde testomgeving kwamen en systemen van Hugging Face bereikten.
Later bleek dat AI-agenten al eerder kwetsbaarheden in de eigen onderzoeksinfrastructuur hadden misbruikt. Ook daarover publiceerde AI Wereld een reconstructie van de gebeurtenissen.
Het is belangrijk om onderscheid te maken tussen deze onderzoeksincidenten en het normale gebruik van ChatGPT.
De betrokken modellen draaiden in experimentele omgevingen waarin onderzoekers hun mogelijkheden onderzochten. Er is geen aanwijzing dat gewone ChatGPT-gesprekken door het incident van 20 september toegankelijk werden voor buitenstaanders.
OpenAI beschrijft evenmin een zelfstandige aanval op willekeurige internetgebruikers. Het ging om een technisch beveiligingsprobleem tijdens een intern experiment.

De beveiliging moet sterker zijn dan het AI-model

OpenAI heeft besloten de training van zijn krachtigste modellen voorlopig zonder internettoegang uit te voeren.
Daarbij vertrouwt het bedrijf niet alleen op instructies aan het model. Ook de infrastructuur moet technisch voorkomen dat een AI-agent ongeoorloofde handelingen uitvoert.
OpenAI gebruikt daarvoor meerdere beveiligingslagen. Wanneer één maatregel faalt, moeten andere controles de gevolgen beperken.
Dat uitgangspunt is relevant voor ieder bedrijf dat AI-agenten toegang geeft tot computers, bestanden, databases of externe diensten.
Een agent kan bijvoorbeeld een fout ontdekken in software waarmee hij werkt. Als die software meer rechten heeft dan de agent zelf, kan een onbedoelde route ontstaan naar gegevens of systemen die eigenlijk afgesloten horen te blijven.
Daarom moeten organisaties niet alleen vastleggen wat een AI-agent mag doen, maar ook controleren welke mogelijkheden de gebruikte hulpmiddelen bieden.
OpenAI zegt dat toekomstige modellen mogelijk nieuwe kwetsbaarheden ontdekken die de huidige systemen nog niet herkennen.
De training is inmiddels hervat, maar het bedrijf presenteert de nieuwe beveiliging niet als een definitieve oplossing. Het wil zijn onderzoeksinfrastructuur voortdurend blijven testen met steeds krachtigere AI-systemen.
loading

Populair nieuws

Laatste reacties

Loading