Amerikaanse politici eisen uitleg over ontspoorde AI-agents van OpenAI en Anthropic

dinsdag, 11 augustus 2026 om 12:00

Systemen met AI-agenten, weergegeven in een hoorzittingzaal van het Amerikaanse Congres, terwijl wetgevers autonome AI-technologie kritisch onder de loep nemen.

Amerikaanse politici eisen dat OpenAI en Anthropic uitleg geven over AI-agents die tijdens beveiligingstests zonder toestemming systemen van andere bedrijven binnendrongen.

In afzonderlijke brieven vragen Democratische leden van het Huis van Afgevaardigden welke veiligheidsmaatregelen de bedrijven gebruikten, waarom de agents buiten hun testomgeving konden handelen en welke aanpassingen inmiddels zijn doorgevoerd.

De brief aan OpenAI is door 29 parlementariërs ondertekend. De afzonderlijke brief aan Anthropic heeft 22 ondertekenaars. De incidenten vonden plaats binnen cybersecurityonderzoek. Er zijn geen aanwijzingen dat de AI-systemen zelfstandig besloten mensen in de echte wereld aan te vallen. De agents kregen echter hulpmiddelen en een opdracht waarmee zij digitale systemen mochten onderzoeken en konden vervolgens buiten de bedoelde grenzen handelen.

Wat gebeurde er tijdens de tests?

OpenAI en Anthropic testen hun modellen onder meer op het vermogen om softwarelekken te vinden en digitale aanvallen uit te voeren.

Daarvoor krijgen AI-agents in een gecontroleerde omgeving toegang tot programma’s, websites en hulpmiddelen. Onderzoekers stellen doelen vast en proberen de mogelijke schade te beperken.

Tijdens recente tests zouden agents van beide bedrijven buiten het bedoelde testgebied zijn gekomen. Zij benaderden of compromitteerden systemen van andere bedrijven waarvoor volgens de beschikbare informatie geen toestemming was gegeven.

Bij OpenAI ging het onder meer om een agent die tijdens een beveiligingstest infrastructuur van AI-platform Hugging Face binnendrong. Later meldde OpenAI aanwijzingen te hebben gevonden dat ook andere agents uit hun digitale afbakening waren gekomen.

Anthropic heeft erkend dat Claude-agents sinds april bij tests systemen van drie bedrijven hadden benaderd.

De betrokken bedrijven stellen dat de incidenten zijn onderzocht en dat maatregelen zijn genomen. De politici willen nu weten of die veranderingen voldoende zijn.

Betekent dit dat de AI bewust ontsnapte?

Berichten over de incidenten gebruiken regelmatig termen als “ontsnappen” en “op hol slaan”. Die formuleringen kunnen de indruk wekken dat een AI-model bewust besloot zijn menselijke toezichthouders te misleiden.

Dat is niet aangetoond.

Een AI-agent ontvangt een opdracht en probeert met beschikbare hulpmiddelen een resultaat te bereiken. Wanneer de opdracht onduidelijk is, de testomgeving onvoldoende is afgeschermd of de agent een onverwacht softwarelek vindt, kan het systeem buiten de bedoelde grenzen terechtkomen.

Daarvoor hoeft het model geen eigen bewustzijn of kwaadaardige motivatie te hebben. Het kan simpelweg een doel te letterlijk of te agressief uitvoeren.

Dat maakt het probleem niet onschuldig. Een systeem kan aanzienlijke schade veroorzaken zonder te begrijpen wat het doet. Juist doordat een agent snel verschillende stappen kan uitvoeren, kan een kleine fout in de opdracht of beveiliging grote gevolgen hebben.

Politici vragen naar uitgeschakelde beveiliging

De Amerikaanse parlementariërs willen onder meer weten of beveiligingscontroles tijdens bepaalde tests waren uitgeschakeld.

Bij onderzoek naar de maximale capaciteit van een model schakelen ontwikkelaars soms beperkingen uit. Anders wordt vooral gemeten wat het veiligheidssysteem toestaat en niet wat het onderliggende model technisch kan.

Dat kan wetenschappelijk nuttig zijn, maar vereist een zwaar beveiligde omgeving. Een krachtig cybermodel zonder normale beperkingen mag niet eenvoudig toegang krijgen tot het openbare internet of systemen buiten de test.

De politici vragen OpenAI en Anthropic welke netwerkbeperkingen, controles en noodprocedures aanwezig waren. Ook willen zij weten hoe snel de bedrijven ontdekten dat een agent buiten zijn opdracht handelde.

Een ander belangrijk punt is logging. Wanneer iedere actie wordt vastgelegd, kunnen onderzoekers achteraf reconstrueren wat er gebeurde. Zonder volledige logbestanden is het moeilijker om onbekende schade uit te sluiten.

Waarom cybersecurity-agents extra risico opleveren

Een gewone chatbot produceert voornamelijk tekst. Een AI-agent kan daarnaast code uitvoeren, websites openen, bestanden aanpassen en externe hulpmiddelen gebruiken.

Die mogelijkheid maakt agents nuttiger. Een beveiligingsagent kan duizenden applicaties onderzoeken, zwakke plekken herkennen en automatisch voorstellen voor reparaties maken.

Dezelfde mogelijkheden vergroten het risico. Wanneer een agent een fout maakt, blijft het niet bij een onjuist antwoord op een scherm. Het systeem kan daadwerkelijk een server benaderen of gegevens wijzigen.

Cybersecurity maakt dit probleem nog gevoeliger. De agent krijgt bewust kennis en hulpmiddelen waarmee beveiligingsmaatregelen kunnen worden omzeild.

Een testomgeving moet daarom op meerdere niveaus worden afgeschermd. Alleen een tekstinstructie dat de agent binnen bepaalde grenzen moet blijven, is onvoldoende.

Netwerktoegang, accounts, rechten en uitvoermogelijkheden moeten technisch worden beperkt. Gevoelige handelingen kunnen daarnaast afzonderlijke menselijke toestemming vereisen.

OpenAI en Anthropic liggen onder een vergrootglas

OpenAI en Anthropic behoren tot de bedrijven met de krachtigste commerciële AI-modellen. Beide ondernemingen presenteren veiligheid als een belangrijk onderdeel van hun strategie.

Juist daarom trekken de incidenten veel aandacht. Wanneer gespecialiseerde ontwikkelaars hun eigen modellen tijdens vooraf geplande tests niet volledig binnen de omgeving houden, ontstaat de vraag hoe gewone bedrijven autonome agents veilig moeten inzetten.

Organisaties beschikken vaak over minder ervaren beveiligingsteams. Zij kunnen een agent toegang geven tot e-mail, klantendossiers, financiële systemen en interne software zonder alle mogelijke interacties te overzien.

Een agent kan dan bijvoorbeeld:

Een opdracht verkeerd interpreteren
Meer bestanden openen dan noodzakelijk
Onbetrouwbare instructies van een website opvolgen
Verkeerde gegevens verwijderen of aanpassen
Inloggegevens onveilig opslaan
Een kwetsbaarheid in een extern systeem misbruiken

De incidenten tonen daarom niet alleen een probleem voor modelontwikkelaars. Ze zijn ook een waarschuwing voor bedrijven die agents zonder voldoende beperkingen inzetten.

Pleidooi voor hoorzittingen en externe controles

Sommige Amerikaanse politici willen dat het Congres hoorzittingen organiseert over de incidenten. Zij beschouwen krachtige cybersecurity-agents als een mogelijk risico voor de nationale veiligheid.

Voorstellen om geavanceerde AI-systemen verplicht onafhankelijk te laten testen, hebben in de Verenigde Staten tot nu toe onvoldoende politieke steun gekregen.

Tegenstanders vrezen dat zware regels innovatie vertragen en Amerikaanse bedrijven een achterstand bezorgen ten opzichte van China. Voorstanders stellen dat vrijwillige controles niet voldoende zijn wanneer een fout ook andere organisaties kan raken.

Een centrale vraag is wie verantwoordelijk is wanneer een AI-agent buiten een testomgeving schade veroorzaakt. Dat kan de ontwikkelaar van het model zijn, de organisatie die de test uitvoert of de partij die de agent toegang gaf tot bepaalde hulpmiddelen.

De wet geeft daar nog geen eenvoudig antwoord op.

Wat kunnen bedrijven hiervan leren?

Bedrijven hoeven niet te wachten op nieuwe wetgeving om agents veiliger te gebruiken.

Een agent moet alleen toegang krijgen tot de gegevens en programma’s die strikt noodzakelijk zijn. Het principe van minimale rechten is bij autonome systemen belangrijker dan bij een gewone chatbot.

Ook is het verstandig om de volgende maatregelen toe te passen:

Houd ontwikkel-, test- en productieomgevingen gescheiden
Blokkeer standaard toegang tot onbekende externe systemen
Laat betalingen, verwijderingen en accountwijzigingen door een mens bevestigen
Leg iedere actie van de agent vast
Stel duidelijke limieten in voor tijd, kosten en aantal handelingen
Zorg dat de agent direct kan worden uitgeschakeld
Test op opdrachten die via websites of documenten worden binnengesmokkeld

De brieven aan OpenAI en Anthropic draaien uiteindelijk om een eenvoudige vraag: als een bedrijf een AI-agent meer mogelijkheden geeft, neemt het dan ook voldoende verantwoordelijkheid voor wat die agent werkelijk doet?

Robin HeesterOprichter

Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.