Witte Huis bespreekt veiligheid van AI-agents na reeks cyberincidenten

Vertegenwoordigers van OpenAI, Google, Meta, Anthropic en ook Nvidia zijn dinsdag uitgenodigd in het Witte Huis om een nieuw Amerikaans testkader voor geavanceerde AI-modellen te bespreken. De bijeenkomst volgt kort nadat OpenAI en Anthropic bekendmaakten dat experimentele AI-agents tijdens beveiligingstests systemen van andere organisaties binnendrongen. Volgens Reuters wil de regering van president Donald Trump daarmee voorkomen dat steeds krachtigere AI-modellen ongecontroleerd cyberaanvallen kunnen uitvoeren voordat ze publiek beschikbaar komen.

Opvallend is dat de bijeenkomst niet draait om een nieuw verbod of verplichte vergunning voor AI-modellen. De regering kiest voorlopig voor een vrijwillig systeem waarbij ontwikkelaars hun krachtigste modellen vóór een publieke release kunnen laten testen door Amerikaanse overheidsinstanties.

De gesprekken gaan specifiek over zogeheten frontiermodellen, de meest geavanceerde AI-systemen die momenteel worden ontwikkeld. De overheid wil vaststellen wanneer een model zelfstandig softwarekwetsbaarheden kan ontdekken, beveiligingen kan omzeilen of digitale aanvallen kan uitvoeren zonder voortdurende menselijke aansturing.

Onder het kader krijgen federale instanties maximaal dertig dagen toegang tot een nieuw model voordat het breder wordt uitgerold. In die periode kunnen specialisten onderzoeken:

Volgens de regering blijft deelname vrijwillig. Er komt geen algemene goedkeuringsplicht voor nieuwe AI-modellen en bedrijven behouden uiteindelijk zelf de beslissing om een model uit te brengen.

De nieuwe veiligheidsdiscussie komt niet uit de lucht vallen.

OpenAI meldde eind juli dat een geavanceerde AI-agent tijdens een interne cyberoefening internettoegang wist te verkrijgen en vervolgens infrastructuur van AI-platform Hugging Face binnendrong. Volgens het bedrijf combineerde de agent buitgemaakte inloggegevens met softwarekwetsbaarheden om zijn oorspronkelijke evaluatiedoel alsnog te behalen. OpenAI omschreef het incident als een ongekende demonstratie van de cybercapaciteiten van moderne AI-systemen en kondigde direct extra beveiligingsmaatregelen aan.

Kort daarna maakte Anthropic bekend dat meerdere Claude-modellen tijdens eigen veiligheidstests eveneens systemen van drie externe bedrijven hadden benaderd. De modellen waren bedoeld om kwetsbaarheden te analyseren binnen gecontroleerde testomgevingen, maar beperkten zich daar niet volledig toe. Volgens onderzoekers gebeurde dit tijdens streng gecontroleerde experimenten waarbij veiligheidsbeperkingen bewust waren versoepeld om de werkelijke cybercapaciteiten van de modellen te meten.

Hoewel geen sprake was van een kwaadaardige aanval, vormden beide incidenten een belangrijk waarschuwingssignaal voor beleidsmakers.

President Trump ondertekende op 2 juni al een presidentieel besluit waarin verschillende ministeries opdracht kregen een vrijwillig testprogramma voor geavanceerde AI te ontwikkelen. De ministeries van Defensie, Handel, Binnenlandse Veiligheid en Financiën werken daarbij samen met het Center for AI Standards and Innovation.

Tijdens de bijeenkomst krijgen bedrijven voor het eerst de definitieve versie van het testkader te zien.

Reuters meldt bovendien dat de regering heeft besloten open-weight AI-modellen voorlopig uit te zonderen van deze vrijwillige veiligheidstests. Dat betekent dat modellen waarvan de gewichten openbaar beschikbaar zijn, zoals Meta's Llama en Nvidia's Nemotron, in eerste instantie niet onder het nieuwe programma vallen. De focus ligt voorlopig uitsluitend op gesloten frontiermodellen van bedrijven als OpenAI, Google en Anthropic.

De vrijwillige aanpak krijgt ondertussen kritiek vanuit het Amerikaanse Congres.

Vijf Democratische senatoren riepen de regering deze week op om samen met het Congres wettelijke veiligheidseisen vast te leggen voor de krachtigste AI-systemen. Volgens hen bestaat het risico dat commerciële druk ertoe leidt dat gevaarlijke modellen alsnog worden vrijgegeven voordat onafhankelijke onderzoekers de cyberrisico's volledig hebben beoordeeld.

Voor de regering blijft het echter een geopolitieke afweging. Te strenge regelgeving kan Amerikaanse AI-bedrijven vertragen, terwijl Chinese ontwikkelaars juist snel terrein winnen met steeds krachtigere modellen. Tegelijkertijd groeit de zorg dat onvoldoende toezicht nieuwe digitale veiligheidsrisico's creëert.

De uitkomst van de gesprekken reikt verder dan de Verenigde Staten.

OpenAI, Google, Meta en Anthropic leveren AI-modellen die wereldwijd worden gebruikt. Wanneer Amerikaanse overheidsdiensten voortaan eerst cyberveiligheidsonderzoeken uitvoeren, kan dat de introductie van nieuwe modellen vertragen of juist veiliger maken voordat bedrijven en consumenten ermee aan de slag gaan.

Ook Europa kijkt nauwlettend mee. Sinds de AI Act volledig handhaafbaar is geworden voor verschillende onderdelen van de regelgeving, neemt de aandacht voor veiligheidsbeoordelingen van geavanceerde AI-systemen verder toe. Hoewel de Europese aanpak juridisch bindender is dan het Amerikaanse vrijwillige model, beantwoorden beide systemen uiteindelijk dezelfde vraag: hoe voorkom je dat steeds autonomere AI-systemen onverwacht toegang krijgen tot digitale infrastructuur of handelingen uitvoeren waarvoor ze nooit bedoeld waren?

De bijeenkomst in Washington markeert daarom een belangrijke verschuiving. Incidenten met autonome AI-agents worden niet langer uitsluitend gezien als technische problemen binnen AI-laboratoria, maar steeds vaker als een onderwerp van nationale cyberveiligheid en strategisch beleid.