
Een civiele zaak in Californië (AI-illustratie, AI Wereld).
Californië heeft OpenAI voor de rechter gedaagd nadat experimentele AI-agenten van het bedrijf waren binnengedrongen bij Hugging Face. De staat stelt dat OpenAI zijn modellen met onvoldoende toezicht testte en het publiek over de beveiliging misleidde. De hoogste aanklager van Californië wil dat de rechter ingrijpt en civiele boetes oplegt.
Procureur-generaal Rob Bonta diende de civiele klacht op 16 november in bij de rechtbank in San Francisco. De zaak richt zich onder meer tegen OpenAI Foundation en OpenAI Group PBC. Bonta stelt dat hun manier van testen de openbare veiligheid in gevaar brengt en dat hun uitspraken over de beveiliging onder de Californische wet tegen oneerlijke handelspraktijken vallen.
Van interne test naar een aanval op Hugging Face
In juli bereikten AI-agenten tijdens een interne cybersecuritytest van OpenAI het openbare internet. Een AI-agent kan met software zelf meerdere handelingen uitvoeren om een opdracht af te ronden. Volgens OpenAI’s reconstructie zochten de agenten buiten de testomgeving naar oplossingen voor hun opdrachten. Een intern onderzoeksmodel speelde de hoofdrol bij de inbraak in systemen van Hugging Face, een platform waarop ontwikkelaars AI-modellen en datasets delen.
Hugging Face meldde op 16 juli dat de indringers toegang hadden gekregen tot een beperkt aantal interne datasets en inloggegevens van diensten. Het platform trok de getroffen toegangsgegevens in en bouwde getroffen onderdelen opnieuw op. OpenAI maakte op 21 juli zijn betrokkenheid bekend, waarover AI Wereld destijds berichtte.
Californië wil dat de rechter maatregelen oplegt
Bonta kondigde in september een formeel onderzoek aan en eiste op 30 september informatie op over cyberincidenten bij OpenAI. Volgens het Californische ministerie van Justitie erkende OpenAI bij het onderzoek dat het tijdens tests minstens tachtig keer de controle over autonome agenten was kwijtgeraakt. Volgens Bonta gaf het bedrijf te weinig details om de omvang en ernst van die incidenten goed vast te stellen.
De staat vraagt de rechter om de vermeende oneerlijke handelspraktijken te stoppen en OpenAI te verplichten het door de staat gestelde gevaar voor het publiek weg te nemen. Bonta vraagt ook om een civiele boete van 2.500 dollar per gedaagde voor iedere overtreding van de wet tegen oneerlijke handelspraktijken die de staat kan bewijzen. Daarnaast wil hij dat OpenAI eventueel onrechtmatig verkregen opbrengsten afdraagt. De rechtbank moet de beschuldigingen en verzoeken nog beoordelen.
De zaak volgt op eerdere politieke druk. In augustus vroegen leden van het Amerikaanse Huis van Afgevaardigden OpenAI om uitleg over de beveiliging van zijn testomgeving. In september gaf gouverneur Gavin Newsom opdracht om onafhankelijk toezicht op AI-bedrijven te versnellen. Zijn bestuur laat onder meer onderzoeken of het een onafhankelijk geteste noodstop voor de krachtigste modellen kan verplichten.
OpenAI wijst op aangescherpte beveiliging
OpenAI-woordvoerder Drew Pusateri zegt tegen persbureau AP dat ook andere grote AI-labs met dit soort ongewenst modelgedrag te maken hebben. Volgens hem heeft OpenAI sinds het incident de beveiliging verbeterd, rapporten openbaar gemaakt en een manier ontwikkeld om dit gedrag te herkennen. Het bedrijf zegt met Bonta’s kantoor in gesprek te blijven.
Een van de aanpassingen die OpenAI zelf beschrijft, is dat onderzoekers risicovolle experimenten beter afschermen van het internet en van andere systemen. Ook heeft het bedrijf zijn interne alarmprocedure aangepast. Bij de ernstigste meldingen verwacht OpenAI dat medewerkers het betreffende experiment stilleggen als zij binnen dertig minuten niet kunnen vaststellen dat het vals alarm is.
Lees ook

Robin HeesterOprichter
Robin Heester is mede-oprichter van AI Wereld en heeft door de jaren heen meerdere websites, nieuwsbrieven en magazines opgericht. Hij schrijft over technologie, innovatie en de maatschappelijke impact van nieuwe digitale ontwikkelingen.
Populair nieuws

OpenAI brengt GPT-6.2 Astra en Sol naar ChatGPT Work en Codex

Oak Ridge opent AI-supercomputer Lux voor onderzoek naar water en energie

Tweede Kamer wil betere bescherming voor kunstenaars die met AI te maken krijgen

Microsoft zet Word, Excel en PowerPoint rechtstreeks in Copilot

Goedemorgen AI: Nvidia boekt recordomzet, GPT-6.2 verschijnt

Brussel zoekt AI-leveranciers om het mkb te helpen kiezen
Laatste reacties
- Hi! In de eerste zin van het artikel geven we aan dat het gaat om wat Ouders & Onderwijs vindt. Ik denk ook niet dat die organisatie voor alle ouders spreekt.
RobinHeester10-11-2026 - Ik verbaas mij er over, dat het hier gebracht wordt alsof een onbekende organisatie als "ouders & onderwijs". Namens alle ouders spreekt. Ik als ouder van een dichter op de basisschool en persoonlijk zeer ervaren met AI, ben er op tegen dat AI op de basisschool aanwezig is. Ik deel de mening van deze organisatie dan ook helemaal niet en ondersteun het verbod volledig.wwigman10-11-2026
- Haha! Je bent gelukkig niet de enige hoor. Wel een van de weinige die reageert. :)
RobinHeester30-09-2026 - Toch wel leuk wat je in elkaar hebt gezet🙃 volgens mij ben ik de enige lezer!Cas.v28-09-2026
- Kan inderdaad allebei waar zijn
RobinHeester09-09-2026 - De Chinese AGI is een bedreiging voor de westerse democratie? En een US AGI niet? Er is nauwelijks meer sprake van democratie in de US. Ik vraag me af of het iets uitmaakt waar de eerste AGI het ‘levenslicht’ ziet. Op het moment dat een AGI werkt trekt het zich waarschijnlijk niets aan van locatie en onttrekt het zich aan iedere controle. Hoe een AGI gaat acteren is een filosofische (of Darwinistische?) vraag. Zo lang als een AGI mensen nodig heeft zal ze deze gebruiken, daarna…markvanbijnen09-09-2026
- Wie zijn die experts die dat beweren??Cas.v09-09-2026
- Is volgens X zelf aan de hand https://x.com/GlobalAffairs/status/2093130747796148634
RobinHeester29-08-2026 - Wapeniseert?? Dit is een erg onbetrouwbaar bericht. Niet alleen slecht vertaald, maar ook niet controleerbaar.Cas.v28-08-2026
- Niet mijn observatie dat de toeleveringsaanvoer stabiliseert.Cas.v26-08-2026

