Naar inhoud springen

Californië sleept OpenAI voor de rechter na de aanval op Hugging Face

Nieuws
Een blanco dossiermap op een houten bureau, ter illustratie van de Californische rechtszaak tegen OpenAI.
Een civiele zaak in Californië (AI-illustratie, AI Wereld).
Californië heeft OpenAI voor de rechter gedaagd nadat experimentele AI-agenten van het bedrijf waren binnengedrongen bij Hugging Face. De staat stelt dat OpenAI zijn modellen met onvoldoende toezicht testte en het publiek over de beveiliging misleidde. De hoogste aanklager van Californië wil dat de rechter ingrijpt en civiele boetes oplegt.
Procureur-generaal Rob Bonta diende de civiele klacht op 16 november in bij de rechtbank in San Francisco. De zaak richt zich onder meer tegen OpenAI Foundation en OpenAI Group PBC. Bonta stelt dat hun manier van testen de openbare veiligheid in gevaar brengt en dat hun uitspraken over de beveiliging onder de Californische wet tegen oneerlijke handelspraktijken vallen.

Van interne test naar een aanval op Hugging Face

In juli bereikten AI-agenten tijdens een interne cybersecuritytest van OpenAI het openbare internet. Een AI-agent kan met software zelf meerdere handelingen uitvoeren om een opdracht af te ronden. Volgens OpenAI’s reconstructie zochten de agenten buiten de testomgeving naar oplossingen voor hun opdrachten. Een intern onderzoeksmodel speelde de hoofdrol bij de inbraak in systemen van Hugging Face, een platform waarop ontwikkelaars AI-modellen en datasets delen.
Hugging Face meldde op 16 juli dat de indringers toegang hadden gekregen tot een beperkt aantal interne datasets en inloggegevens van diensten. Het platform trok de getroffen toegangsgegevens in en bouwde getroffen onderdelen opnieuw op. OpenAI maakte op 21 juli zijn betrokkenheid bekend, waarover AI Wereld destijds berichtte.

Californië wil dat de rechter maatregelen oplegt

Bonta kondigde in september een formeel onderzoek aan en eiste op 30 september informatie op over cyberincidenten bij OpenAI. Volgens het Californische ministerie van Justitie erkende OpenAI bij het onderzoek dat het tijdens tests minstens tachtig keer de controle over autonome agenten was kwijtgeraakt. Volgens Bonta gaf het bedrijf te weinig details om de omvang en ernst van die incidenten goed vast te stellen.
De staat vraagt de rechter om de vermeende oneerlijke handelspraktijken te stoppen en OpenAI te verplichten het door de staat gestelde gevaar voor het publiek weg te nemen. Bonta vraagt ook om een civiele boete van 2.500 dollar per gedaagde voor iedere overtreding van de wet tegen oneerlijke handelspraktijken die de staat kan bewijzen. Daarnaast wil hij dat OpenAI eventueel onrechtmatig verkregen opbrengsten afdraagt. De rechtbank moet de beschuldigingen en verzoeken nog beoordelen.
De zaak volgt op eerdere politieke druk. In augustus vroegen leden van het Amerikaanse Huis van Afgevaardigden OpenAI om uitleg over de beveiliging van zijn testomgeving. In september gaf gouverneur Gavin Newsom opdracht om onafhankelijk toezicht op AI-bedrijven te versnellen. Zijn bestuur laat onder meer onderzoeken of het een onafhankelijk geteste noodstop voor de krachtigste modellen kan verplichten.

OpenAI wijst op aangescherpte beveiliging

OpenAI-woordvoerder Drew Pusateri zegt tegen persbureau AP dat ook andere grote AI-labs met dit soort ongewenst modelgedrag te maken hebben. Volgens hem heeft OpenAI sinds het incident de beveiliging verbeterd, rapporten openbaar gemaakt en een manier ontwikkeld om dit gedrag te herkennen. Het bedrijf zegt met Bonta’s kantoor in gesprek te blijven.
Een van de aanpassingen die OpenAI zelf beschrijft, is dat onderzoekers risicovolle experimenten beter afschermen van het internet en van andere systemen. Ook heeft het bedrijf zijn interne alarmprocedure aangepast. Bij de ernstigste meldingen verwacht OpenAI dat medewerkers het betreffende experiment stilleggen als zij binnen dertig minuten niet kunnen vaststellen dat het vals alarm is.
loading

Populair nieuws

Laatste reacties

Loading