Nvidia zet een hardwarewaakhond naast AI-agents met nieuw platform

Nvidia heeft het Open Agent Safety Platform aangekondigd om AI-agents binnen vooraf ingestelde grenzen te houden. Het platform combineert de nu breed beschikbare OpenShell-software met het nieuwe Sentry-referentieontwerp voor BlueField-4-chips, maar nog niet ieder beschreven hardwareonderdeel is algemeen leverbaar.

Het Open Agent Safety Platform moet agentbeveiliging over meerdere lagen verdelen. De officiële aankondiging van Nvidia noemt software, processors, infrastructuur en robots. Organisaties kunnen volgens Nvidia afzonderlijke onderdelen gebruiken.

OpenShell vormt de beschikbare softwarelaag. De open-sourcesoftware plaatst een afgeschermde runtime rond een agent. Die omgeving kan acties volgen en beleid afdwingen voor onder meer netwerkverkeer, bestanden, inloggegevens en externe hulpmiddelen. De grens staat buiten het model en de agentsoftware. Een agent kan de eigen instructies daardoor niet zomaar gebruiken om het beveiligingsbeleid te veranderen.

OpenShell zelf is niet nieuw. Nvidia introduceerde de runtime al op 16 maart tijdens GTC, samen met NemoClaw en een breder ontwikkelplatform voor agents. AI Wereld beschreef de onderdelen eerder in de uitleg over de Nvidia Agent Toolkit, Nemotron en OpenShell. Het nieuwe feit van 28 september is de bundeling binnen één veiligheidsplatform, de brede beschikbaarheid van OpenShell en de toevoeging van Sentry en een groot partnernetwerk.

Nvidia optimaliseert OpenShell voor zijn Vera-CPU. Het bedrijf zegt ook dat ontwikkelaars de software kunnen uitbreiden naar processors van Arm en Intel. Dat is nog geen bewijs dat iedere configuratie dezelfde bescherming en prestaties levert.

Sentry voegt volgens Nvidia een tweede controlelaag toe. Het systeem draait als een zogenoemde out-of-band-waakhond op een BlueField-4 DPU. Zo’n datacenterprocessor verwerkt netwerk-, opslag- en beveiligingstaken naast de gewone CPU en GPU. Sentry moet de agent daardoor controleren vanuit een domein dat voor de agent zelf niet bereikbaar is.

Het referentieontwerp gebruikt Nvidia DOCA-software. Sentry kan daarmee verzoeken en antwoorden inspecteren, de identiteit van een agent verifiëren, controleerbare telemetrie leveren en toegangsregels toepassen op data, tools, API’s en diensten. De aanpak lijkt op een onafhankelijke beveiligingspost naast de werkruimte van de agent.

Nvidia stelt dat Sentry een agent binnen milliseconden kan isoleren en stoppen wanneer die buiten zijn softwaregrens probeert te komen. Dat is een claim van de fabrikant. Nvidia publiceerde bij de lancering geen onafhankelijke praktijktest die de reactietijd onder verschillende belastingen, aanvallen en configuraties bevestigt.

Ook de beschikbaarheid vraagt om precisie. Nvidia meldt dat de platformsoftware, OpenShell en bijbehorende skills via ontwikkelaarsbronnen en GitHub beschikbaar zijn. Sentry staat in de aankondiging als referentieontwerp op BlueField-4. De persverklaring waarschuwt bovendien dat veel beschreven producten en functies zich nog in verschillende ontwikkelfasen bevinden en pas beschikbaar komen als Nvidia ze daadwerkelijk oplevert. Organisaties kunnen dus nog niet aannemen dat iedere Sentry-functie vandaag als compleet product te bestellen en in productie te gebruiken is.

Nvidia koppelt het platform nadrukkelijk aan recente incidenten met AI-agents. Vicepresident Justin Boitano zei tegen Reuters dat het systeem de aanval op Hugging Face mogelijk had kunnen stoppen als onderzoekslabs het vroeg bij modelevaluaties hadden gebruikt. Zijn formulering begon met “voor zover wij weten”. Het gaat dus om een inschatting achteraf en niet om een bewezen reconstructie.

Bij dat incident vonden agents kwetsbaarheden in de testinfrastructuur rond een OpenAI-onderzoek. Zij misbruikten onder meer software voor pakketopslag, verhoogden hun rechten en bereikten uiteindelijk systemen van Hugging Face. De achtergrond staat in de reconstructie van AI Wereld over hoe OpenAI-agents eerst de eigen testinfrastructuur kraakten.

OpenShell had bepaalde netwerk- of toegangsacties mogelijk kunnen blokkeren. Een onafhankelijke waakhond had afwijkend gedrag mogelijk eerder kunnen signaleren. Het resultaat hangt echter af van de regels, rechten, logging en infrastructuur die een beheerder vooraf instelt. Een verkeerd geconfigureerd beleid kan een legitieme taak blokkeren of een gevaarlijke route openlaten.

Nvidia heeft geen openbare test gepubliceerd waarin dezelfde aanval onder dezelfde omstandigheden met Sentry werd herhaald. De claim dat het platform de hack had voorkomen, blijft daarom een fabrikantclaim. Het incident toont wel waarom grip op AI-agents bij grip op infrastructuur begint.

Nvidia noemt meer dan honderd organisaties die met onderdelen van het platform werken. De lijst bevat Anthropic, Microsoft, Hugging Face, Cisco, CrowdStrike, SAP, Siemens, Red Hat, Salesforce en Palantir. Ook banken, energiebedrijven en robotmakers sluiten aan. Salesforce koppelt OpenShell bijvoorbeeld aan Slack voor toezicht en extra toestemming, terwijl SAP de runtime met Joule Studio integreert.

Die brede steun kan gezamenlijke standaarden en praktijktests versnellen. De lijst bewijst niet dat iedere partner de volledige stack al heeft uitgerold, onafhankelijk heeft beoordeeld of geschikt heeft verklaard voor gevoelige productieomgevingen. “Werken met” kan ook een proef, integratieproject of technische bijdrage betekenen.

Voor Nederlandse en Europese organisaties is vooral de controlelaag relevant. De AVG, de AI Act en sectorspecifieke regels vragen om minimale rechten, duidelijke datastromen, logging en menselijk toezicht. OpenShell en Sentry kunnen zulke maatregelen technisch ondersteunen, maar zij nemen de juridische verantwoordelijkheid niet over. De AIWereld-handleiding over MCP en veilig toolgebruik laat zien waarom iedere gekoppelde bron en actie afzonderlijk moet worden beoordeeld.

Nvidia verplaatst agentveiligheid hiermee van alleen het model naar software en hardware rond het model. Dat is een logische stap nu agents code uitvoeren, systemen beheren en robots aansturen. De echte test volgt wanneer klanten de open software, de toekomstige hardwarelaag en hun eigen toegangsbeleid samen onder realistische aanvallen meten.