Nvidia introduceert het Open Agent Safety Platform, een open softwareplatform en referentieontwerp om AI-agents binnen vaste grenzen te houden. OpenShell bewaakt de runtime op Vera-CPU’s, terwijl Sentry op BlueField-4 DPU’s afwijkend gedrag binnen milliseconden isoleert. Ruim honderd organisaties werken mee, waaronder Anthropic, SAP, Salesforce en Red Hat.
Het platform bestaat uit twee onderdelen. OpenShell is open source runtime-software die vastlegt wat een agent doet en beleid afdwingt terwijl die agent draait. De software is nu breed beschikbaar en werkt met zowel open als gesloten modellen. Omdat de code open is, kan OpenShell ook worden uitgebreid naar rekenplatformen van Arm en Intel.
De tweede pijler is Sentry, een out-of-band watchdog die in silicium draait op BlueField-4 DPU’s. Als een agent buiten zijn softwaregrens treedt, zet Sentry die agent in quarantaine. Binnen milliseconden, aldus Nvidia. Sentry draait op DOCA-software en controleert agent-identiteit, telemetrie en zero-trust toegangsregels voor data, tools en API’s.
De aanleiding is volgens Nvidia een reeks recente beveiligingsincidenten waarbij steeds hetzelfde patroon opdook: de agent omzeilde de beveiliging op applicatieniveau om zijn taak af te maken. Precies daarom legt Nvidia de handhaving buiten het model en de agent-harness.
Partners en beschikbaarheid
Anthropic koppelt Claude Managed Agents aan OpenShell en BlueField. “Bedrijven geven AI-agents steeds meer van hun belangrijkste werk, en ze moeten kunnen sturen en verifiëren wat die agents doen, zeker in gevoelige omgevingen”, zegt Paul Smith, chief commercial officer van Anthropic.
Salesforce integreerde OpenShell met Slack, zodat teams agent-activiteit en auditgebeurtenissen daar kunnen inzien en permissieverzoeken kunnen goedkeuren. SAP bouwt OpenShell in de Joule Studio-runtime en levert engineeringwerk aan het project. Ook Scale AI, SpaceXAI, Citi, JPMorganChase, Canonical en SUSE staan op de lijst, net als roboticabedrijven Figure, Gecko Robotics en Skild AI.
De software is beschikbaar via Nvidia’s developerpagina en GitHub. Het platform valt onder de Open Secure AI Alliance, die door Nvidia samen met ruim 120 organisaties werd opgericht en door de Linux Foundation wordt bestuurd.