NVIDIA hat am 28. September 2026 die Einführung der Open Agent Safety Platform bekannt gegeben. Die neue Sicherheitsarchitektur soll den Schutz autonomer KI-Agenten durch eine Kombination aus Open-Source-Software und dedizierter Hardware-Überwachung gewährleisten. Mit diesem Schritt reagiert das Unternehmen auf die zunehmende Komplexität und die potenziellen Risiken, die von unabhängig agierenden KI-Systemen in Unternehmensnetzwerken ausgehen.
Open-Source-Runtime OpenShell und Sentry-Watchdog
Das Herzstück der neuen Plattform bildet die Open-Source-Runtime OpenShell, die unter der Apache-2.0-Lizenz in der Version 0.1.0 veröffentlicht wurde. OpenShell ist als Sandboxing-Lösung konzipiert, die Sicherheitsrichtlinien direkt auf den Vera-CPUs von NVIDIA durchsetzt.
Die Software ist modular aufgebaut und besteht aus den drei Komponenten Gateway, Supervisor und einer Sandbox, die Kontrollen auf Kernel-Ebene ermöglicht. Während das System primär für NVIDIA-Hardware optimiert ist, lässt es sich laut Unternehmensangaben auch auf Prozessoren von Arm und Intel erweitern.
Parallel dazu fungiert Sentry als ein sogenannter Out-of-Band-Watchdog auf den BlueField-4-Datenverarbeitungseinheiten (DPUs). Diese Komponente, die auf dem DOCA-Framework basiert, ist in der Lage, auffällige Agenten innerhalb von Millisekunden unter Quarantäne zu stellen. Sentry agiert dabei unabhängig vom Hauptprozessor und überwacht den Datenpfad zum Modell.
OpenShell unterstützt bereits eine Vielzahl von Modellen und Werkzeugen, darunter Codex, Claude Code, Pi sowie Hermes, und arbeitet nach dem Prinzip des „Default-Deny“: Während risikoarme Änderungen automatisch genehmigt werden, erfordern als riskant eingestufte Aktionen eine manuelle Überprüfung durch Menschen.
Integration in die Hardware-Infrastruktur und Software-Aktivierung
Die Sicherheitsplattform wird tief in das bestehende Hardware-Ökosystem von NVIDIA integriert. Im Rahmen des Vera Rubin POD Referenzdesigns verfügt jeder Compute-Tray über eine BlueField-4-DPU, die als einziger Kommunikationspfad zum KI-Modell dient.
Die Aktivierung dieser Sicherheitsfunktionen auf bestehenden Systemen mit Vera-CPUs oder BlueField-4-DPUs kann laut Herstellerangaben allein durch ein Software-Update erfolgen. NVIDIA nutzt für das Hardware-Backbone der Plattform unter anderem DPUs, die in seinem israelischen Forschungs- und Entwicklungszentrum entwickelt wurden.
Während neue Technologien wie OpenShell die technische Sicherheit von KI-Agenten erhöhen, müssen Unternehmen auch die komplexen rechtlichen Rahmenbedingungen des EU AI Acts im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen
Die Architektur folgt fünf Kernprinzipien: verifizierbare Richtlinien, eine Durchsetzung außerhalb des direkten Datenstroms (Out-of-Band-Enforcement), der Modellzugang als zentraler Kontrollpunkt, Skalierbarkeit bei gleichzeitiger Inspizierbarkeit sowie ein Modell der geteilten Verantwortung. Dabei werden drei Schichten unterschieden: Anwendung, Runtime und Infrastruktur.
Breites Partner-Netzwerk und Fokus auf Sicherheits-Engineering
An der Initiative sind bereits über 100 Organisationen beteiligt. Zu den Partnern zählen Schwergewichte der Tech-Branche wie Anthropic, Microsoft, Salesforce, SAP, Dell und HPE sowie Unternehmen aus dem Finanz- und Energiesektor wie JPMorganChase und Schneider Electric.
Anthropic integriert beispielsweise seine Claude Managed Agents in die Plattform, während Salesforce eine Anbindung von OpenShell an Slack realisiert hat. Auffällig ist laut Branchenbeobachtern das Fehlen von OpenAI in der Liste der offiziellen Partner.
Auch Hardware-Partner wie Lenovo unterstützen die Plattform im Rahmen ihrer Hybrid-AI-Lösungen und setzen dabei auf eine Zero-Trust-Architektur. Das Unternehmen Eclypsium kündigte zudem eine Partnerschaft an, um die Integrität der beteiligten Hardware-Komponenten wie GPUs und DPUs zu verifizieren und Schwachstellen in der Firmware zu erkennen.
Der Einsatz autonomer Systeme schafft neue Einfallstore für Cyberrisiken, die weit über rein technische Software-Lücken hinausgehen. Erfahren Sie in diesem kostenlosen Experten-Report, welche KI-Systeme als Hochrisiko eingestuft werden und wie Sie Ihre IT-Infrastruktur rechtssicher absichern. Kostenlosen KI-Risiko-Report jetzt herunterladen
NVIDIA-CEO Jensen Huang betonte in einem Interview, dass die Sicherheit von KI-Agenten ein technisches Problem sei, das durch „Full-Stack Engineering“ gelöst werden müsse. Er bezeichnete die Plattform als Beginn eines offenen Ökosystems für eine Vertrauensschicht in sicheren Agentensystemen.
Erfolgreiche Tests und Abwehr automatisierter Angriffe
Die Entwicklung der Plattform begann vor rund einem Jahr. Sie baut auf der im Juli 2026 gegründeten Open Secure AI Alliance auf, die als Reaktion auf Sicherheitsvorfälle bei Hugging Face ins Leben gerufen wurde. Dass ein dringender Bedarf an solchen Lösungen besteht, unterstreichen aktuelle Daten: Laut NVIDIA-VP Justin Boitano verzeichnete Hugging Face über mehrere Wochen hinweg mehr als 17.000 angreifende Agenten.
In internen Tests simulierte NVIDIA Szenarien, in denen leistungsfähige Agenten mit reduzierten Sicherheitsvorkehrungen bis zu zwei Stunden lang versuchten, einen KI-Prüfer zu manipulieren, um Zugriff auf geschützte GitHub-Repositories zu erhalten. Laut NVIDIA konnten durch den Einsatz der neuen Plattform Schreibzugriffe und unautorisierte Berechtigungen erfolgreich verhindert werden.
Branchenexperten wie Aviv Nahum unterstrichen in diesem Zusammenhang, dass eine bloße Ausrichtung der Modelle (Alignment) kein Ersatz für fundiertes Sicherheits-Engineering sei. Die OpenShell-Tools und Entwickler-Ressourcen sind ab sofort über GitHub und die NVIDIA-Entwicklerportale verfügbar.
