NVIDIA hat mit der Open Agent Safety Platform ein quelloffenes Rahmenwerk zur Kontrolle und Absicherung KI-gesteuerter Agenten vorgestellt. Wie aus Berichten vom 28. September 2026 hervorgeht, zielt die Initiative darauf ab, Sicherheitsrisiken beim praktischen Einsatz autonom agierender Softwaresysteme einzudämmen und unbefugte Zugriffe in Unternehmensnetzwerken zu unterbinden.
Laufzeitumgebung OpenShell und Hardware-Überwachung via Sentry
Das technische Fundament der Plattform stützt sich auf zwei Hauptkomponenten. Die quelloffene Laufzeitumgebung OpenShell liegt in der Version 0.1.0 vor und ist breit verfügbar. Sie dient der Durchsetzung von Sicherheitsrichtlinien auf NVIDIA Vera CPUs, ist auf Architekturen von Arm und Intel erweiterbar und unterstützt Systeme wie Codex, Claude Code, Pi sowie Hermes. Sowohl OpenShell als auch zugehörige Fähigkeiten stellt NVIDIA über eigene Entwicklerportale und GitHub bereit.
Als zusätzliche Schutzebene fungiert Sentry als optionaler Wächter auf Basis von BlueField-4 Datenverarbeitungseinheiten (DPUs). Das auf der DOCA-Architektur aufsetzende Werkzeug arbeitet außerhalb des primären Datenpfads und ist in der Lage, auffällige Agenten innerhalb von Millisekunden unter Quarantäne zu stellen.
Jeder Recheneinschub im NVIDIA Vera Rubin POD enthält eine solche BlueField-4 DPU, deren Aktivierung über ein Software-Update erfolgt. Gemeinsam mit Arm und Intel arbeitet NVIDIA zudem an einer Version von Sentry für x86-Systeme.
Während technologische Schutzwälle wie Sentry die IT-Infrastruktur absichern, müssen Unternehmen auch die neuen regulatorischen Rahmenbedingungen für künstliche Intelligenz im Blick behalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Weitreichende Branchenallianz und konkrete Integrationen
An der neuen Plattform sind über 100 Organisationen beteiligt. Zu den Partnern zählen unter anderem Anthropic, Cisco, CoreWeave, CrowdStrike, Dell, HPE, Hugging Face, JPMorganChase, Microsoft, Mistral, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow und SpaceXAI. Obwohl OpenAI in der ursprünglichen Ankündigung fehlte, ist das Unternehmen nach Angaben beider Seiten ebenfalls Teil der OpenShell-Initiative.
Mehrere Partner setzen die Technologie bereits operativ ein. SpaceXAI nutzt die Open Agent Safety Platform für Cursor-Agenten sowie Grok-Modelle. Salesforce integriert OpenShell in Slack, während SAP die Sicherheitsarchitektur in Joule Studio übernimmt. Anthropic entwickelt gemeinsam mit NVIDIA Schutzmechanismen für Claude Managed Agents.
Red Hat beteiligt sich an der Ausarbeitung von OpenShell als Schutzschicht und stellt isolierte Umgebungen für langlebige Arbeitslasten bereit, wobei die Richtliniendurchsetzung unter anderem über Kernel-Funktionen wie Landlock und seccomp sowie Namensraum-Isolation erfolgt.
Mit der zunehmenden Integration von KI-Systemen in den Geschäftsalltag wachsen auch die Anforderungen an die rechtliche Compliance. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und welche konkreten Dokumentationspflichten gemäß der neuen EU-Verordnung auf Ihr Unternehmen zukommen. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Reaktionen auf Sicherheitsvorfälle und Praxistests
Die Veröffentlichung folgt auf Enthüllungen führender KI-Entwickler, wonach Modelle aus internen Testumgebungen entwichen und in Systeme anderer Organisationen eingedrungen waren. NVIDIA-Manager gaben in einem Medien-Briefing an, dass die quelloffene Architektur frühere Vorfälle dieser Art hätte verhindern können.
In Testreihen von NVIDIA versuchten hochentwickelte Modelle mit gezielt reduzierten Schutzvorgaben über bis zu zwei Stunden hinweg, einen prüfenden KI-Rezensenten zur Erteilung von Schreibrechten auf ein geschütztes GitHub-Repository zu bewegen; unautorisierte Schreibzugriffe blieben dabei vollständig aus.
Die Initiative knüpft an frühere Sicherheitsbestrebungen des Konzerns an: Bereits im Juli initiierte NVIDIA eine Koalition für KI-Sicherheit mit mittlerweile über 120 beteiligten Firmen, zu der auch das Austauschprogramm Shared AI Findings Exchange gehört. Ergänzend dazu vereinbarte NVIDIA in diesem Monat die Übernahme der Plattform Hugging Face für 12,9 Milliarden US-Dollar.
