Auf der Branchenkonferenz GTC Berlin hat NVIDIA die sogenannte OpenShell Reference Architecture angekündigt. Die Lösung soll Governance, Isolation und Sicherheitsmechanismen auf Unternehmensebene bereitstellen, um autonome Software-Agenten abzusichern.
NVIDIA-Chef Jensen Huang umriss das Konzept dahinter mit den Worten, Agenten könnten auf Rubin denken, auf Vera handeln und auf BlueField überwacht werden.
Angesichts von Unternehmen, die den Einsatz von Milliarden solcher KI-Agenten vorbereiten, müssten Sicherheit und Kontrolle direkt in der Rechenarchitektur verankert sein. Die Initiative gilt als direkte Reaktion auf Zwischenfälle, bei denen autonome Agentensysteme unkontrolliert agierten.
Dreistufiger Hardware-Stack mit Vera, Rubin und BlueField
Die Referenzarchitektur setzt sich aus mehreren Hardware-Komponenten zusammen. Für Inferenzaufgaben kommt Vera Rubin zum Einsatz, während Vera-CPUs die Ausführungsumgebungen der Agenten steuern. BlueField-4-Datenprozessoren (DPUs) übernehmen in Kombination mit der Sicherheitslösung NVIDIA Sentry die Durchsetzung von Richtlinien direkt auf Chipebene. Das System lässt sich zudem über RTX Spark, DGX Spark und DGX Station an Edge-Standorte erweitern.
Nach Angaben von NVIDIA erzielt Vera Rubin NVL72 einen 30-fach höheren Durchsatz pro Megawatt bei Agenten-Workloads. Die Vera-CPU mit 88 Olympus-Kernen, Scalable Coherency Fabric der zweiten Generation und LPDDR5X-Speicher erreiche gegenüber x86-Prozessoren die doppelte Leistung bei kritischen Aufgaben sowie die doppelte Effizienz pro Watt.
Die rasante Entwicklung von KI-Systemen bringt komplexe rechtliche Anforderungen mit sich, die über rein technische Sicherheitsfragen hinausgehen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle Pflichten und Fristen, die Unternehmen nun beachten müssen. EU AI Act in 5 Schritten verstehen
NVIDIA beziffert die LPDDR5X-Bandbreite auf 1,2 Terabyte pro Sekunde, nennt eine dreifache Kern-zu-Kern-Bandbreite, 50 Prozent geringere Latenzen und 96 PCIe-Gen-6-Lanes.
Eine Messung des Cloud-Anbieters CoreWeave ergab, dass Sandbox-Starts auf Vera mehr als dreimal so schnell ablaufen wie auf x86-Systemen. CoreWeave verzeichnete zudem eine 1,8-fach schnellere Ausführung im Benchmark Terminal Bench und beziffert die Kapazität auf über 11.000 gleichzeitige Agenten-Umgebungen pro Rack.
Open-Source-Runtime isoliert ungesicherte Workloads
OpenShell ist als quelloffene Laufzeitumgebung konzipiert, die Agenten-Workloads standardmäßig als nicht vertrauenswürdig einstuft. Die Softwarearchitektur umfasst vier funktionale Einheiten: Ein Gateway regelt den Lebenszyklus der Sandboxen sowie allgemeine Richtlinien, ein Supervisor überprüft ausgehende Anfragen und vermittelt Zugangsdaten, eine Sandbox übernimmt die Isolation, und ein sogenannter Policy Prover dient der formalen Verifikation.
Standardmäßig erfasst OpenShell Telemetriedaten, worauf Nutzer per Opt-out verzichten können; in dem zugehörigen Entwicklungs-Repository auf GitHub bestehen noch offene Sicherheitsberichte.
Während neue Architekturen die technische Sicherheit erhöhen, stellt die neue EU-KI-Verordnung klare Regeln für Risikodokumentation und Qualitätssicherung auf. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Compliance in Ihrem Betrieb sicherstellen. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Auf den BlueField-4-DPUs agiert NVIDIA Sentry unabhängig von der Betriebssystem-Software des Host-Systems in einer hardware-isolierten Vertrauensdomäne. Dadurch lasse sich laut NVIDIA die Agenten-Kapazität um 20 Prozent steigern, während Quarantäne-Maßnahmen innerhalb von Millisekunden greifen.
Ergänzt wird dies durch Komponenten des DOCA-Frameworks: DOCA Tower terminiert TLS-Verbindungen als Proxy und prüft Anfragen in unter einer Millisekunde gegen Open-Policy-Agent-Vorgaben.
DOCA Flow stellt eine hardwarebeschleunigte Layer-4-Firewall pro Agent bereit, während DOCA Argus den Host-Speicher ohne Software-Agenten überwacht, Container-Hashes abgleicht und Angriffe wie unautorisierte Programmaufrufe oder Prozessübernahmen erkennt.
Breite Unterstützung durch Cloud- und Softwarepartner
Die OpenShell Reference Architecture ist ab sofort verfügbar und läuft auf Betriebssystemen wie Red Hat, Canonical, SUSE und Microsoft Windows/MXC sowie auf den Cloud-Plattformen AWS, Google Cloud und Microsoft Azure. Es werden Agenten unter anderem von OpenAI, Anthropic, Meta, Google, Perplexity, Cohere, SpaceX und Reflection unterstützt. Finanzinstitute wie BBVA und Santander prüfen den Einsatz bereits, während SAP die Architektur in Joule Studio integriert.
Im Rahmen einer Partnerschaft bindet Red Hat OpenShell in die Red Hat AI Factory with NVIDIA ein und liefert Day-0-Unterstützung für Vera Rubin. Red Hat Enterprise Linux for NVIDIA unterstützt die neuen Vera-CPUs, wobei Red Hat von einer verdoppelten Agenten-Performance spricht.
Auch Sicherheits- und Netzwerkanbieter verknüpfen ihre Systeme: CrowdStrike bindet Falcon Guardian an OpenShell an und plant die Integration mit Sentry auf BlueField-4-DPUs, um Sicherheitsvorfälle über die reine Software-Laufzeitumgebung hinaus hardwareseitig einzudämmen.
Cisco nutzt die Sandbox für seine Lösung DefenseClaw, um Netzwerkverkehr pro Agent zu segmentieren, Zugangsdaten zu maskieren und Richtlinien über Cisco AI Defense Guardrails durchzusetzen.