Auf dem OCP 2026 hat Nvidia am 22. Oktober seine Rubin-Ultra-Plattform präsentiert. Das System mit der Bezeichnung Vera Rubin Ultra NVL576 schaltet 576 Grafikprozessoren über Co-Packaged Optics (CPO) und NVLink 7 über mehrere Racks hinweg zu einer gemeinsamen Rechendomäne zusammen.
Die Architektur ist für den Betrieb von Modellen mit über 10 Billionen Parametern ausgelegt, wobei dieser Wert ein technisches Designziel und kein gemessenes Ergebnis darstellt.
Technische Architektur und optische Vernetzung
Wie Ian Buck von Nvidia auf der Konferenz darlegte, agieren alle 576 Grafikprozessoren über NVLink wie ein einzelner Beschleuniger. Nvidia beansprucht für das System die weltweit höchste Leistung pro Watt, was gegenwärtig allerdings eine reine Herstelleraussage ist und nicht unabhängig verifiziert werden kann.
Nach Angaben von Buck verbindet NVL576 acht Racks mit jeweils 72 Einheiten zu einer NVLink-Domäne und stellt dabei rackübergreifend auf CPO-Optik um. Zum Vergleich: Das aktuelle System Vera Rubin NVL72 erreicht pro Rack rund 260 TB/s NVLink-Gesamtbandbreite.
Die auf der GTC veröffentlichten Ziel-Spezifikationen umfassen 15 Exaflops bei FP4-Inferenz und 5 Exaflops für FP8-Training. Dies entspricht rund dem 14-fachen Wert eines Blackwell GB300 NVL72, wobei es sich um Roadmap-Ziele handelt und die spätere kommerzielle Ausführung abweichen kann.
Wer sich mit der Implementierung solch leistungsstarker KI-Systeme befasst, muss auch die rechtlichen Rahmenbedingungen im Blick behalten. Dieser kostenlose Praxis-Leitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Pro GPU sind bis zu 1TB HBM4E auf einem 4-Reticle-Chip vorgesehen, was einer Verachtfachung des Speichers entspricht. Auf Rack-Ebene beläuft sich die Kapazität auf 365TB HBM bei 4,6PB/s Gesamtbandbreite. Die Interconnect-Bandbreite von NVLink 7 wird mit 1,5PB/s beziffert, während ConnectX-9-Spectrum-Chips 115,2TB/s liefern.
Neue Rack-Struktur und Beschleunigung der Bereitstellung
Das Rechenmodul Vera Rubin Ultra Compute Tray kombiniert zwei Rubin-Ultra-GPUs mit einer Vera-CPU unter vollständiger Flüssigkühlung. Zusammen mit dem NVLink-7-CPO-Switch-Tray folgt das Design den OCP-Standards. Diese Modularität verkürzt die Montagezeit von mehreren Stunden auf wenige Minuten. Das Gesamtsystem nutzt das flüssiggekühlte Kyber-Rack in kabelloser Blade-Bauweise und löst die bisherige Oberon-NVL72-Generation ab.
Für die Erprobung der rackübergreifenden Kopplung von acht Einheiten hatte Nvidia zuvor den Prototyp Polyphe auf GB200-Basis gefertigt. Künftige Ausführungen des Kyber-Racks sollen 144 Einheiten aufnehmen, womit acht Racks eine NVL1152-Konfiguration mit 1152 Beschleunigern bilden könnten.
Die rasante Entwicklung von KI-Modellen führt auch zu neuen Sicherheitsanforderungen in der IT-Infrastruktur. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Cyber-Bedrohungen Unternehmer jetzt kennen müssen, um ihre Systeme langfristig abzusichern. Gratis-Report zu neuen KI-Gesetzen und Cyberrisiken
Ein Marktstart der Rubin-Ultra-Plattform ist für 2027 avisiert. Jensen Huang hatte auf der GTC Berlin erklärt, dass sich die CPO-Racks bereits in der Massenproduktion befinden. Das zugehörige DSX-Pod-Referenzdesign soll die Bereitstellungszeit von Monaten auf 14 Tage senken.
Erste Cloud-Implementierungen und industrielle Erprobung
Erste Ausbaustufen der zugrunde liegenden Architektur halten bereits Einzug in Rechenzentren. Google Cloud kündigte am 21. Oktober auf der GTC Berlin an, dass eigene A5X-Instanzen auf Basis von Vera Rubin NVL72 im nächsten Monat allgemein verfügbar werden, flankiert von einer geplanten Expansion nach Europa.
Die Instanzen integrieren ConnectX-9 SuperNICs, das Virgo-Netzwerk sowie eine Flüssigkühlung der vierten Generation im Rahmen des AI Hypercomputers mit Schwerpunkt auf agentenbasierter Inferenz und bestärkendem Lernen.
Als Zielmarke strebt Google Cloud bis zu 960.000 Rubin-GPUs über diverse Standorte sowie bis zu 80.000 GPUs pro Standort über das Virgo-Netzwerk an; dies stellt eine Ambition dar und ist keine installierte Basis. Preise oder ein Starttermin wurden nicht genannt.
Als erster Kunde nutzt das von AlphaGo-Entwickler David Silver gegründete Londoner Unternehmen Ineffable Intelligence die Infrastruktur für Reinforcement-Learning. In einem Firmentest meldete zudem die Agenturgruppe WPP, einen auf Nemotron und OpenShell basierenden Kreativ-Agenten auf einer einzelnen A5X-Instanz ausgeführt zu haben, wofür zuvor Multi-Node-Cluster erforderlich gewesen seien.