Google Cloud und Nvidia haben am 21. Oktober 2026 angekündigt, dass neue A5X-Instanzen mit Nvidia Vera Rubin NVL72 im November 2026 allgemein verfügbar werden. Die Systemarchitektur setzt auf erhebliche Skalierungsziele: Vorgesehen sind bis zu 80.000 Rubin-Grafikprozessoren pro Standort und bis zu 960.000 Rubin-Grafikprozessoren über mehrere Standorte hinweg.
Bei diesen Zahlen handelt es sich um reine Design- und Skalierungsziele, nicht um bereits installierte Kapazitäten. Einen Preis für die neuen A5X-Instanzen veröffentlichte Google Cloud bislang nicht.
Technische Spezifikationen und Rechenzentrumsinfrastruktur
Die A5X-Instanzen basieren auf Vera Rubin NVL72 und verfügen über ConnectX-9 SuperNICs mit einer Übertragungsrate von 1,6 Tb/s pro Grafikprozessor. Für die interne Kommunikation sorgt NVLink 6 mit 3,6 TB/s von Chip zu Chip. Hinzu kommen das Virgo Network sowie eine Flüssigkühlung der vierten Generation.
Jedes einzelne NVL72-Rack kombiniert 36 Hauptprozessoren mit 72 Grafikprozessoren. Nach Herstellerangaben von Nvidia bietet die Rubin-Architektur gegenüber Blackwell die fünffache Inferenz- und die 3,5-fache Trainingsleistung.
Die Virgo-Netzwerkinfrastruktur unterstützt dabei sowohl Googles hauseigene Tensor Processing Units (TPUs) als auch NVL72. Ergänzt wird die Plattform durch Managed Lustre mit GPUDirect Storage.
Zudem gab Google Cloud bekannt, einer der ersten Anbieter von Rack-Level Confidential Computing auf Bare Metal zu werden, konkret im Rahmen von A4X Max mit GB300 NVL72. Zudem ist Confidential G4 mit RTX PRO 6000 Blackwell allgemein verfügbar, während DSX MaxLPS zur Steigerung der Energieeffizienz derzeit geprüft wird.
Wer sich mit dem massiven Ausbau von KI-Infrastrukturen befasst, muss auch die rechtlichen Rahmenbedingungen in der EU im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Frühe Kunden und internationale Bereitstellung
Als erster Kunde der A5X-Instanzen wurde Ineffable Intelligence aus London um David Silver für den Bereich des umfangreichen Reinforcement Learnings vorgestellt. Neben Ineffable Intelligence zählt auch Citadel Securities zu den Kunden. Das Unternehmen WPP demonstrierte auf den A5X-Systemen zudem kreative Software-Agenten unter Einsatz von Nemotron und OpenShell.
Google Cloud plant eine Expansion der neuen Hardware nach Europa, nannte hierfür jedoch noch keine konkreten Termine. Neben der globalen Skalierung sind zusätzliche Regionen innerhalb der Europäischen Union vorgesehen.
Eigene Beschleuniger und Ausbau von PyTorch für TPUs
Neben den Systemen auf Nvidia-Basis stellte Google Cloud auf der Konferenz Google Cloud Next die achte Generation eigener Chips vor: TPU 8t für Trainingsaufgaben und TPU 8i für Inferenzanwendungen. Deren allgemeine Verfügbarkeit ist für einen späteren Zeitpunkt im laufenden Jahr angesetzt.
Bereits am 20. Oktober 2026 hatten Google und Meta auf der PyTorch Conference North America in San Jose TorchTPU als Open-Source-Software veröffentlicht. Das native PyTorch-Backend ersetzt die bisherige Lösung PyTorch/XLA aus dem Jahr 2020 und ermöglicht es, bestehende PyTorch-Workloads mit minimalen Code-Änderungen auf TPUs auszuführen. Insgesamt wurden vier Repositories freigegeben: TorchTPU, vLLM-TorchTPU, SGLang-TorchTPU und TorchTitan.
Während die technologische Leistung von KI-Systemen rasant steigt, rücken auch die regulatorischen Anforderungen an Hochrisiko-Systeme stärker in den Fokus. Erfahren Sie in diesem kostenlosen Report, welche konkreten Schritte Unternehmen jetzt für eine rechtssichere Dokumentation unternehmen müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Laut Zongwei Zhou, Metas PyTorch-TPU-Lead, beabsichtigt Meta, größere Workloads von Sprachmodellen auf TPUs zu verlagern; SGLang-TorchTPU laufe bei Meta bereits in der Produktion.
In einem Benchmark erreichte vLLM auf 16 Ironwood-TPUs der siebten Generation 700 Tokens pro Sekunde beim Modell Kimi-K3, verglichen mit 452 Tokens pro Sekunde bei 16 Einheiten von Nvidias GB200. In London listet Google Cloud Ironwood ab 13,20 US-Dollar pro Chip-Stunde im On-Demand-Modell. Einzelheiten zu den genauen Workloads, Modellen, Chip-Mengen sowie dem Standort von Metas Produktionseinsatz wurden nicht bestätigt.