Google baut sein Portfolio an hauseigenen KI-Beschleunigern weiter aus und ergänzt die achte Generation um die neuen Systeme TPU 8tx und TPU 8i Max. Mit diesem Schritt bringt der Technologiekonzern erstmals vier verschiedene TPU-Varianten innerhalb eines einzigen Jahres auf den Markt, nachdem zuvor bereits TPU 8t und TPU 8i eingeführt worden waren.
Bei den Neuzugängen handelt es sich nicht um eine von Grund auf neu entwickelte Chip-Architektur, sondern um angepasste Weiterentwicklungen bestehender Hardware. Amin Vahdat, Senior Vice President und Chief Technology Officer für Künstliche Intelligenz und Infrastruktur bei Google, betonte in diesem Zusammenhang, dass die technologische Zukunft maßgeblich von Spezialisierung geprägt sein werde.
Mehr Bandbreite gegen Speicherengpässe
Im Mittelpunkt der Ankündigung steht das System TPU 8i Max, das vor allem Engpässe bei der Speicheranbindung von KI-Workloads verringern soll. Der Beschleuniger setzt auf zwei TPU-8i-Chips pro Package und verdoppelt gegenüber dem Basismodell TPU 8i sowohl die Rechenleistung als auch den SRAM-Speicher und die Bandbreite des High Bandwidth Memory (HBM). Zudem wird die Siliziumdichte innerhalb desselben Server-Racks verdoppelt.
Branchenberichten zufolge verdoppelt sich die HBM-Bandbreite von 8,6 TB/s auf 17,2 TB/s, während der SRAM auf 768 MB anwächst. Berichten zufolge stieg die HBM-Kapazität von 288 GB auf 384 GB, wobei Google die gesamte Speicherkapazität nicht offiziell bestätigte.
Aus abgeleiteten Leistungsdaten ergeben sich für das System rund 20,2 PFLOPS bei FP4-Genauigkeit sowie eine HBM-Bandbreite von 17.202 GB/s. Ausgelegt ist TPU 8i Max auf kontextintensive agentische Anwendungen mit großen Kontextfenstern, darunter Programmierassistenten, mathematisches Reasoning, Softwareentwicklung sowie die Wirkstoffforschung.
Latenzreduktion und Confidential Computing mit TPU 8tx
Das Schwestermodell TPU 8tx basiert auf dem Silizium des TPU 8t und kombiniert diesen mit AMD EPYC Host-Prozessoren der 5. Generation sowie Googles Boardfly-Netzwerktechnologie. Laut Google halbiert das System die Latenz im Vergleich zu TPU 8t bei nahezu gleichbleibender Performance; andere Berichte beziffern die Latenzverringerung auf bis zu 50 Prozent.
Ein wesentliches Merkmal von TPU 8tx ist die Hardware-Verschlüsselung von Nutzerdaten und Modellgewichten. Google zielt damit auf vertrauliche Inferenz sowie kleinere Trainingsszenarien ab, insbesondere für Behörden und Kunden aus streng regulierten Industrien.
Während die technologische Infrastruktur für KI-Anwendungen immer leistungsfähiger wird, rücken auch die rechtlichen Rahmenbedingungen für deren Einsatz in den Fokus. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Beide Systeme sollen im TSMC-2nm-Verfahren gefertigt werden, wobei Marktbeobachter die breite Verfügbarkeit für 2027 erwarten. Konkrete Preise, Verfügbarkeitszeitpunkte und regionale Bereitstellungen nannte Google bislang nicht.
Software-Ökosystem und wirtschaftliche Bedeutung
Auf Softwareebene unterstützen die neuen Systeme etablierte Frameworks und Bibliotheken wie PyTorch über TorchTPU, Hugging Face, vLLM, SGLang, die XLA Serving Engine sowie GKE Dynamic Slicing. Zudem stellt Google das Tool TPU Sync als Open-Source-Lösung bereit, welches die Dauer von Datenübertragungen und Startzeiten für Modellantworten um über 90 Prozent senken soll.
Wer KI-Systeme professionell entwickelt oder einsetzt, muss heute nicht nur technische Hürden nehmen, sondern auch komplexe Dokumentationspflichten erfüllen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Compliance in Ihrem Unternehmen sicherstellen. Kostenlosen Leitfaden zum EU AI Act herunterladen
Derzeit greifen Google zufolge fast 100 Kunden beziehungsweise über 100 Kunden und Partner auf die Beschleuniger zu. Der KI-Entwickler Anthropic plant, seine TPU-Nutzung ab 2027 auszubauen.
Die Halbleiter spielen auch für die Bilanz eine tragende Rolle: Im September-Quartal verdoppelte sich der Umsatz von Google Cloud auf 30,71 Mrd. USD, wozu TPU-Verkäufe einen wesentlichen Beitrag leisteten. Die Finanzführung rechnet mit einer weiteren Skalierung im vierten Quartal und einem deutlichen Zuwachs im Jahr 2027.
Die Neuerungen bewegen auch die Märkte im Wettbewerb mit Konkurrenzarchitekturen wie Nvidia Vera Rubin, AMD Helios, Microsoft Maia 200 und OpenAI Jalapeño: An den Börsen fiel die Aktie von Nvidia am Montag um 5,70 Prozent, während die Alphabet-Papiere um 2,4 Prozent zulegten und vorbörslich ein Plus von 2,9 Prozent verzeichneten.