Nvidia hat den Startschuss für die vollständige Serienfertigung seines neuen Inferenz-Chips Groq 3 LPX gegeben. Der Baustein erweitert die Vera-Rubin-NVL72-Plattform des Unternehmens und soll laut Nvidia im Artificial-Analysis-Benchmark auf dem Modell Gemma 4 31B mit einem Kontextfenster von 100.000 Tokens einen Rekordwert von 3.400 Ausgabe-Tokens pro Sekunde erreichen. Nach Angaben des Unternehmens ist der Chip damit viermal reaktionsschneller als die nächstbeste Alternative auf dem Markt.
Samsung übernimmt die Fertigung
Die eigentliche Massenproduktion liegt nicht bei Nvidia selbst, sondern bei Samsung Foundry. Der koreanische Auftragsfertiger hat mit der vollen Serienfertigung des Groq 3 LPX auf einem 4-Nanometer-Prozess begonnen.
Der Chip kommt in der Vera-Rubin-Plattform zum Einsatz, wobei jedes Rack nach Angaben von Samsung 256 LPUs (Language Processing Units) nutzt. Diese Kombination aus Nvidias Chipdesign und Samsungs Fertigungskapazität markiert einen bedeutenden Schritt für beide Unternehmen im hart umkämpften Markt für KI-Beschleuniger.
Nebius als erster Cloud-Kunde
Als erster Anbieter im Bereich KI-Cloud-Computing setzt Nebius auf den neuen Chip. Das Unternehmen ist damit nicht nur der erste kommerzielle Abnehmer des Groq 3 LPX, sondern laut Samsung auch der erste Kunde, der auf Basis der neuen Fertigungslinie beliefert wird.
Für Cloud-Anbieter wie Nebius verspricht die höhere Token-Ausgabe pro Sekunde spürbare Vorteile bei Antwortzeiten von KI-Anwendungen, insbesondere bei Modellen mit großen Kontextfenstern, wie sie zunehmend im professionellen Einsatz gefragt sind.
Einordnung in Nvidias Plattformstrategie
Der Groq 3 LPX reiht sich in eine Serie von Ankündigungen ein, mit denen Nvidia seine Vera-Rubin-Architektur rund um spezialisierte Recheneinheiten für KI-Inferenz ausbaut. Parallel dazu hat SpaceXAI eine erste größere Bereitstellung von Nvidias Vera-CPUs für agentische KI-Anwendungen angekündigt, bei der Vera die Orchestrierung übernimmt, während GPUs für die eigentliche Inferenz zuständig sind.
Während neue Chip-Generationen die Rechenleistung für KI massiv steigern, stellen die damit verbundenen Technologien Unternehmen auch vor neue Sicherheitsfragen. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Cyberrisiken durch neue KI-Gesetze jetzt auf Sie zukommen. KI-Risiken und rechtliche Pflichten jetzt prüfen
Diese Arbeitsteilung zwischen CPU-gestützter Steuerung und spezialisierten Beschleunigern wie dem Groq 3 LPX deutet auf eine zunehmend differenzierte Hardware-Architektur für KI-Workloads hin.
Der Umstieg auf die 4-Nanometer-Fertigung bei Samsung ist zudem ein Signal für die Auftragsfertigungsbranche: Während Taiwans TSMC traditionell als bevorzugter Partner für Nvidias fortschrittlichste Chips gilt, zeigt die Zusammenarbeit mit Samsung Foundry beim Groq 3 LPX, dass Nvidia seine Lieferketten diversifiziert.
Wer sich mit dem Einsatz hochperformanter KI-Hardware befasst, sollte auch die IT-Infrastruktur proaktiv gegen neue Bedrohungsszenarien absichern. Dieses kostenlose E-Book liefert IT-Verantwortlichen fundierte Informationen, wie man Sicherheitslücken schließt und den Betrieb langfristig schützt. Gratis Cyber-Security E-Book herunterladen
Für Kunden wie Nebius bedeutet dies potenziell kürzere Lieferzeiten und mehr Verhandlungsspielraum bei der Beschaffung von KI-Hardware, die angesichts der hohen Nachfrage nach Rechenkapazität für große Sprachmodelle weiterhin knapp bleibt.
Mit der vollen Serienproduktion des Groq 3 LPX und der Anbindung an die Vera-Rubin-NVL72-Plattform dürfte sich der Wettbewerb um die schnellste und effizienteste Inferenz-Hardware weiter verschärfen. Branchenbeobachter werten die hohen Durchsatzwerte im Artificial-Analysis-Benchmark als Beleg dafür, dass Nvidia seine Führungsposition bei spezialisierten KI-Chips gegenüber Wettbewerbern behaupten will.
