Forscher des KAIST und das Unternehmen Panmnesia haben gemeinsam mit Meta eine neue Architektur für KI-Rechenzentren vorgestellt, die auf dem Verbindungsstandard Compute Express Link (CXL) basiert. Ziel des Vorschlags ist es, die Konnektivität zwischen CPUs, Arbeitsspeicher und KI-Beschleunigern grundlegend neu zu gestalten und damit Engpässe heutiger Systeme zu adressieren.
Übersichtsarbeit in Fachjournal veröffentlicht
KAIST-Professor Myoungsoo Jung (in einigen Quellen auch als Myung-soo Jung geführt) und Panmnesia veröffentlichten gemeinsam mit Meta eine eingeladene Übersichtsarbeit im Fachjournal Nature Reviews Electrical Engineering. Darin schlagen die Autoren eine CXL-basierte Architektur vor, die CPUs, Beschleuniger und Speicher über ein gesamtes Rechenzentrum hinweg miteinander verbindet, statt sie – wie bislang üblich – auf einzelne Racks zu beschränken.
Deutlich größere Kohärenzdomänen
Kern des Vorschlags ist die Erweiterung sogenannter Kohärenzdomänen, in denen Rechenressourcen gemeinsam und synchronisiert auf Speicherinhalte zugreifen können. Nach Angaben der Autoren soll die neue Architektur bis zu 960 Beschleuniger innerhalb einer solchen Domäne zusammenfassen – nach eigenen Angaben etwa das 13-fache dessen, was ein GB200-NVL72-Rack heute leistet.
Zum Vergleich: In der bisherigen Baseline-Konfiguration orchestriert eine CPU lediglich zwei Beschleuniger; im neuen Design sollen es 16 sein, bei insgesamt bis zu 960 kohärenten Beschleunigern im Gesamtsystem.
Latenz soll um eine Größenordnung sinken
Ein zentrales Versprechen der Architektur betrifft die Latenz bei der Kommunikation zwischen Servern. Während netzwerkbasierte Ansätze bislang im Bereich von Mikrosekunden liegen, sollen sich Cross-Server-Zugriffe in der vorgeschlagenen CXL-Architektur auf mehrere hundert Nanosekunden reduzieren lassen – nach Darstellung der Autoren eine Größenordnung schneller.
Während neue Architekturen die Effizienz von Rechenzentren steigern, entstehen durch Technologien wie KI auch völlig neue Sicherheitsrisiken für Unternehmen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Cyber Security Trends und KI-Gesetze kostenlos entdecken
Für größere räumliche Reichweiten innerhalb eines Rechenzentrums soll dabei CXL-over-optics zum Einsatz kommen, also die Übertragung des CXL-Protokolls über optische Verbindungen.
Die Autoren fassen die Zielsetzung so zusammen, dass ein komplettes Rechenzentrum künftig wie ein einziger, zusammenhängender Chip arbeiten soll – mit entsprechend geringeren Reibungsverlusten zwischen einzelnen Komponenten.
Erste Silizium-Validierung durch Panmnesia
Über die theoretische Beschreibung hinaus verweist Panmnesia darauf, bereits Kernkomponenten der Architektur in Silizium validiert zu haben. Dazu zählen ein sogenannter Fabric-Controller sowie eine Look-Aside-Unit (LAU); zudem wurde nach Unternehmensangaben bereits ein entsprechender Switch gefertigt. Diese Hardware-Bausteine sollen die praktische Umsetzbarkeit der im Fachjournal beschriebenen Konzepte demonstrieren.
Wer sich mit der Modernisierung digitaler Infrastrukturen befasst, muss auch die proaktive Absicherung gegen Angriffe im Blick behalten. In diesem kostenlosen E-Book erfahren Sie, wie Sie Sicherheitslücken schließen und Ihr Unternehmen langfristig schützen. Gratis-Ratgeber: IT-Sicherheit proaktiv stärken
Einordnung
Die Veröffentlichung reiht sich in eine branchenweite Debatte darüber ein, wie Rechenzentren angesichts wachsender KI-Workloads architektonisch weiterentwickelt werden müssen. Der CXL-Standard gilt in diesem Zusammenhang seit längerem als Kandidat, um starre Rack-Grenzen aufzulösen und Speicher- sowie Rechenressourcen flexibler über größere Systeme hinweg zu verteilen.
Mit der Beteiligung von Meta als einem der größten Betreiber eigener Rechenzentren erhält der Vorschlag zusätzliches Gewicht, auch wenn sich die vorgestellten Zahlen zunächst auf die Übersichtsarbeit und erste Silizium-Validierungen von Panmnesia stützen und noch nicht auf einen breiten kommerziellem Einsatz.
