Die Weiterentwicklung künstlicher Intelligenz erfordert tiefgreifende Anpassungen der zugrunde liegenden Infrastruktur. Wie Branchenereignisse rund um den OCP Global Summit 2026 in San Jose sowie aktuelle Herstellerberichte verdeutlichen, verlagert sich der technologische Fokus zunehmend auf ganzheitliche Architekturen.
Neben spezialisierten Beschleunigern rücken neue Kühllösungen, optimierte Stromversorgungen und dedizierte Prozessoren für agentische Arbeitslasten in den Mittelpunkt, während entsprechende Plattformen auch Einzug in Creator-Laptops halten.
Spezialisierte Prozessoren und Inferenzarchitekturen
Im Bereich der Serverarchitektur zeichnet sich eine Neugewichtung der Rechenressourcen ab. Laut einer Erwartung von ABI Research dürfte sich das CPU-zu-GPU-Verhältnis in modernen Rechenzentren auf 6:1 bis 7:1 einpendeln.
Arm präsentierte Referenzserver für das Open Compute Project (OCP) sowie für Metas Plattform Yosemite YV5. Nach einer Analyse von Signal65 liefert die Arm AGI CPU über sieben repräsentative agentische KI-Workloads durchschnittlich eine 1,99-fache modellierte Leistung pro Rack gegenüber einem System mit AMD EPYC 9755. Signal65 bestätigte zudem unabhängig eine zweifache Verbesserung der Rechenleistung pro Rack im Vergleich zu dem genannten EPYC-System.
Gemeinsam mit Fujitsu, Meta und OpenAI erarbeitete Arm eine neue Benchmark-Methodik und kooperiert mit Partnern wie FuriosaAI und Rebellions. Nach Einschätzung von Mohamed Awad, Executive Vice President der Cloud AI Business Unit bei Arm, werde der weltweite CPU-Markt von 52 Mrd. US-Dollar im Jahr 2026 auf 300 Mrd. US-Dollar im Jahr 2030 anwachsen.
Awad differenziert dabei zwischen drei Rollen: AI Head Nodes, Cloud-Native-CPUs und Agentic CPUs. Ravi Malhotra, Director Solutions Product Management bei Arm, verwies auf eine Dual-Track-Infrastruktur aus KI-Racks für Inferenz sowie CPU-Racks für Orchestrierung.
Die auf Neoverse Core Gen 3 basierende Arm AGI CPU sei für geringe Speicherlatenz sowie lineare Skalierbarkeit bis zu einer Auslastung von 90 bis 95 Prozent ausgelegt. Ergänzend merkte Dilip Ramachandran von Arm an, dass agentische Workloads bestehende Engpässe zunehmend auf die Prozessoren verlagern.
Die steigende Komplexität agentischer KI-Workloads erfordert nicht nur neue Hardware, sondern auch ein fundiertes Verständnis der rechtlichen Rahmenbedingungen für diese Systeme. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Auch Hyperscaler treiben eigene Entwicklungen voran. Microsoft plant für 2027 den Produktionsstart des Inferenzsystems Maia 300, das den bis zu siebenfachen Token-Durchsatz pro Rack im Vergleich zum Maia 200 erzielen und rund 40 Prozent mehr Tokens pro Megawatt als führende GPU-Systeme bereitstellen soll.
Ab 2027 sei eine Skalierung auf Multi-Gigawatt-Installationen vorgesehen. Zudem konzipierte Microsoft den Prozessor Cobalt 200 für agentische Aufgaben sowie das Stromversorgungskonzept Mount Diablo mit 800-Volt-Gleichstrom.
Speicheranbindung, Rack-Systeme und Energieinfrastruktur
Parallel dazu erweitern Chiphersteller ihre Beschleuniger- und Speicherkomponenten. Intel stellte die luftgekühlte GPU-D-Serie mit dem Codenamen Crescent Island vor. Das Spitzenmodell D270 nutzt die Xe3P-Architektur über PCIe 5.0, bietet bis zu 480 Gigabyte LPDDR5X-Speicher, 1,5 Terabyte pro Sekunde Bandbreite und erreicht bei FP8-Berechnungen bis zu 1,3 Petaflops.
AMD präsentierte das Helion-Rack-System, das wahlweise bis zu 32.768 AMD-EPYC-x86-Kerne oder bis zu 16 AMD-Instinct-MI350P-Grafikprozessoren fasst und bis zu 103 Terabit pro Sekunde Netzwerkbandbreite liefert.
Marvell adressiert Speicherengpässe mit den Controllern Structera X 3406 und 3506 über CXL 3.2 und PCIe Gen 6. Der 3406 bindet bis zu 9 Terabyte DDR4-Speicher an, während der 3506 bis zu 6 Terabyte DDR5 umfasst; die LZ4-Kompression erreicht bis zu 250 Gigabyte pro Sekunde.
Neben der technologischen Infrastruktur rücken auch neue Sicherheitsanforderungen und gesetzliche Pflichten für Unternehmen in den Fokus. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Zusammenhang mit neuen KI-Gesetzen und Cyberrisiken jetzt kennen müssen. Gratis-E-Book zu Cyber Security und KI-Gesetzen sichern
Auf dem AI Data Pipeline Forum erklärte Siamak Tavallaei von Samsung, offene Spezifikationen könnten die Hardwareintegration in Rechenzentren von bisher 9 bis 12 Monaten auf 3 bis 6 Monate verkürzen. Samsung demonstrierte in diesem Rahmen CXL-Speicher-Pooling gemeinsam mit AMD.
Die steigende Leistungsdichte verändert zudem die Energieanforderungen. Pradeep Vincent von Oracle forderte standardisierte Netzschnittstellen und bezeichnete den PUE-Wert als alleinigen Effizienzmaßstab als unzureichend.
Paolo Catapane von ABB und Peter De Bock von Eaton wiesen auf den Übergang von 800-Volt-Gleichstromarchitekturen zur interoperablen Bereitstellung hin, während Richard Collar von Kao Data betonte, dass Flüssigkühlung zur Notwendigkeit werde.
Gleichzeitig diffundieren die Architekturen in mobile Endgeräte: Hersteller wie Dell, HP, MSI und Asus stellten im Oktober 2026 Notebooks und Creator-Systeme vor, die auf Nvidias Plattform RTX Spark mit Grace-CPU und Blackwell-GPU setzen und bis zu 1 Petaflop Rechenleistung für lokale KI-Anwendungen bereitstellen.