Große Sprachmodelle laufen bald lokal – neue Hardware-Generationen machen es möglich. AMD und seine Partner haben am 24. und 25. Juli eine ganze Welle neuer Systeme vorgestellt, die von riesigen Datenzentren bis zu kompakten Desktop-Geräten reichen. Die Botschaft ist klar: Künstliche Intelligenz soll nicht mehr nur in der Cloud stattfinden.
Helios Rack: AMDs Antwort auf die Rechenzentrums-Frage
Mit dem Helios Rack präsentierte AMD am 24. Juli sein erstes vollständig integriertes KI-Infrastruktur-System. Die Zahlen sind beeindruckend: 72 Instinct MI455X GPUs und 31 Terabyte HBM4-Speicher stecken in einem Rack. Das System erreicht 2,9 ExaFLOPS bei FP4-Leistung und 1,4 ExaFLOPS bei FP8. Zum Vergleich: Ein ExaFLOP entspricht einer Trillion Rechenoperationen pro Sekunde.
Die Energieversorgung solcher Cluster ist eine Herausforderung für sich. AMD arbeitete daher mit Schneider Electric an einem 246-Kilowatt-Referenzdesign. Ganze 10,4-Megawatt-Cluster sind damit möglich. Die Flüssigkeitskühlung entfernt 84 Prozent der Abwärme – die Energieeffizienz liegt bei einem PUE-Wert von etwa 1,12. Microsoft, Meta und OpenAI haben bereits als Kunden zugesagt, die Auslieferung in größeren Stückzahlen beginnt in der zweiten Jahreshälfte 2026.
Parallel dazu stellte AMD die Venice-Serie vor – die sechste Generation der EPYC-9006-Prozessoren. Das Unternehmen verspricht einen 20-prozentigen Leistungsvorteil pro Kern gegenüber der Konkurrenz. Mit der ROCm.ai-Plattform und dem Tool Hyperloom will AMD Entwicklern den Umstieg von CUDA-basierten Anwendungen erleichtern.
Mini-Workstations: KI für den Schreibtisch
Während die großen Systeme für Rechenzentren gedacht sind, bringen MSI und Acemagic die KI-Power direkt an den Arbeitsplatz. Beide setzen auf den AMD Ryzen AI Max+ 395 mit 16 Zen-5-Kernen und einer integrierten NPU, die 50 TOPS (Billionen Operationen pro Sekunde) schafft. Die Gesamt-KI-Leistung liegt bei 126 TOPS.
Der MSI PRO MAX EDGE AI+ passt in ein 4-Liter-Gehäuse und unterstützt bis zu 128 Gigabyte LPDDR5-8000-Speicher. Laut MSI lassen sich Sprachmodelle mit bis zu 120 Milliarden Parametern lokal ausführen. Im Cluster-Verbund sind sogar Modelle mit 670 Milliarden Parametern möglich.
Moderne Hardware ermöglicht immer leistungsfähigere lokale Anwendungen, doch neue Technologien bringen auch neue regulatorische Anforderungen mit sich. Dieser kostenlose Praxis-Leitfaden hilft Ihnen, die komplexen Regeln der neuen EU-KI-Verordnung für Ihr Unternehmen schnell und rechtssicher zu verstehen. Compliance-Leitfaden zum EU AI Act jetzt kostenlos sichern
Noch kompakter ist der Acemagic F9A: Das 2-Liter-Gehäuse aus CNC-gefrästem Aluminium beherbergt die gleiche Technik. Ein OCuLink-PCIe-4.0-Anschluss erlaubt die Erweiterung um externe GPUs, dazu kommen zwei 2,5-Gigabit-Ethernet-Ports und Wi-Fi 7. Beide Hersteller zielen auf Profis, die sensible Daten nicht in die Cloud schicken wollen.
Lenovo und Dell: Die etablierten Größen mischen mit
Lenovo brachte am 25. Juli den ThinkCentre X AIO Aura Edition auf den Markt. Das Besondere: ein 27,6-Zoll-Display mit dem ungewöhnlichen Seitenverhältnis 16:18 – fast quadratisch. Angetrieben wird das All-in-One-System von Intel Core Ultra Prozessoren und Intel Arc B390 Grafik. In Europa und Asien ist der Rechner ab etwa 2.113 Euro erhältlich.
Dell-CEO Michael Dell ließ am selben Tag aufhorchen: Die Dell Pro Max Workstation mit Nvidia GB300 Hardware kann das 753 Milliarden Parameter große Modell GLM-5.2 mit 40 Tokens pro Sekunde ausführen. Die High-End-Variante DGX Workstation soll rund 125.000 Dollar kosten – ein klares Signal, dass lokale KI-Spitzenleistung ihren Preis hat.
Snapdragon: Mobile KI mit Linux-Herausforderungen
Auch Qualcomm ist im Rennen. Das Snapdragon X2 Elite-Plattform findet sich im neuen Asus Zenbook A16 – einem 1,2-Kilogramm leichten Laptop mit 120-Hertz-OLED-Display. Asus bereitet zudem den Ascent QN10 vor, einen Mini-PC mit weniger als 0,7 Litern Volumen.
Doch nicht alles ist rosig: Tests des Snapdragon X Elite unter Ubuntu 26.04 zeigen Probleme bei der GPU-Beschleunigung und der Akku-Überwachung. Neuere Kernel-Entwicklungen sollen die Lücken schließen – die erste offizielle LTS-Version für die Snapdragon-Plattform wird mit Spannung erwartet.
Während die Hardware-Unterstützung für Linux-Systeme stetig wächst, können Sie die Vorteile von Ubuntu bereits heute risikofrei auf Ihrem PC testen. Erfahren Sie in diesem kostenlosen Experten-Report, wie Sie einen Boot-Stick erstellen und Linux ohne Installation oder Datenverlust direkt ausprobieren. Gratis-Anleitung: Linux ohne Risiko vom USB-Stick testen
Die Entwicklung zeigt deutlich, dass die Hardware-Industrie den Weg für eine Zukunft ebnet, in der komplexe KI-Berechnungen direkt auf dem Endgerät stattfinden können. Ob Workstation, Mini-PC oder Laptop – die lokale Souveränität über Daten und Rechenleistung wird zum zentralen Verkaufsargument der nächsten Jahre.
