GEEKOM hat einen 4-Knoten-AI-Cluster aus vier A9 Mega Mini-PCs vorgestellt, der für die lokale Inferenz des Sprachmodells DeepSeek V4 Flash konzipiert ist.
Jeder Knoten basiert auf dem AMD Ryzen AI Max+ 395 mit 16 Zen-5-Kernen und integrierter Radeon-8060S-Grafik. Der Cluster richtet sich an Nutzer, die große KI-Modelle im eigenen Netzwerk betreiben wollen, ohne auf Cloud-Dienste externer Anbieter angewiesen zu sein.
Technischer Aufbau und Software-Stack
Die vier Mini-PCs werden über USB4 miteinander verbunden. Als Software-Basis kommen Ubuntu, die AMD-Rechenplattform ROCm sowie die Software DwarfStar zum Einsatz.
Nach Angaben von GEEKOM lässt sich der Cluster flexibel skalieren – von einem einzelnen Knoten bis zur vollen Vier-Knoten-Konfiguration. Ein zentrales Verkaufsargument ist der Datenschutz: Da die Verarbeitung vollständig lokal erfolgt, verlassen sensible Unternehmensdaten das eigene Netzwerk nicht.
In der maximalen Konfiguration erreicht der Cluster laut GEEKOM eine kombinierte KI-Rechenleistung von 126 TOPS.
Leistungswerte in Benchmarks
Bei Tests mit einfacher Nutzeranfrage (Single Concurrency) erzielte der Cluster nach Angaben von GEEKOM 14,61 Tokens pro Sekunde. Die Zeit bis zur ersten Ausgabe eines Tokens (Time-to-First-Token) lag im 95. Perzentil bei 0,42 Sekunden, gemessen in Tests mit 32 beziehungsweise 128 Token.
Wer sich mit lokaler Rechenleistung und neuen Technologien befasst, muss auch die rechtlichen Pflichten im Blick behalten. Dieser kostenlose Report klärt auf, welche KI-Gesetze und Bedrohungen Unternehmer jetzt kennen müssen. Report zu neuen KI-Gesetzen und Cyberrisiken jetzt anfordern
Der Cluster unterstützt zudem Kontextfenster von bis zu 250.000 Tokens, was die Verarbeitung umfangreicher Dokumente oder längerer Konversationsverläufe ermöglichen soll.
Präsentation auf der IFA 2026
GEEKOM will den Distributed AI Cluster auf der IFA 2026 in Berlin einem breiteren Publikum zeigen. Die Messe findet vom 4. bis 8. September statt, GEEKOM ist in Halle 6.2 am Stand 119 vertreten. Neben dem Cluster präsentiert das Unternehmen dort auch den A9 Mega als Einzelgerät mit dem AMD Ryzen AI Max+ 388, ausgestattet mit 64 Gigabyte Arbeitsspeicher und einer Phison-SSD.
Der Schutz sensibler Unternehmensdaten ist bei der Nutzung moderner IT-Infrastrukturen wichtiger denn je. Erfahren Sie im kostenlosen E-Book, wie Sie Sicherheitslücken proaktiv schließen und Ihr Unternehmen langfristig absichern. Kostenloses Cyber-Security E-Book herunterladen
Diese Konfiguration ist laut GEEKOM für die Ausführung von KI-Modellen mit bis zu 70 Milliarden Parametern geeignet und richtet sich damit an Nutzer, die keinen vollständigen Cluster benötigen, aber dennoch anspruchsvolle Modelle lokal betreiben wollen.
Offene Fragen zur Verfügbarkeit
Zu Preisen des Clusters hat sich GEEKOM bislang nicht geäußert. Auch Angaben zu einem konkreten Marktstart oder zur Verfügbarkeit einzelner Komponenten fehlen bislang. Interessierte dürften auf der IFA in Berlin weitere Details zu Vertriebsmodell und Kosten erwarten, da das Unternehmen den Cluster dort erstmals einem breiteren Fachpublikum präsentiert.
Der Vorstoß von GEEKOM reiht sich in einen branchenweiten Trend ein, KI-Inferenz zunehmend auf lokaler Hardware statt in der Cloud durchzuführen – insbesondere für Unternehmen, die aus Datenschutz- oder Kostengründen keine externen Rechenzentren nutzen möchten. Mit der Kombination aus mehreren gekoppelten Mini-PCs verfolgt GEEKOM einen Ansatz, der klassische Einzelplatzlösungen durch verteilte Rechenleistung ergänzt.
