KI-Hardware: Startup verspricht 50-fach mehr Speicher als Nvidia

Das Startup Majestic Labs stellt mit Prometheus ein KI-Serversystem vor, das Nvidia-GPUs ersetzen soll. Erste Bestellungen liegen bereits vor.

Das in Tel Aviv ansässige Startup Majestic Labs hat ein neues Serversystem namens Prometheus präsentiert, das darauf ausgelegt ist, herkömmliche Grafikprozessoren (GPUs) von Nvidia im Bereich der Künstlichen Intelligenz zu ersetzen. Das Unternehmen, das im Jahr 2023 von ehemaligen Ingenieuren der Konzerne Google und Meta gegründet wurde, zielt mit dieser Hardware-Lösung auf eine deutliche Steigerung der Speicherkapazität und Effizienz bei KI-Berechnungen ab.

Architektur und technische Spezifikationen

Das Herzstück des Prometheus-Servers bilden bis zu 12 sogenannte Ignite-AIUs. Diese Recheneinheiten kombinieren Arm-Kerne mit der RISC-V-Architektur. In Bezug auf die Speicherausstattung setzt Majestic Labs auf die LPDDR6-Technologie, wobei pro Server Kapazitäten zwischen 8 und 128 Terabyte (TB) zur Verfügung stehen sollen.

Nach Angaben des Unternehmens bietet das System damit mehr als den 50-fachen schnellen Speicher im Vergleich zu einem Nvidia DGX B300, der über 2,3 TB HBM3e verfügt. Zudem soll die Bandbreite der internen Verbindung (Interconnect) um das 1,7-fache höher liegen als bei Konkurrenzprodukten. Pro Prozessor beziffert das Startup die verfügbare Speicherkapazität sogar auf das Tausendfache herkömmlicher Nvidia-Systeme.

Systemintegration und Rack-Leistung

Für den Einsatz in Rechenzentren ist der Server OCP-konform gestaltet, was die Integration in standardisierte Infrastrukturen des Open Compute Project erleichtert. Ein standardisiertes 40U-Rack kann vier Prometheus-Server aufnehmen, was zu einer Gesamtleistung von 120 Kilowatt pro Rack führt. Die Kühlung erfolgt dabei über ein Flüssigkeitssystem.

Majestic Labs führt an, dass ein einzelnes Rack die Speicherkapazität von 25 Nvidia-NVL72-Vera-Rubin-Racks erreiche, dabei jedoch einen geringeren Stromverbrauch aufweise. Softwareseitig unterstützt die Hardware gängige Frameworks und Bibliotheken wie PyTorch, vLLM und OpenAI Triton, um eine nahtlose Einbindung in bestehende KI-Workflows zu ermöglichen.

Anzeige

Während neue Hardware-Lösungen die Effizienz von KI-Anwendungen steigern, bringen diese Technologien auch neue Sicherheitsherausforderungen für Unternehmen mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Kontext von KI jetzt kennen müssen. KI-Gesetze und Cyberrisiken: Kostenlosen Report anfordern

Finanzierung und Marktpositionierung

Hinter Majestic Labs steht ein Führungsteam bestehend aus dem Vorstandsvorsitzenden Ofer Shacham, dem Präsidenten Sha Rabii und der operativen Geschäftsführerin Masumi Reynders. Zur Finanzierung der Entwicklung konnte das Startup Ende des vergangenen Jahres im Rahmen einer Series-A-Finanzierungsrunde 100 Millionen US-Dollar einsammeln.

Laut Angaben des Unternehmens liegen bereits Bestellungen von verschiedenen Akteuren vor, darunter klassische Unternehmen, spezialisierte Cloud-Anbieter (Neoclouds) sowie große Hyperscaler. Die Markteinführung und der Beginn der Auslieferung sind für das kommende Jahr geplant.

Anzeige

Wer sich mit der Modernisierung der eigenen IT-Infrastruktur befasst, sollte auch den Schutz vor digitalen Angriffen proaktiv mitplanen. Erfahren Sie in diesem Gratis-E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen ohne teure Investitionen erfüllen. Gratis-E-Book: IT-Sicherheit im Unternehmen stärken

Majestic Labs stellt dabei erhebliche Kostenvorteile in Aussicht und gibt an, dass die Anschaffungskosten für die Prometheus-Systeme zwischen 10- und 50-mal niedriger ausfallen könnten als bei vergleichbaren GPU-basierten Systemen. Fachleute weisen jedoch darauf hin, dass eine unabhängige Validierung dieser Leistungsansprüche und der versprochenen Effizienzgewinne zum gegenwärtigen Zeitpunkt noch aussteht.