cuFile open source: NVIDIA öffnet GPU-Speicher-Technologie

NVIDIA stellt cuFile als Open Source bereit und ermöglicht direkte SSD-GPU-Datenpfade. Branchengrößen fördern das Projekt, während SK Hynix Milliarden investiert.

NVIDIA macht seine Speicher-Software cuFile open source – ein Schritt mit weitreichenden Folgen für die KI-Branche. Die Technologie ermöglicht direkte Datenübertragungen zwischen SSDs und GPU-Speicher und umgeht dabei den Prozessor als Flaschenhals. Für deutsche Unternehmen und Forschungseinrichtungen könnte das den Aufbau von KI-Systemen deutlich vereinfachen.

Direkte Datenautobahn zwischen SSD und Grafikprozessor

Das Herzstück der Ankündigung ist die Open-Source-Stellung der cuFile-API, einem zentralen Baustein der GPUDirect-Storage-Technologie. Mittels Direct Memory Access (DMA) fließen Daten künftig direkt vom Speichermedium in den Grafikprozessor – ohne Umweg über die CPU und ohne zeitaufwendige Zwischenspeicherung. Das senkt die Latenz und entlastet Prozessoren für andere Rechenaufgaben.

Für die Weiterentwicklung wurde die GitHub-Organisation xio-sig ins Leben gerufen. Google, Intel und Meta fungieren als Gründungs-Maintainer des Projekts. Vier Komponenten umfasst die Initiative: die cuFile-API selbst, das Test-Framework cuFileConformance, die Bibliothek libxFile sowie den Treiber xioLinux. Der vollständige Quellcode soll über diese kollaborative Struktur veröffentlicht werden, um Innovationen im gesamten Ökosystem zu fördern.

Speicher als neue Wachstumsgrenze der KI

Branchenvertreter betonten auf der Konferenz, dass der Erfolg von KI-Organisationen künftig weniger von der schieren Menge an Hardware abhängt, sondern von der Produktivität ihrer Infrastruktur. Das neu vorgestellte SCADA-Framework unterstützt diesen Ansatz, indem es den Steuerungspfad für Speicherzugriffe direkt auf die GPU verlagert.

Anzeige

Wer sich mit dem Aufbau leistungsfähiger KI-Infrastrukturen befasst, muss auch die damit verbundenen Sicherheitsrisiken im Blick behalten. Dieses kostenlose E-Book klärt auf, welche neuen rechtlichen Pflichten und Cyberbedrohungen Unternehmer beim Einsatz moderner Technologien jetzt kennen müssen. Report zu neuen KI-Gesetzen und Cyberrisiken kostenlos anfordern

Besonders relevant ist diese Optimierung für KI-Inferenz und sogenannte „agentische KI“-Workloads. Moderne Zugriffsmuster wie KV-Caches (Key-Value-Caches) arbeiten oft mit winzigen Datenpaketen von nur wenigen hundert Bytes. Herkömmliche SSDs sind jedoch auf 4-Kilobyte-Blöcke optimiert – ein eklatanter Performance-Mismatch. NVIDIAs „Storage-Next“-Initiative, an der sich über 40 Flash- und Speicheranbieter wie DDN, Kioxia und Micron beteiligen, will genau diese Zugriffsmuster addressieren.

Hardware-Hersteller liefern passende Lösungen

Die Systemumgebung bereitet sich auf die neuen Software-Optimierungen vor. Systeme von Dell, HPE, IBM, VAST Data und WEKA sollen ab der zweiten Jahreshälfte 2026 verfügbar sein.

Auf der Konferenz präsentierten Hardware-Hersteller zudem leistungsfähige Speicherlösungen für KI-Workloads:

  • Kioxia zeigte seine Enterprise-NVMe-SSD GP1, die mit 512-Byte-Blockgrößen über zehn Millionen zufällige Lese-IOPS erreicht. Der Antrieb nutzt PCIe-Gen6- und XL-FLASH-Gen2-Technologie.
  • FADU stellte den Controller FC6161 vor, einen PCIe-6.0-Chip mit sequenziellen Lese- und Schreibgeschwindigkeiten von 28,5 GB/s – zugeschnitten auf Hyperscale-Rechenzentren und KI-Infrastruktur.
  • Longsys präsentierte sein „Storage Foundry Model“ mit Innovationen wie AIDIMM und AISSD, die DRAM-Kosten senken und Speicherbandbreiten-Engpässe am Netzwerkrand entschärfen sollen.
Anzeige

Während die technologische Vernetzung in der Industrie voranschreitet, steigen auch die Angriffsflächen für digitale Sabotage. Erfahren Sie in diesem praxisnahen Leitfaden, wie Sie Sicherheitslücken proaktiv schließen und Ihr Unternehmen ohne hohe Zusatzinvestitionen langfristig schützen. Gratis-E-Book: Cyber-Sicherheitslücken effektiv schließen

Milliardeninvestition in KI-Speicherfertigung

Die steigende Nachfrage nach spezialisiertem KI-Speicher treibt auch die Produktionskapazitäten voran. SK Hynix gab Anfang August eine Investition von umgerechnet rund 38,2 Milliarden Euro für zwei neue Fertigungsstandorte in Südkorea frei.

Rund 13,4 Milliarden Euro fließen in die Fabrik Cheongju M17, eine dedizierte NAND-Flash-Produktion für KI-Speicher. Der Baubeginn ist für Februar 2027 geplant, der erste Reinraum soll bis Dezember 2028 betriebsbereit sein. Weitere 24,8 Milliarden Euro investiert das Unternehmen in die Anlage Yongin Y2 für DRAM und High Bandwidth Memory (HBM) – die Fertigstellung des ersten Reinraums ist für Juni 2029 vorgesehen.

Trotz aller Fortschritte bei Geschwindigkeit und Integration stellte NVIDIA klar: Die cuFile-Technologie optimiert den Datenpfad, ersetzt aber nicht den herkömmlichen Grafikspeicher (VRAM).