NVIDIA hat die cuFile-Schnittstellen als Open-Source-Software bereitgestellt, um die Zugriffsgeschwindigkeiten auf den Grafikprozessorspeicher massiv zu optimieren. Durch diesen Schritt sollen Latenzzeiten bei Datenübertragungen in den Mikrosekundenbereich gesenkt werden. Die Freigabe der Technologie ist Teil einer breiteren Initiative, die darauf abzielt, Engpässe in der Datenverarbeitung für Künstliche Intelligenz (KI) und Hochleistungsrechnen zu beseitigen.
SCADA-Framework und direkter Speicherzugriff
Zusammen mit den cuFile-APIs wurde das SCADA-Framework als Open Source veröffentlicht. Diese technologische Kombination ermöglicht es Grafikprozessoren (GPUs), direkt auf Speichermedien zuzugreifen, ohne den Umweg über den Arbeitsspeicher (RAM) der zentralen Recheneinheit (CPU) nehmen zu müssen. Durch das Umgehen des CPU-RAMs wird die CPU entlastet, was die Gesamteffizienz des Systems steigert.
Dieses Verfahren reduziert die Latenz erheblich, da die Datenpfade verkürzt werden. Die nun quelloffene cuFile-API dient dabei als entscheidende Schnittstelle, um Speicherzugriffe auf Mikrosekunden-Niveau zu ermöglichen, was insbesondere für zeitkritische Anwendungen in der Datenanalyse und beim Training großer Sprachmodelle von Bedeutung ist.
Strategische Allianz und Storage-Next-Initiative
Die Veröffentlichung erfolgt im Rahmen der neu angekündigten „Storage-Next“-Initiative, an der sich laut NVIDIA über 40 Unternehmen beteiligen. Zu den Gründungs-Maintainern, welche die Weiterentwicklung der Open-Source-Projekte cuFile und SCADA unterstützen, zählen Schwergewichte der Technologiebranche wie Google, Intel und Meta.
Bereits im Rahmen der Fachmesse FMS, die im August stattfand, wurde die Initiative der Öffentlichkeit präsentiert. Als einer der ersten Anwender der neuen Schnittstellen wurde das Unternehmen DDN genannt. Die breite Unterstützung durch namhafte Partner deutet darauf hin, dass NVIDIA einen neuen Branchenstandard für die Kommunikation zwischen Speicherlösungen und Grafikprozessoren etablieren möchte.
Wer sich mit dem technologischen Fortschritt durch KI befasst, sollte auch die damit verbundenen Sicherheitsrisiken für die IT-Infrastruktur im Blick behalten. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken verstehen
Leistungsnachweis in der Praxis
Das Potenzial der Technologie wurde in einer Demonstration verdeutlicht, die im Umfeld der Ankündigungen präsentiert wurde. Dabei wurden 44 Gen6-SSDs in Kombination mit drei NVIDIA H100-GPUs eingesetzt. In diesem Aufbau konnten 230 Millionen Lesezugriffe pro Sekunde bei einer Paketgröße von 512 Byte erzielt werden.
Ein wesentliches Merkmal dieses Tests war der Zustand der zentralen Recheneinheit: Während die GPUs unter Volllast direkt auf die SSDs zugriffen, verblieb die CPU nahezu im Leerlauf. Dies belegt die Effektivität des direkten Speicherzugriffs, der die Rechenressourcen der CPU für andere Aufgaben schont, während der Datendurchsatz am Grafikbeschleuniger maximiert wird.
Auswirkungen auf die Infrastrukturkosten
Branchenanalysten bewerten die Öffnung von cuFile als wichtigen Beitrag zur Verbesserung der sogenannten Inferenz-Ökonomie. Durch den direkten Zugriff auf den Massenspeicher könne der Bedarf an teurem DRAM-Arbeitsspeicher in Rechenzentren reduziert werden. Dies ermögliche kosteneffizientere Hardware-Konfigurationen für den Betrieb von KI-Modellen.
Während neue Technologien die Effizienz in Rechenzentren steigern, wächst gleichzeitig die Gefahr gezielter digitaler Angriffe auf Unternehmen. Erfahren Sie im kostenlosen E-Book, wie Sie Sicherheitslücken schließen und Ihr Unternehmen ohne teure Investitionen langfristig schützen. Gratis-E-Book: Cyber Security Strategien sichern
Gleichzeitig schränken Experten ein, dass cuFile kein vollständiger Ersatz für DRAM sei. Die Technologie könne zwar den Speicherdruck mildern und die Effizienz steigern, sie stelle jedoch kein generelles Heilmittel gegen den bestehenden Mangel an schnellen Speicherkomponenten dar. Dennoch markiere der Schritt eine signifikante Weiterentwicklung in der Architektur moderner Hochleistungsrechner.
