Der Speicherbedarf von KI-Beschleunigern gerät zunehmend ins Wanken: Laut einem Bericht von digitimes.com vom 15. September 2026 überdenken Kunden von Astera Labs derzeit, wie viel High-Bandwidth-Memory (HBM) sie überhaupt noch direkt neben ihren KI-Beschleunigern benötigen.
Grund dafür sind externe Speicher-Tiers, die neue Optionen für den sogenannten KV-Cache eröffnen – jenen Zwischenspeicher, der bei KI-Modellen die Ergebnisse vorheriger Rechenschritte vorhält.
Neue Leo-Produktfamilie soll KV-Cache-Engpass adressieren
Als Reaktion auf diese Marktverschiebung erweitert Astera Labs seine Leo-Familie um die neue Leo X-Series sowie die zweite Generation der Leo E- und P-Series, wie digitimes.com berichtete.
Mit den drei neuen Produkten der Leo-Memory-Controller-Linie zielt das Unternehmen einem weiteren Bericht des Portals vom 16. September 2026 zufolge gezielt auf den KV-Cache-Engpass. Hintergrund ist der Wandel der KI-Inferenz: Statt einzelner Abfragen laufen zunehmend kontinuierliche Agenten-Loops, bei denen der KV-Cache den verfügbaren HBM-Speicher der Beschleuniger übersteigt.
Während die Hardware-Architekturen für künstliche Intelligenz immer komplexer werden, wächst auch der Regulierungsdruck durch den Gesetzgeber. Dieser kostenlose Ratgeber bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen, die Unternehmen beim Einsatz von KI-Systemen nun beachten müssen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Dieser Wandel hängt eng mit der Entwicklung von KI-Modellen zusammen, die von einfachen Frage-Antwort-Interaktionen zu autonomen Multi-Step-Aufgaben übergehen. Laut digitimes.com lenkt insbesondere das OpenAI-Modell GPT-6 Astra die Aufmerksamkeit des Marktes auf die Hardware-Nachfrage, die durch die Verbreitung solcher KI-Agenten entsteht.
Parallel dazu wird in der Branche das sogenannte Jevons-Paradox diskutiert – die Frage, ob effizientere Speichernutzung durch neue Architekturen die Gesamtnachfrage nach HBM am Ende sogar noch steigert, statt sie zu senken.
Nvidia setzt auf Erweiterung von Custom-HBM
Auch Nvidia reagiert auf die veränderte Speicherlandschaft. Das kürzlich angekündigte NVHBM ist laut Einordnung von digitimes.com keine grundlegend neue Speichertechnologie, sondern eine Erweiterung des bestehenden Custom-HBM (cHBM). Nvidia verfolge damit das Ziel, cHBM zu platformisieren und Custom-KI-Architekturen langfristig zu dominieren, wie es in dem Bericht vom 16. September 2026 heißt.
Speicherhersteller zwischen Kapazitätsausbau und knapper Versorgung
Die Entwicklungen bei Astera Labs und Nvidia fallen in eine Phase, in der die großen Speicherhersteller ohnehin unter erheblichem Nachfragedruck stehen. Auf dem Six Five Summit 2026 erklärte Sumit Sadana, Senior Advisor des CEO von Micron, dass Speicher-Performance und -Kapazität zunehmend die Gesamtleistung von KI-Systemen bestimmten, wie bitget.com am 16. September 2026 berichtete.
Die rasante Verbreitung von KI-Systemen stellt nicht nur die Hardware vor Herausforderungen, sondern erfordert auch eine rechtssichere Dokumentation in der Unternehmenspraxis. Welche Systeme konkret als Hochrisiko eingestuft werden und wie Sie die neuen Dokumentationspflichten erfüllen, klärt dieser kostenlose Report auf. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Micron plant demnach, seine Investitionsausgaben von knapp über 13 Milliarden US-Dollar im Geschäftsjahr 2025 im Geschäftsjahr 2026 zu verdoppeln und im Geschäftsjahr 2027 auf über 45 Milliarden US-Dollar zu steigern; die geplante US-Investition des Unternehmens wurde von 200 Milliarden US-Dollar auf 250 Milliarden US-Dollar erhöht. Wirksame neue Lieferkapazitäten würden laut Micron jedoch erst ab 2028 verfügbar.
Die angespannte Marktlage bestätigen auch Zahlen von KB Securities: Die Erfüllungsrate der Speichernachfrage bei Samsung, SK Hynix und Micron zusammen liegt demnach bei lediglich 60 Prozent, während die Lagerbestände auf historisch niedrigem Niveau unter 10 Tagen liegen und rund 70 Prozent der Gesamtkapazität bereits über langfristige Lieferverträge gebunden sind, wie gate.com am 16. September 2026 berichtete.
Samsung erwartete laut einem Bericht von ajupress.com vom 15. September 2026 eine globale Speicherknappheit bis 2028 mit einer Verschärfung im Jahr 2027 und hat nach eigenen Angaben bereits Lieferverträge mit den fünf größten Data-Center-Betreibern geschlossen.
Diese Gemengelage aus wachsender Agenten-getriebener Nachfrage und knapper Speicherversorgung dürfte die Debatte darüber, wie viel HBM künftig direkt am Beschleuniger verbaut werden muss und wie viel über externe Speicher-Tiers abgedeckt werden kann, in den kommenden Monaten weiter befeuern.
