Im Bereich der europäischen Infrastruktur für künstliche Intelligenz vollzieht sich eine zunehmende Spezialisierung auf reine Inferenzaufgaben. Ein zentrales Beispiel dieser Entwicklung ist die Bereitstellung von Rechenkapazitäten durch das Unternehmen Blackfuel am Standort Barcelona.
Die Anlage ist als erste reine Bereitstellung für KI-Inferenz auf Basis von AMDs Instinct MI355X Beschleunigern konzipiert. Ziel des Vorhabens ist es, die spezifischen Anforderungen an die Ausführung trainierter KI-Modelle zu adressieren und die Effizienz bei der Bearbeitung laufender Abfragen zu steigern.
Hardware-Architektur und Rechenzentrumsinfrastruktur
Die technische Grundlage der Bereitstellung bilden die AMD Instinct MI355X Grafikprozessoren, die auf der CDNA-4-Architektur basieren. Diese Beschleuniger verfügen über 288 GB HBM3E-Speicher und erreichen eine Speicherbandbreite von bis zu 8 TB/s. Aufseiten der Systemsoftware bildet AMDs ROCm-Plattform die Basis für den Betrieb.
Gehostet wird die Infrastruktur in einer Anlage von Digital Realty in Barcelona. Für den physischen Aufbau kommen flüssigkeitsgekühlte Dell PowerRack-Systeme zum Einsatz, die mit Dell PowerEdge XE9785L Servern bestückt sind.
Die technische Integration der Hardwarekomponenten wurde gemeinschaftlich von Dell und NTT DATA übernommen. Der Einsatz flüssigkeitsgekühlter Serversysteme zielt darauf ab, die thermischen Anforderungen hochdichter Beschleunigerknoten im Dauerbetrieb zu bewältigen.
Software-Stack und das Konzept des AI Token Grid
Auf der Softwareebene kombiniert Blackfuel die ROCm-Umgebung mit spezialisierten Frameworks wie vLLM und SGLang. Hinzu kommen proprietäre Softwarelösungen für Routing und Metering. Die gesamte Softwarearchitektur ist darauf ausgelegt, die Betriebskosten für die Modellausführung zu senken und die Anzahl nutzbarer Tokens pro Megawatt an elektrischer Leistung zu maximieren.
Während die technische Optimierung der KI-Inferenz voranschreitet, müssen Unternehmen auch die rechtlichen Rahmenbedingungen für den Einsatz solcher Systeme im Blick behalten. Dieser kostenlose Umsetzungsleitfaden bietet IT- und Compliance-Verantwortlichen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Das organisatorische Kernstück der Plattform bildet das sogenannte AI Token Grid. Über die Zuweisung logischer GPUs erhalten Kunden die Möglichkeit, feste Anteile der Serving-Kapazität gegen eine monatliche Fixgebühr zu reservieren. Dieses Modell soll planbare Zugriffskontingente für die Inferenz ermöglichen, ohne dass Nutzer die physische Rechnerinfrastruktur vollständig selbst verwalten müssen.
Unterstützte Modelle und wirtschaftliche Dimension
Die Plattform ist für den Einsatz verschiedener quelloffener sowie kommerziell verfügbarer Modelle ausgelegt. Geplant ist unter anderem die Unterstützung von Modellfamilien der Anbieter Meta, Mistral, DeepSeek und Qwen. Darüber hinaus sollen Systeme wie gpt-oss von OpenAI, Nemotron von NVIDIA sowie Gemma von Google auf der Infrastruktur bereitgestellt werden.
Wer sich mit der Implementierung und Skalierung von KI-Systemen befasst, sollte die neuen europäischen Regeln zur Kennzeichnung und Risikodokumentation genau kennen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Auf wirtschaftlicher Seite stützt sich das Projekt auf ein beträchtliches Vertragsvolumen. Für Blackfuel beläuft sich der vertraglich vereinbarte Umsatz aus mehrjährigen Kundenverträgen auf über 250 Mio. US-Dollar. Die Nachfrage nach solchen dedizierten Rechenkapazitäten verdeutlicht den wachsenden Stellenwert optimierter Inferenz-Umgebungen in Europa, die auf Kosteneffizienz und standardisierte Bereitstellung ausgerichtet sind.