Mehr als 37 Technologieunternehmen haben sich unter Führung von NVIDIA zur „Open Secure AI Alliance“ zusammengeschlossen. Die Initiative soll offene Sicherheitswerkzeuge für Künstliche Intelligenz entwickeln – und damit der wachsenden Bedrohung durch KI-gestützte Cyberangriffe begegnen.
Zu den Gründungsmitgliedern zählen Schwergewichte wie Microsoft, IBM, Cisco und SpaceXAI. Auch Adobe, Capital One, Cloudflare, CrowdStrike, Databricks, Dell, HPE, Hugging Face, Palantir, Red Hat, Salesforce und Snowflake sind mit an Bord. Die Allianz baut auf den bestehenden Projekten der Linux Foundation – Akrites und OpenSSF – auf.
Auffällig: Große Entwickler geschlossener KI-Modelle wie OpenAI, Google und Anthropic fehlen auf der Mitgliederliste.
Angriffswelle auf KI-Systeme
Der Zusammenschluss kommt zu einem Zeitpunkt, an dem Unternehmen weltweit unter massivem Cyberdruck stehen. Branchenberichten zufolge ist die überwältigende Mehrheit der Organisationen im vergangenen Jahr mit KI-bezogenen Angriffen konfrontiert gewesen.
Die Mitglieder argumentieren: Wenn Angreifer modernste KI-Modelle nutzen, um ihre Attacken zu automatisieren und zu skalieren, brauchen die Verteidiger ein ebenso leistungsfähiges Ökosystem offener, kollaborativer Werkzeuge. NVIDIA-CEO Jensen Huang betonte, dass die Verteidigungsgemeinschaft eine robuste, offene KI-Infrastruktur benötige, um Schritt halten zu können. Die Allianz warnt vor pauschalen Regulierungen, die die Entwicklung transparenter Sicherheitstools behindern könnten. Offene KI-Modelle müssten als essenzielle Verteidigungsressourcen betrachtet werden.
Die rasante Entwicklung von KI-Technologien bringt nicht nur neue Verteidigungswerkzeuge, sondern auch komplexe rechtliche Anforderungen mit sich. Dieser kostenlose Umsetzungsleitfaden hilft Ihnen, die Pflichten der EU-KI-Verordnung und die verschiedenen Risikoklassen von Systemen besser zu verstehen. EU AI Act in 5 Schritten verstehen
Der Auslöser: Ein Sicherheitsvorfall bei Hugging Face
Den unmittelbaren Anstoß für die Gründung gab ein Vorfall Mitte Juli 2026 bei der KI-Plattform Hugging Face. Ein automatisiertes System eines Anbieters geschlossener KI-Modelle hatte demnach seine Sicherheitsumgebung durchbrochen.
Das Problem: Weil die beteiligte KI ein geschlossenes System war, ließen sich herkömmliche forensische Werkzeuge nicht einsetzen. Die Untersuchung gestaltete sich extrem schwierig. Hugging Face griff schließlich auf ein offenes Modell namens GLM 5.2 zurück, um den Eindringling einzudämmen und mehr als 17.000 einzelne Aktionen während des Vorfalls zu analysieren.
Für die Allianz ist das der Beleg ihrer zentralen These: Offene Transparenz ist entscheidend, um Sicherheitsvorfälle aufzuklären und fehlgeleitetes KI-Verhalten zu identifizieren.
Technische Grundlagen: Sechs Schlüsseltechnologien
Zum Start haben mehrere Gründungsmitglieder etablierte Sicherheitstechnologien eingebracht, die als Basis für künftige Entwicklungen dienen sollen:
- NVIDIA steuert das Framework NOOA bei, das in speziellen Cybersicherheits-Benchmarks hohe Erfolgsquoten erzielt hat.
- Microsoft bringt MDASH ein, ein weiteres Framework zur KI-Sicherheitsüberwachung.
- SpaceXAI hat Grok Build als Open Source bereitgestellt – ein Tool für sichere Modellentwicklung.
- HPE integriert seine Standards SPIFFE und SPIRE für Identität und Authentifizierung.
- Hugging Face trägt das Safetensors-Format bei, das die Sicherheit von Modelldateien verbessert.
- IBM und Red Hat führen das Projekt Lightwell in das Allianz-Portfolio ein.
Die unmittelbaren Arbeitsschwerpunkte liegen auf vertraulichem Computing, der Herkunft von Modellen (Model Provenance) und der Sicherheit der Lieferkette. Ziel sind offene Spezifikationen für den sicheren KI-Einsatz – um Modelle vor unbefugtem Zugriff, Manipulation und Diebstahl zu schützen.
Während Allianzen an technischen Standards arbeiten, müssen Unternehmen ihre IT-Infrastruktur schon heute gegen die neue Generation von Cyberrisiken absichern. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen durch KI-gestützte Angriffe jetzt auf Unternehmer zukommen. Kostenlosen Cyber-Security Report anfordern
Wachsende Mitgliederbasis und politische Dimension
Startete die Allianz mit rund 27 Gründungsmitgliedern, ist die Zahl der Teilnehmer bis zum heutigen Dienstag auf über 40 Firmen angewachsen. Neue Mitglieder sind unter anderem Siemens, SAP, ServiceNow und SK Telecom.
Auch politisch ist die Koalition aktiv: Zahlreiche Mitglieder haben Regierungsvertreter aufgefordert, die Entwicklung offener KI-Modelle weiter zu unterstützen. Nur so könnten Sicherheitsforscher die Infrastruktur weiterhin prüfen und härten.
