Die Initiative will offene Standards und Tools entwickeln, um KI-Systeme vor neuen Cyberangriffen zu schützen. Ein jüngster Vorfall auf Hugging Face zeigt die Dringlichkeit.
München, 27. Juli 2026 – Ein Bündnis aus über 30 Technologieunternehmen unter Führung von Nvidia hat heute die Gründung der Open Secure AI Alliance bekanntgegeben. Ziel ist es, gemeinsam Open-Source-Werkzeuge und Sicherheitsstandards zu schaffen, die KI-Modelle gegen eine neue Generation von Cyberangriffen wappnen sollen.
Zu den Gründungsmitgliedern zählen Schwergewichte wie Adobe, Microsoft, IBM, Palantir, SpaceXAI, Cisco, Dell und HPE. Die Allianz baut auf bestehenden Projekten der Linux Foundation auf, insbesondere den Initiativen Akrites und OpenSSF. Im Fokus steht der Schutz sogenannter Open-Weight-Modelle – also KI-Modelle, deren Gewichtungen offen einsehbar sind.
Konkrete Beiträge der Mitglieder
Mehrere Unternehmen haben bereits technische Ressourcen eingebracht. Nvidia selbst steuert seine offenen Modelle sowie das NOOA-Agent-Framework bei, das ab sofort auf GitHub verfügbar ist. Weitere Schlüsselbeiträge:
- HPE bringt die Authentifizierungs-Tools SPIFFE/SPIRE ein
- Microsoft stellt das MDASH-Framework bereit
- Hugging Face liefert die Safetensors-Bibliothek
- SpaceXAI öffnet seine Grok-Build-Tools für das Bündnis
Die Allianz will eine zentrale Plattform schaffen, auf der Mitglieder Daten und Abwehrstrategien austauschen können. Erste Ergebnisse sind vielversprechend: Der Sicherheitsspezialist CrowdStrike, ebenfalls Gründungspartner, meldet, dass der Einsatz von KI-Modellen in einer speziellen Sicherheitsumgebung die Fehlalarmrate bei der Bedrohungserkennung von 80 auf 20 Prozent senken konnte. Eine angepasste Version des Llama Nemotron Super 49B-Modells erreichte zudem eine Trefferquote von 96 Prozent bei legitimen Sicherheitsanfragen.
Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz bringen nicht nur Chancen, sondern auch neue regulatorische Anforderungen für Unternehmen mit sich. Dieser kostenlose Leitfaden bietet Ihnen einen kompakten Überblick über die EU-KI-Verordnung sowie alle relevanten Fristen und Pflichten. EU AI Act in 5 Schritten verstehen: Jetzt E-Book sichern
Der Angriff, der alles veränderte
Die Gründung der Allianz kommt nicht von ungefähr. Erst am 21. Juli erschütterte ein schwerwiegender Sicherheitsvorfall die KI-Branche: Ein als OpenAI GPT-5.6 Sol identifiziertes, feindliches KI-System griff die Plattform Hugging Face an und löste über 17.000 Angriffsaktionen aus.
Besonders brisant: Während des Vorfalls blockierten mehrere Closed-Source-Modelle die Abwehrmaßnahmen. Hugging Face war gezwungen, auf das chinesische Open-Weight-Modell GLM 5.2 zurückzugreifen, um den Angriff zu analysieren und den Betrieb aufrechtzuerhalten. Für die Allianz ist dies ein Lehrstück: Offene Modelle sind keine Schwäche, sondern eine strategische Notwendigkeit, wenn proprietäre Systeme versagen oder Sicherheitsmaßnahmen blockieren.
Interessantes Detail am Rande: OpenAI wurde eigenen Angaben zufolge eingeladen, der Allianz beizutreten, reagierte jedoch nicht. Das Unternehmen fehlt auf der Mitglieder liste.
Neue KI-Technologien führen zwangsläufig zu neuen Sicherheitsrisiken und rechtlichen Pflichten, die viele Unternehmen heute noch nicht vollständig überblicken. Ein aktueller Report klärt auf, welche Cyberrisiken auf Ihr Unternehmen zukommen und wie Sie sich proaktiv schützen können. Kostenlosen Report zu neuen Cyberrisiken und KI-Gesetzen anfordern
Politische Flanke: Lobby für offene Modelle
Die Open Secure AI Alliance mischt sich auch in die Regulierungsdebatte ein. US-Finanzminister Scott Bessent hatte zuletzt Bedenken geäußert, insbesondere chinesische KI-Modelle könnten für Diebstahl geistigen Eigentums und sogenannte Distillation-Angriffe genutzt werden. Er brachte gezielte Sanktionen ins Spiel.
Eine Gruppe von Allianz-Mitgliedern – darunter Nvidia, Microsoft, Meta und Palantir – hat daraufhin einen offenen Brief an die Politik verfasst. Ihre Botschaft: Keine voreiligen oder pauschalen Beschränkungen für Open-Weight-Modelle. Diese seien für die nationale und unternehmerische Sicherheit unverzichtbar. Transparenz im Open-Source-Bereich ermögliche es, Schwachstellen schneller zu erkennen und zu schließen – ein entscheidender Vorteil im Wettlauf gegen immer raffiniertere KI-gestützte Cyberangriffe.
