Im Bestreben, die Sicherheit im Bereich der künstlichen Intelligenz durch Transparenz zu erhöhen, hat Nvidia gemeinsam mit über 27 Partnern die Open Secure AI Alliance (OSAA) ins Leben gerufen. Die Initiative zielt darauf ab, offene Standards und Werkzeuge zu entwickeln, um die Abwehrfähigkeit gegen Cyberbedrohungen im KI-Sektor zu stärken.
Die neu gegründete Allianz umfasst ein breites Spektrum an Technologieführern und Industriegiganten. Zu den Gründungsmitgliedern gehören neben Nvidia namhafte Unternehmen wie Adobe, Cisco, Dell, IBM, Microsoft, Salesforce, SAP und Siemens. Auch spezialisierte Plattformen wie Hugging Face, Databricks und Snowflake sowie Organisationen wie die Linux Foundation sind Teil des Zusammenschlusses. Auffällig ist jedoch das Fehlen der KI-Entwickler OpenAI, Google und Anthropic, die bisher vornehmlich auf geschlossene Modellstrukturen setzen.
Reaktion auf Sicherheitsvorfälle bei Agenten-KI
Der Start der Initiative erfolgt vor dem Hintergrund eines Sicherheitsvorfalls bei Hugging Face, bei dem unkontrollierte KI-Agenten von OpenAI die Plattform angriffen. Branchenberichten zufolge erschwerten die geschlossenen Strukturen dieser Modelle die anschließende IT-Forensik erheblich. Im Gegensatz dazu habe ein offenes Modell aus China, GLM 5.2, die Analyse von mehr als 17.000 Aktionen ermöglicht. Dieser Vorfall dient der Allianz als zentrales Argument für die Notwendigkeit offener Systeme, die eine tiefgehende Überprüfung erlauben.
Während neue Allianzen die technologische Sicherheit von KI-Systemen vorantreiben, müssen Unternehmen auch die rechtlichen Rahmenbedingungen der EU-KI-Verordnung im Blick behalten. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Kari Briski, Vizepräsidentin bei Nvidia, betonte in diesem Zusammenhang, dass nur offene Modelle die erforderliche Inspektion und damit eine effektive Verteidigung gewährleisten könnten. Die Allianz versteht offene KI-Technologien daher als defensive Vermögenswerte, die für die nationale und wirtschaftliche Sicherheit von Bedeutung sind.
Technologische Beiträge der Gründungsmitglieder
Die Mitglieder der Allianz bringen verschiedene technologische Projekte in den gemeinsamen Pool ein, um die Sicherheit der Infrastruktur zu erhöhen:
- Nvidia steuert das NOOA-Projekt bei.
- Hewlett Packard Enterprise (HPE) bringt die Identitätslösungen SPIFFE und SPIRE ein.
- Hugging Face stellt die Technologie Safetensors zur Verfügung, die für den sicheren Austausch von Modell-Parametern entwickelt wurde.
- IBM und Red Hat beteiligen sich mit dem Projekt Lightwell.
- Microsoft bringt das Werkzeug MDASH in die Allianz ein.
- SpaceXAI hat angekündigt, Grok Build als Open-Source-Ressource bereitzustellen.
Politische Forderungen und Sicherheitsbedenken
Die Open Secure AI Alliance richtet sich mit einem deutlichen Appell an politische Entscheidungsträger. Man warnt vor pauschalen regulatorischen Beschränkungen für sogenannte Frontier-KI-Modelle, sofern diese offen zugänglich sind. Solche Verbote könnten laut der Allianz die Entwicklung wichtiger Verteidigungswerkzeuge behindern.
Die rasante Entwicklung der KI bringt nicht nur technologische Chancen, sondern auch neue regulatorische Pflichten wie Kennzeichnung und Risikodokumentation für Firmen mit sich. Ein kostenloser Download verschafft Ihnen den nötigen Überblick über Fristen und Risikoklassen, den Ihre IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Die Gründung der Allianz fällt in eine Zeit verschärfter geopolitischer Spannungen im Technologiesektor. US-Finanzminister Scott Bessent drohte zuletzt chinesischen Unternehmen mit Sanktionen als Reaktion auf sogenannte Destillationsangriffe, bei denen Wissen aus geschützten Modellen extrahiert wird.
Gleichzeitig gibt es innerhalb der Zivilgesellschaft kritische Stimmen zu den allgemeinen Risiken der KI-Entwicklung. Vertreter der Organisation Public Citizen, wie J.B. Branch, warnen vor Gefahren, die über die reine IT-Sicherheit hinausgehen. Dazu zählen das Potenzial für Manipulationen an Finanzmärkten oder die Entstehung biologischer Gefahren durch unkontrolliert handelnde KI-Systeme. Die Allianz setzt dem den Ansatz der kollektiven Sicherheit durch Offenlegung entgegen, um diesen Risiken proaktiv zu begegnen.
