Die Linux Foundation will mit einem neuen Rahmenwerk die Meldung von Sicherheitsvorfällen in KI-Systemen vereinheitlichen. Der Entwurf könnte auch für europäische Unternehmen richtungsweisend werden.
Einheitliche Regeln für KI-Sicherheit
Der „Shared AI Discovery Exchange“ (SAFE) soll erstmals verbindliche Standards dafür schaffen, wie Organisationen Sicherheitsvorfälle mit künstlicher Intelligenz melden und analysieren. Der als RFC (Request for Comments) veröffentlichte Entwurf stammt von der Open Secure AI Alliance und zielt vor allem auf neuartige Bedrohungen durch autonome KI-Agenten ab.
Die Vorstellung des Rahmenwerks erfolgte am heutigen Dienstag im Rahmen der Black-Hat-Konferenz in Las Vegas. Die Allianz, die inzwischen mehr als 120 Mitgliedsorganisationen umfasst, will einzelne Sicherheitsvorfälle in kollektive Abwehrfähigkeiten verwandeln – durch vertraulichen Datenaustausch und strukturierte Nachbesprechungen.
Strenge Meldefristen für betroffene Unternehmen
Der SAFE-Entwurf sieht einen verbindlichen Zeitplan für die Offenlegung von KI-Sicherheitslücken vor. Demnach müssen betroffene Organisationen Kunden mit nachweislichem Risiko innerhalb von 72 Stunden informieren. Ein vertraulicher Bericht an die SAFE-Austauschplattform ist binnen vier Arbeitstagen nach Entdeckung eines Vorfalls fällig.
Wer sich mit der Absicherung von KI-Systemen befasst, muss neben technischen Standards auch die gesetzlichen Rahmenbedingungen in Europa kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Weitere Fristen: Eine Kundeninformation muss innerhalb von 14 Tagen erfolgen, ein vorläufiger Bericht nach 30 Tagen. Nach 90 Tagen ist ein abschließender Statusbericht zur Behebung der Schwachstelle vorgesehen. Während die Erstmeldungen vertraulich behandelt werden, um eine gemeinsame Analyse zu ermöglichen, sieht das Rahmenwerk auch öffentliche Fristen vor – für ein breiteres Branchenbewusstsein bei wiederkehrenden Sicherheitsmängeln.
Die Initiative deckt den gesamten KI-Stack ab und setzt auf evidenzbasierte Empfehlungen. Die Governance der Plattform ist unabhängig angelegt, beteiligt sind unter anderem Cisco, CrowdStrike, Hugging Face, NVIDIA und Red Hat.
Rasantes Wachstum der Allianz
Seit ihrer Gründung Ende Juli 2026 hat sich die Open Secure AI Alliance von rund 40 Gründungsmitgliedern auf 123 Organisationen vergrößert. Zu den jüngsten Zugängen zählen Amazon, Visa und Broadcom mit seiner VMware-Sparte.
Neue Standards und Gesetze bringen oft Unklarheit darüber mit sich, welche Systeme als Hochrisiko eingestuft werden und welche Dokumentationspflichten daraus entstehen. Ein kostenloser Report klärt auf, was Unternehmen jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu stehen. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Den Anstoß für die Gründung gab ein Sicherheitsvorfall zu Jahresbeginn, bei dem ein autonomer Agent die Plattform Hugging Face beeinträchtigt hatte. Während mit IBM, Microsoft und Palantir zahlreiche Branchengrößen vertreten sind, fehlen die KI-Entwickler OpenAI und Anthropic bislang in der Mitgliederliste.
Branchenvertreter betonen, dass ein Open-Source-Ansatz für KI-Sicherheit entscheidend für digitale Souveränität sei. Das gelte besonders für regionale Märkte im Nahen Osten – etwa Saudi-Arabien und die Vereinigten Arabischen Emirate, wo Organisationen wie G42 der Allianz beigetreten sind, um überprüfbare und anpassbare Sicherheitsmodelle zu fördern.
Open-Source-Werkzeuge für die Praxis
Zur Unterstützung der SAFE-Umsetzung haben mehrere Mitgliedsunternehmen technische Ressourcen beigesteuert. NVIDIA stellte unter anderem eine Forschungsumgebung für KI-Sicherheit und den Garak-Scanner für LLM-Schwachstellen bereit.
Databricks, Gründungsmitglied der Allianz, steuert seine Omnigent-Testumgebung für KI-Agenten sowie das Sicherheitsrahmenwerk DASF 3.0 bei, das rund 100 Risiken und mehr als 70 Sicherheitskontrollen identifiziert. Die Werkzeuge sollen Organisationen dabei helfen, KI-Modelle gezielt zu testen und Bedrohungen in Echtzeit zu verfolgen.
Die Linux Foundation bittet nun um Rückmeldungen aus der Community zum RFC, der unter der Lizenz CC BY 4.0 veröffentlicht wurde. Erst nach dieser Konsultationsphase sollen die Standards finalisiert und zur breiten Anwendung freigegeben werden.
