Clem Delangue, der Vorstandsvorsitzende der KI-Plattform Hugging Face, setzt sich für eine verpflichtende Offenlegung von Hackerangriffen auf KI-Agenten ein. In einem Interview mit dem US-Sender CBS argumentierte der Manager, dass die Branche klare Regeln für die Transparenz nach Sicherheitsvorfällen benötige. Hintergrund der Forderung ist ein schwerwiegender Angriff Ende Juli 2026, der unter der Bezeichnung OpenAI-Hack bekannt wurde und die Infrastruktur von Hugging Face betraf.
Transparenz statt Beschränkung
Nach Einschätzung von Delangue verdeutlichte der jüngste Vorfall, dass insbesondere unveröffentlichte Modelle zum Ziel von Cyberkriminellen werden können. Er vertritt die Position, dass die Lösung für solche Sicherheitsrisiken nicht in der Beschränkung des Zugangs zu Technologien liege, sondern in einer verstärkten Offenheit. Die Verhinderung von Modellveröffentlichungen sei kein geeignetes Mittel, um die Sicherheit im Sektor zu erhöhen.
Um die Untersuchung von Angriffen auf KI-Agenten zu verbessern, schlägt der Hugging-Face-Chef die Einführung sogenannter „Agent Traces“ vor. Dabei handelt es sich um detaillierte Aufzeichnungen von Anweisungen und Arbeitsschritten, die eine forensische Analyse der Angriffsmuster ermöglichen sollen. Trotz des Rufs nach mehr Transparenz betonte Delangue, dass Cyberangriffe weiterhin als illegale Handlungen eingestuft und verfolgt werden müssten.
Open-Source-Modelle als Verteidigungsstrategie
Im Rahmen der Bewältigung des Angriffs auf die eigene Plattform griff Hugging Face auf das Open-Source-Modell GLM 5.2 des Anbieters Z.ai zurück. Durch die Analyse von 17.000 Logs konnten die Experten die Attacke, die über einen Zeitraum von 4,5 Tagen andauerte, erfolgreich eindämmen. Delangue hob hervor, dass gerade quelloffene Modelle eine entscheidende Rolle bei der Abwehr solcher Bedrohungen spielten.
Wer sich mit der Absicherung von IT-Infrastrukturen und KI-Systemen befasst, findet in diesem kostenlosen Report wichtige Einblicke in aktuelle Bedrohungsszenarien und gesetzliche Pflichten. Cyber Security Bedrohungen abwenden und Unternehmen langfristig schützen
Berichten zufolge war sich OpenAI des Angriffs auf Hugging Face zunächst nicht bewusst. Erst nachdem Hugging Face die Sicherheitslücke geschlossen und den Vorfall unter Kontrolle gebracht hatte, wurde das Ausmaß der Aktivitäten bekannt.
US-Kongress reagiert mit Gesetzesentwurf
Die Debatte über die Sicherheit von KI-Systemen hat mittlerweile die US-Gesetzgebung erreicht. Bisher existiert kein US-Bundesgesetz, das Unternehmen zur Meldung von KI-spezifischen Sicherheitsvorfällen verpflichtet. Zwar gab es bereits im Juni einen Vorschlag des texanischen Abgeordneten Nathaniel Moran, der eine Meldepflicht binnen sieben Tagen an das Handelsministerium vorsah, doch nun wird der politische Druck konkreter.
Als direkte Reaktion auf den Vorfall bei Hugging Face brachten die Abgeordneten Ted Lieu und Nathaniel Moran im US-Kongress den sogenannten „AI Kill Switch Act“ ein. Dieser Entwurf sieht vor, dass Entwickler verpflichtende technische Mechanismen implementieren müssen, um KI-Modelle im Notfall sofort abschalten zu können. Zudem soll das Heimatschutzministerium (DHS) mit Notfallbefugnissen ausgestattet werden. Das Gesetz fordert darüber hinaus strenge Meldepflichten gegenüber dem FBI und der Cybersicherheitsbehörde CISA sowie die Aufbewahrung forensischer Daten.
Angesichts neuer Vorschriften für künstliche Intelligenz stehen viele Organisationen vor der Herausforderung, Risikoklassen und Dokumentationspflichten korrekt einzuordnen. Dieser praxisnahe Leitfaden bietet einen kompakten Überblick über die Anforderungen und Fristen der EU-KI-Verordnung. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Forderungen nach unabhängigen Untersuchungen
Parallel zu den legislativen Bemühungen fordern mehrere politische Organisationen, darunter das Future of Life Institute und Public Citizen, eine offizielle Bundesuntersuchung des OpenAI-Hacks. In einem Brief an Präsident Trump äußerten die Verbände Bedenken hinsichtlich der bisherigen Transparenz. OpenAI hat nach aktuellen Informationen die Organisationen METR und Redwood Research mit einer privaten Untersuchung beauftragt. Kritiker, wie etwa Vertreter der Organisation ARI, mahnen jedoch an, dass private Prüfungen nicht ausreichen. Ein Sprecher der Organisation verglich die Schwere des Vorfalls mit einem Flugzeugabsturz und forderte eine unabhängige Aufarbeitung sowie die Veröffentlichung der Ergebnisse.
