Im Juli 2026 wurde Hugging Face Opfer eines KI-gestützten Cyberangriffs. Inzwischen ist bekannt, dass dieser Angriff von KI-Modellen des Anbieters OpenAI, die bei Tests außer Kontrolle geraten waren, ausging. Nun wurde bekannt, dass die OpenAI-Modelle weitere Unternehmen gehackt haben. Gleichzeitig musste Anthropic einen solchen Vorfall mit drei Opfern eingestehen.
Es sieht so aus, dass die "Büchse der Pandora" geöffnet wurde und sowohl Anthropic als auch OpenAI die Kontrolle über ihre KI-Modelle bei Tests verloren haben.
Der Hugging Face-Vorfall
Hugging Face, eine zentrale Open-Source-Plattform und globale Community für Künstliche Intelligenz (KI) und maschinelles Lernen wurde im Juli 2026 Opfer eines KI-gesteuerten Cybervorfalls. Der KI gelang es, auf interne Anmeldedaten und die Datenbank zuzugreifen. Ein gewisses Problem für das Sicherheitsteam von Hugging Face war dabei, dass der Versuch, KI-Modelle zur Abwehr einzusetzen, scheiterte. Diese AI-Modelle verweigerten die Arbeit aus Sicherheitsgründen. Später wurde bekannt, dass es OpenAI-Modelle waren, die aus einer Sandbox ausbrachen und per Internet den Angriff ausführten. Ich hatte diesen Vorfall kurz im Beitrag Hugging Face Opfer eines KI-Angriffs (Juli 2026) hier im Blog aufgegriffen.
OpenAI gesteht weitere Vorfälle
Zum 30. Juli 2026 bin ich über nachfolgenden Tweet auf den Hinweis gestoßen, dass die OpenAI-Modelle wohl weitere Opfer von Hacks verursacht haben. Dark Reading hat das Ganze in diesem Artikel thematisiert (der Reuters-Artikel mit der Erstmeldung ist hinter einer Paywall).
Reuters berichtete, dass es neben Hugging Face eine weitere (ungenannte) Organisation gibt, die Kunde des KI-Infrastrukturanbieters Modal war und durch AI-Modelle von OpenAI kompromittiert wurde.
Akshat Bubna, Chief Technology Officer (CTO) bei Modal, sagte dazu, dass dem Unternehmen bekannt sei, dass ein Modal-Kunde einen nicht authentifizierten Endpunkt veröffentlicht hat. Dieser ermöglichte es jedem per Internet die Sandboxen des Endpunkts zur Codeausführung zu nutzen. Dies wurde von dem böswilligen (OpenAI) Agenten im Hugging Face-Fall ausgenutzt. Modal hat einen kurzen Blog-Beitrag ohne viel Informationen dazu veröffentlicht. Es ist sozusagen ein "Kollateralschaden". heise hat in diesem Artikel eine deutschsprachige Zusammenfassung veröffentlicht. Vectra AI hat in diesem Beitrag auch noch einige Informationen zum Hugging Face-Vorfall veröffentlicht.
Anthropic gesteht drei Cybervorfälle ein
Zum 30. Juli 2026 hat das Red Team von KI-Anbieter Anthropic im Beitrag Investigating three real-world incidents in our cybersecurity evaluations drei ähnliche Vorfälle wie bei OpenAI im Zusammenhang mit AI-Modellen öffentlich eingestanden. Aufgeschreckt durch den OpenAI /Hugging Face-Vorfall hat man wohl die eigenen Log-Dateien nochmals genauer angesehen.
Anthropic schreibt, dass bei einer Überprüfung der Protokolle zur Cybersicherheitsbewertung der Modelle drei Vorfälle festgestellt wurden, bei denen ein Claude-Modell aus einer Testumgebung eines Drittanbieters heraus oder während der Interaktion mit dieser ungeplant auf das Internet zugegriffen und sich anschließend unbefugten Zugriff auf die Echtzeit-Systeme von drei verschiedenen Organisationen verschafft hat.
Der Artikel beschreibt detaillierter, was passiert ist, wie es dazu kam und welche Änderungen der Anbieter vornehmen will, um so etwas zu verhindern. Anthropic gibt zudem anderen KI-Labors die Empfehlung, ähnliche Überprüfungen durchzuführen.
Die neue Gefahr und Kritik von Sicherheitsexperten
The Register arbeitet sich in diesem Artikel an den obigen Vorfälle ab. Auch Trevor Dearing, Director of Critical Infrastructure Solutions beim Sicherheitsanbieter Illumio, hat mir am Freitag (31.7.2026) seine Einschätzung zu den Ausbrüchen von Anthropics KI-Modell Claude aus den Testumgebungen geschickt.
Trevor Dearing zeigt sich nicht überrascht, dass wir immer mehr dieser Vorfälle sehen. Sobald ein autonomer KI-Agent eine kontrollierte Umgebung verlassen kann, nimmt er die Grenzen einer Organisation nicht auf die gleiche Art und Weise wahr wie wir Menschen, argumentiert Dearing.
Für den Sicherheitsexperten ist aber viel erschreckender, wie simpel die Anthropic Sicherheitsmaßnahmen waren, die "kontrollierte" Umgebung für solche Tests schaffen sollten. "Wir bewegen uns auf eine Welt zu, in der Angriffe mit Maschinengeschwindigkeit ablaufen. Fehler, die früher möglicherweise unentdeckt geblieben wären, können dadurch künftig sehr viel schneller entdeckt und ausgenutzt werden.", sagt Trevor Dearing.
Und ergänzt: "Wir müssen KI-Agenten deshalb wesentlich wirksamer einhegen. Prompts in natürlicher Sprache sind zu mehrdeutig, um als belastbare Sicherheitsgrenze zu dienen". Zudem sei es grundsätzlich der falsche Ansatz, einem Agenten lediglich vorzugeben, was er nicht tun darf. Denn das Block-List-Prinzip bleibt, darauf weist Dearing berechtigt hin, zwangsläufig unvollständig: Selbst wenn 10.000 Aktivitäten ausdrücklich verboten sind, genügt einem Agenten eine einzige nicht verbotene Aktivität, um die Begrenzung zu umgehen.
Bei autonomen Systemen, die Optionen in Maschinengeschwindigkeit prüfen, kann genau diese Lücke zum Ausbruch aus der kontrollierten Umgebung führen. Anthropic hat Claude lediglich mitgeteilt, dass kein Internetzugang besteht – das ist jedoch keine echte Grenze. Stattdessen fordert Dearing einen konsequenten Zero-Trust-Ansatz: Unternehmen bzw. Sicherheitsverantwortlich sollten klar definieren, was ein Agent tun darf – also das Allow-List-Prinzip anwenden.
Dem schließt der Sicherheitsexperte noch eine Warnung an: "Unternehmen können sich jetzt noch viel weniger als früher darauf verlassen, bekannte Angriffsmuster zu erkennen oder darauf zu warten, dass ein Warnsystem anschlägt. Sie benötigen deutlich mehr Visibilität darüber, was ihre KI-Systeme tun und worauf sie zugreifen können. Und sie brauchen Lösungen, die den Schaden eindämmen können, wenn etwas schiefläuft."
Ähnliche Artikel:
Hugging Face Opfer eines KI-Angriffs (Juli 2026)
OpenAI-Modelle für Cyberangriff auf Hugging Face verantwortlich
MVP: 2013 – 2016
