Es war bereits bekannt, dass die AI-Modelle von Anthropic und OpenAI bei einem Test aus ihrer Umgebung entkommen sind und Webseiten angegriffen haben. Schrittweise kommen jetzt aber weitere Hacks und Angriffe ans Licht, die die AI-Modelle bzw. deren AI-Agenten der US-Anbieter Anthropic, Meta und OpenAI bei Tests ungewollt durchgeführt haben.
Rückblick auf die Anthropic- und OpenAI-Hacks
Im Juli 2026 wurde Hugging Face Opfer eines KI-gestützten Cyberangriffs. Mittlerweile ist bekannt, dass dieser Angriff von KI-Modellen des Anbieters OpenAI ausging, die bei Tests außer Kontrolle geraten waren. Ich hatte diesen Vorfall kurz im Beitrag Hugging Face Opfer eines KI-Angriffs (Juli 2026) hier im Blog aufgegriffen.
Ende Juli 2026 wurde bekannt, dass die OpenAI-Modelle weitere Unternehmen gehackt haben. Gleichzeitig musste Anthropic einen solchen Vorfall mit drei Opfern eingestehen. Ich hatte diesen Sachverhalt im Beitrag KI-Modelle von Anthropic und OpenAI für diverse Hacks verantwortlich aufgegriffen.
Weitere Hacks durch Anthropic- und OpenAI-AI-Agenten
Zum 4. August 2026 berichtet Bleeping Computer in diesem Artikel, dass Anthropic und OpenAI bestätigt haben, dass ihre KI-Modelle in weitere, separate, kürzlich bekannt gewordene Vorfälle im Zusammenhang mit Cybersicherheitstests durch Dritte verwickelt waren. Dieses Mal kam es zu einem Angriff auf eine echte Website sowie zu Social-Engineering-Angriffen auf Personen außerhalb des vorgesehenen Testumfangs.
Das UK AI Security Institute (AISI) berichtet im Artikel Incident Report: unsanctioned agent behaviour during cyber testing über neue Vorfälle. Im Rahmen einer Cyber-Bewertung, die standardmäßig durchgeführt werden, stellte die AISI einen Vorfall fest, bei dem KI-Agenten anhaltende, nicht genehmigte Maßnahmen ergriffen, die sich gegen reale Personen und Organisationen richteten. Laut AISI führten Agenten, die auf Anthropics "Claude Mythos 5" und OpenAIs "GPT-5.6 Sol" basierten, im öffentlichen Internet diese nicht genehmigte Maßnahmen durch, während sie versuchten, simulierte Hacking-Aufgaben zu lösen.
Bei insgesamt 122 Testversuchen fand AISI in 10 Durchläufen 19 unzulässige Aktionen im Live-Internet. Siebzehn davon betrafen Mythos 5 und zwei GPT-5.6 Sol. Laut AISI bliebe die Versuche erfolglos, Es entstand kein Schaden in der realen Welt.
Laut AISI durchsuchte ein Mythos-5-Agent das Internet nach Begriffen im Zusammenhang mit einer Cyber-Challenge und kam zum Schluss, dass ein unabhängiges öffentliches GitHub-Repository mit dem Test in Verbindung stand.
Der Agent versuchte daraufhin einen Supply-Chain-Angriff, indem er bösartigen Code an das echte Open-Source-Projekt übermittelte, in der Annahme, dass eine Kompromittierung der Software einen Zugang zu einem Rechner innerhalb des simulierten Bereichs ermöglichen könnte. Der Agent versandte dazu fünf gezielte E-Mails an die Entwickler. Einige enthielten Malware, während andere darauf abzielten, sie zur Genehmigung der Codeänderung zu bewegen.
Im Bleeping Computer-Artikel wird ein zweiter, neu bekannt gewordene Vorfall erwähnt, der sich bei einem vom Irregular bei einem mit einem OpenAI-Modell während durchgeführter "Capture-the-Flag"-Tests, die eigentlich vom Internet isoliert sein sollten, ereignete. In einem Test stimmte der Name des fiktiven Ziels zufällig mit einer echten Domain überein, die darauf hin während des Tests angegriffen wurde. Details lassen sich dem Bleeping Computer-Beitrag entnehmen.
Auch Meta AI hackt
Auf X und in diesem Bleeping Computer-Artikel bin ich darauf gestoßen, dass auch eine AI von Meta bei einem Test reale Webseiten angegriffen hat. Mit dem Vorfall vertraute Personen behaupten, dass das Modell "Muse Spark 1.1" von Meta in ein nicht näher genanntes Unternehmen eingedrungen sei und dort Änderungen an den internen Systemen vorgenommen habe.
Ähnliche Artikel:
Hugging Face Opfer eines KI-Angriffs (Juli 2026)
OpenAI-Modelle für Cyberangriff auf Hugging Face verantwortlich
KI-Modelle von Anthropic und OpenAI für diverse Hacks verantwortlich
Anthropic Claude-Artefakte landen in der Google-Suche
MVP: 2013 – 2016
