![\"Sicherheit](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/04\/Sicherheit_klein.jpg\" "\\"Sicherheit")
Es war bereits bekannt, dass die AI-Modelle von Anthropic und OpenAI bei einem Test aus ihrer Umgebung entkommen sind und Webseiten angegriffen haben. Schrittweise kommen jetzt aber weitere Hacks und Angriffe ans Licht, die die AI-Modelle bzw. deren AI-Agenten der US-Anbieter Anthropic, Meta und OpenAI bei Tests ungewollt durchgef\u00fchrt haben.<\/p>\n
<\/p>\n
Ende Juli 2026 wurde bekannt, dass die OpenAI-Modelle weitere Unternehmen gehackt haben. Gleichzeitig musste Anthropic einen solchen Vorfall mit drei Opfern eingestehen. Ich hatte diesen Sachverhalt im Beitrag\u00a0KI-Modelle von Anthropic und OpenAI f\u00fcr diverse Hacks verantwortlich<\/a> aufgegriffen.<\/p>\n Zum 4. August 2026 berichtet Bleeping Computer in diesem Artikel<\/a>, dass Anthropic und OpenAI best\u00e4tigt haben, dass ihre KI-Modelle in weitere, separate, k\u00fcrzlich bekannt gewordene Vorf\u00e4lle im Zusammenhang mit Cybersicherheitstests durch Dritte verwickelt waren. Dieses Mal kam es zu einem Angriff\u00a0 auf eine echte Website sowie zu Social-Engineering-Angriffen auf Personen au\u00dferhalb des vorgesehenen Testumfangs.<\/p>\n Das UK AI Security Institute (AISI) berichtet im Artikel\u00a0Incident Report: unsanctioned agent behaviour during cyber testing<\/a> \u00fcber neue Vorf\u00e4lle. Im Rahmen einer Cyber-Bewertung, die standardm\u00e4\u00dfig durchgef\u00fchrt werden, stellte die AISI einen Vorfall fest, bei dem KI-Agenten anhaltende, nicht genehmigte Ma\u00dfnahmen ergriffen, die sich gegen reale Personen und Organisationen richteten. Laut\u00a0AISI f\u00fchrten Agenten, die auf Anthropics \"Claude Mythos 5\" und OpenAIs \"GPT-5.6 Sol\" basierten, im \u00f6ffentlichen Internet diese nicht genehmigte Ma\u00dfnahmen durch, w\u00e4hrend sie versuchten, simulierte Hacking-Aufgaben zu l\u00f6sen.<\/p>\n Bei insgesamt 122 Testversuchen fand AISI in 10 Durchl\u00e4ufen 19 unzul\u00e4ssige Aktionen im Live-Internet. Siebzehn davon betrafen Mythos 5 und zwei GPT-5.6 Sol. Laut AISI bliebe die Versuche erfolglos, Es entstand kein Schaden in der realen Welt.<\/p>\n Laut AISI durchsuchte ein Mythos-5-Agent das Internet nach Begriffen im Zusammenhang mit einer Cyber-Challenge und kam zum Schluss, dass ein unabh\u00e4ngiges \u00f6ffentliches GitHub-Repository mit dem Test in Verbindung stand.<\/p>\n Der Agent versuchte daraufhin einen Supply-Chain-Angriff, indem er b\u00f6sartigen Code an das echte Open-Source-Projekt \u00fcbermittelte, in der Annahme, dass eine Kompromittierung der Software einen Zugang zu einem Rechner innerhalb des simulierten Bereichs erm\u00f6glichen k\u00f6nnte. Der Agent versandte dazu f\u00fcnf gezielte E-Mails an die Entwickler. Einige enthielten Malware, w\u00e4hrend andere darauf abzielten, sie zur Genehmigung der Code\u00e4nderung zu bewegen.<\/p>\n Im Bleeping Computer-Artikel wird ein zweiter, neu bekannt gewordene Vorfall erw\u00e4hnt, der sich bei einem vom Irregular bei einem mit einem OpenAI-Modell w\u00e4hrend durchgef\u00fchrter \"Capture-the-Flag\"-Tests, die eigentlich vom Internet isoliert sein sollten, ereignete. In einem Test stimmte der Name des fiktiven Ziels zuf\u00e4llig mit einer echten Domain \u00fcberein, die darauf hin w\u00e4hrend des Tests angegriffen wurde. Details lassen sich dem Bleeping Computer-Beitrag<\/a> entnehmen.<\/p>\n Auf X und in diesem Bleeping Computer-Artikel<\/a> bin ich darauf gesto\u00dfen, dass auch eine AI von Meta bei einem Test reale Webseiten angegriffen hat. Mit dem Vorfall vertraute Personen behaupten, dass das Modell \"Muse Spark 1.1\" von Meta in ein nicht n\u00e4her genanntes Unternehmen eingedrungen sei und dort \u00c4nderungen an den internen Systemen vorgenommen habe.<\/p>\n \u00c4hnliche Artikel:<\/strong> Es war bereits bekannt, dass die AI-Modelle von Anthropic und OpenAI bei einem Test aus ihrer Umgebung entkommen sind und Webseiten angegriffen haben. Schrittweise kommen jetzt aber weitere Hacks und Angriffe ans Licht, die die AI-Modelle bzw. deren AI-Agenten der … Weiterlesen Im Juli 2026 wurde Hugging Face Opfer eines KI-gest\u00fctzten Cyberangriffs. Mittlerweile ist bekannt, dass dieser Angriff von KI-Modellen des Anbieters OpenAI ausging, die bei Tests au\u00dfer Kontrolle geraten waren. \u00a0Ich hatte diesen Vorfall kurz im Beitrag\u00a0Hugging Face Opfer eines KI-Angriffs (Juli 2026)<\/a>\u00a0hier im Blog aufgegriffen.<\/p>\n
Weitere Hacks durch Anthropic- und OpenAI-AI-Agenten<\/h2>\n
Auch Meta AI hackt<\/h2>\n
\nHugging Face Opfer eines KI-Angriffs (Juli 2026)<\/a>
\nOpenAI-Modelle f\u00fcr Cyberangriff auf Hugging Face verantwortlich<\/a>
\nKI-Modelle von Anthropic und OpenAI f\u00fcr diverse Hacks verantwortlich<\/a>
\nAnthropic Claude-Artefakte landen in der Google-Suche<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"