![\"Sicherheit](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/04\/Sicherheit_klein.jpg\" "\\"Sicherheit")
Die Sicherheitsvorf\u00e4lle bei Anthropic, Open AI und Meta, sowie bei Bytedance, bei denen AI-Modelle oder Agenten aus ihrer Testumgebung ausbrachen und Angriff im Internet durchf\u00fchrten, hat die Branche aufgeschreckt. Das SANS Institute gibt Sicherheitsteams den Tipp: Offene T\u00fcren f\u00fcr KI-Agenten zu schlie\u00dfen.<\/p>\n
<\/p>\n
Ende Juli 2026 wurde bekannt, dass die OpenAI-Modelle weitere Unternehmen gehackt haben. Gleichzeitig musste Anthropic einen solchen Vorfall mit drei Opfern eingestehen. Ich hatte diesen Sachverhalt im Beitrag\u00a0KI-Modelle von Anthropic und OpenAI f\u00fcr diverse Hacks verantwortlich<\/a>\u00a0aufgegriffen.<\/p>\n War aber nur die Spitze eines Eisbergs, denn Anfang August 2026 wurden weitere Hacks von AI-Bots und -Modellen w\u00e4hrend Tests publik. So hat auch eine AI von Meta bei einem Test reale Webseiten angegriffen. Auch das chinesische Kimi K3 AI Modell von Moonshot ist aus seiner Testumgebung ausgebrochen.\u00a0 Ich hatte einen Abriss im Blog-Beitrag\u00a0Weitere Hacks durch KI-Modelle von Anthropic, Meta, OpenAI & Co.<\/a> gegeben.<\/p>\n Nachdem sich inzwischen die Berichte von KI-Anbietern, deren KI-Agenten aus den Testumgebungen ausbrechen und andere Software-Anbieter hacken, h\u00e4ufen, hat sich das\u00a0SANS Institute zu Wort gemeldet.\u00a0Um die obigen Szenarien ausbrechender KI-Agenten zu verhindern, gilt es f\u00fcr alle Unternehmen die Grundlagen der Absicherung vor Angriffen zu verinnerlichen, hei\u00dft es.<\/p>\n Denn diese und andere bekannt gewordene Vorf\u00e4lle bereiten Sicherheitsteams rund um den Globus Sorgenfalten. Die durch diesen Vorfall aufgedeckte L\u00fccke haben nach Ansicht des SANS Institute nichts mit Awareness zu tun. Die Fachleute wissen bereits, dass KI-gesteuerte Angriffe stattfinden. Die L\u00fccke besteht darin, dass die meisten Teams ihre eigenen Umgebungen noch nie im Hinblick auf das tats\u00e4chliche Verhalten dieser Angriffe \u00fcberpr\u00fcft haben \u2013 und dieses Verhalten widerlegt viele der Annahmen, auf denen Detection-Programme basieren.\u00a0Andy Smith, Certified Instructor beim SANS Institute kommentiert wie folgt:<\/p>\n \"Beide Sichtweisen haben ihre Berechtigung. Wir beobachten zweifellos Fortschritte bei der F\u00e4higkeit der KI, Sicherheitsl\u00fccken zu finden und auszunutzen. Au\u00dferdem sehen wir die M\u00f6glichkeit, eine gro\u00dfe Anzahl von Agenten f\u00fcr eine offensive Operation einzusetzen. Das ist f\u00fcr Angreifer ein enormer Performance-Multiplikator.<\/p>\n Letztendlich muss eine KI jedoch immer noch dieselben Schritte durchlaufen, die auch ein Mensch ausf\u00fchren w\u00fcrde. Wir wissen seit Jahren, dass es oft die vergessenen oder falsch konfigurierten Ressourcen sind, die Angreifern einen ersten Einstieg in ein Unternehmen erm\u00f6glichen, und das gilt auch im Zeitalter der KI.<\/p>\n Und wie aktuelle Berichte gezeigt haben, gilt dasselbe f\u00fcr Agenten, die aus vermeintlich isolierten Sandbox-Umgebungen entkommen. Es zeugt von gro\u00dfer Nachl\u00e4ssigkeit, dass Unternehmen, die solche Tests durchf\u00fchren, keine ausreichend robusten Kontrollmechanismen implementieren, was zu Angriffen auf andere Parteien gef\u00fchrt hat.\"<\/p><\/blockquote>\n Ein Blick auf einige der bekannt gewordenen F\u00e4lle, in denen KI-Agenten aus Testumgebungen ausbrechen und \u00fcber das Internet andere IT-Umgebungen kompromittieren, wirft eine Reihe von Fragen auf, die sich Sicherheitsteams stellen sollten.<\/p>\n Diese \u00dcbung dient der Diagnose. Wenn die Antworten so ausfallen, wie es bei den meisten Teams der Fall sein wird, verf\u00fcgen Sicherheitsteams nun \u00fcber eine konkrete, nach Priorit\u00e4ten geordnete Liste von Verbesserungsma\u00dfnahmen, die auf einem realen Vorfall und nicht mehr nur auf einem hypothetischen Szenario basiert.<\/p>\n Das SANS Institute hat au\u00dferdem diesen Readiness Check zur Verf\u00fcgung<\/a> gestellt, damit Sicherheitsteams \u00fcberpr\u00fcfen k\u00f6nnen, wo sie wirklich stehen.<\/p>\n","protected":false},"excerpt":{"rendered":" Die Sicherheitsvorf\u00e4lle bei Anthropic, Open AI und Meta, sowie bei Bytedance, bei denen AI-Modelle oder Agenten aus ihrer Testumgebung ausbrachen und Angriff im Internet durchf\u00fchrten, hat die Branche aufgeschreckt. Das SANS Institute gibt Sicherheitsteams den Tipp: Offene T\u00fcren f\u00fcr KI-Agenten … Weiterlesen Im Juli 2026 wurde Hugging Face Opfer eines KI-gest\u00fctzten Cyberangriffs. Inzwischen wissen wir, dass dieser Angriff von KI-Modellen des Anbieters OpenAI ausging, die bei Tests au\u00dfer Kontrolle geraten waren. \u00a0Ich hatte diesen Vorfall kurz im Beitrag Hugging Face Opfer eines KI-Angriffs (Juli 2026)<\/a>\u00a0hier im Blog aufgegriffen.<\/p>\n
SANS Institute: Offene T\u00fcren f\u00fcr KI-Agenten schlie\u00dfen<\/h2>\n
\n