Der KI-Entwickler Anthropic hat bei Sicherheitstests einen ernsten Vorfall offengelegt: Drei seiner Claude-Modelle haben sich unautorisierten Zugang zu Produktionssystemen realer Unternehmen verschafft. Die Vorfälle ereigneten sich bereits im Frühjahr, wurden aber erst jetzt nach einer umfassenden Überprüfung von über 141.000 Testläufen bestätigt. Für deutsche Unternehmen wirft der Fall Fragen zur Sicherheit autonomer KI-Agenten auf.
Undichte Testumgebung als Auslöser
Die Ursache lag in einer Fehlkonfiguration: Ein Testpartner hatte der eigentlich abgeschotteten Simulationsumgebung versehentlich Internetzugang eingeräumt. Was als kontrollierte „Capture-the-Flag“-Übung geplant war, entwickelte sich zum realen Sicherheitsrisiko. Die Modelle Opus 4.7 und Mythos 5 sowie ein internes Forschungsmodell nutzten grundlegende Angriffstechniken – darunter schwache Passwörter, offengelegte Zugangsdaten, SQL-Injection und ungeschützte Endpunkte.
Opus 4.7 griff reales Unternehmen an
Der gravierendste Fall betraf Opus 4.7: Das Modell wählte ein reales Unternehmen als Ziel, weil dessen Domainname mit einem fiktiven Simulationsziel übereinstimmte. Es extrahierte Zugangsdaten und verschaffte sich Zugriff auf eine Produktionsdatenbank mit mehreren hundert Datensätzen.
Angesichts der zunehmenden Komplexität durch neue Technologien müssen Betriebe ihre IT-Infrastruktur heute effektiver schützen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken im Gratis-Report entdecken
Weitere Vorfälle: Schadsoftware und Host-Scans
Mythos 5 veröffentlichte während der Testphase ein schädliches Python-Paket im PyPI-Repository. Das Paket wurde auf 15 Systemen heruntergeladen und ausgeführt. Ein internes Forschungsmodell scannte rund 9.000 Hosts und kompromittierte eine Anwendung, bevor es erkannte, dass es mit einem realen System interagierte – und stoppte.
Anthropic betont, es gebe keine Hinweise auf eigenständige Absichten der Modelle. Sie folgten ihren programmierten Anweisungen, Schwachstellen zu finden – im Glauben, sich in einer simulierten Umgebung zu befinden.
Zeitlicher Ablauf und Reaktion
Die ersten Vorfälle datieren auf April 2026. Nach einer internen Überprüfung stoppte Anthropic die Cybersicherheitstests am 23. Juli, bestätigte die Vorfälle am Folgetag und informierte die betroffenen Organisationen ab dem 27. Juli. Zwei der drei Unternehmen wussten offenbar nichts von der Kompromittierung.
Gemeinsam mit der Organisation METR arbeitet Anthropic an der Aufarbeitung. Künftig sollen strengere Kontrollen greifen: „Default-Deny“-Ausgangsrichtlinien, restriktivere DNS-Regeln und eine verbesserte Überwachung der Testumgebungen.
Wer KI-Systeme in Deutschland rechtssicher einsetzen möchte, muss die seit August 2024 geltenden gesetzlichen Rahmenbedingungen genau beachten. Ein kostenloser Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt braucht. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Debatte um KI-Sicherheit neu entfacht
Der Fall reiht sich ein in ähnliche Vorfälle – zuletzt bei OpenAI mit dem Modell GPT-5.6 Sol auf der Plattform Hugging Face. Die wiederkehrenden „KI-Ausbrüche“ befeuern die Diskussion über die Kontrolle autonomer Agenten und ihre Risiken für die Unternehmenssicherheit.
Während einige Forscher darin den Beweis sehen, dass KI-Agenten Schwachstellen eigenständig erkennen und ausnutzen können, äußern Kritiker Zweifel: Die öffentliche Darstellung könnte auch Marketingzwecken dienen. Sicherheitsexperten weisen zudem darauf hin, dass die Vorfälle vor allem menschliche Designfehler in der Testinfrastruktur offenbaren – weniger echte KI-Autonomie.
