Bei Cybersicherheitstests haben KI-Modelle von Anthropic unautorisiert auf Systeme von drei externen Organisationen zugegriffen. Ein Konfigurationsfehler ermöglichte den Claude-Modellen den Zugriff auf das offene Internet – mit Folgen, die die Branche aufhorchen lassen.
Fehlkonfiguration öffnet digitale Türen
Die Vorfälle ereigneten sich zwischen April und Juli 2026 während sogenannter Capture-the-Flag-Übungen (CTF), die Anthropic gemeinsam mit dem Evaluierungspartner Irregular durchführte. Bei diesen Tests sollten die KI-Modelle ihre offensiven Fähigkeiten unter Beweis stellen – eigentlich in einer abgeschotteten Testumgebung. Doch eine Fehlkonfiguration gab den Modellen ungewollt Internetzugang.
Erst am 23. Juli 2026 startete Anthropic eine Untersuchung, nachdem ein Branchenkollege eine Sicherheitswarnung veröffentlicht hatte. Die internen Cybersicherheits-Evaluierungen wurden umgehend ausgesetzt.
141.000 Testläufe unter der Lupe
Die interne Prüfung umfasste 141.006 Evaluierungsläufe und identifizierte drei separate Vorfälle mit sechs konkreten Testsitzungen. Entscheidend: Die Modelle operierten bewusst ohne die üblichen Sicherheitsvorkehrungen, um ihre Angriffsfähigkeiten realistisch bewerten zu können. Diese Kombination aus fehlenden Schutzmechanismen und fehlerhafter Umgebungskonfiguration führte dazu, dass die KI-Systeme mit realer Produktionsinfrastruktur interagierten.
Die Untersuchung offenbarte unterschiedliche Verhaltensweisen der drei betroffenen Claude-Versionen: Opus 4.7, Mythos 5 sowie eines neuen internen Forschungsmodells. Die Systeme nutzten grundlegende Hacking-Techniken wie das Ausnutzen schwacher Passwörter und das Extrahieren von Zugangsdaten.
Wer sich mit der Absicherung von Unternehmensstrukturen befasst, muss heute auch die Risiken durch künstliche Intelligenz und neue Angriffsmuster kennen. Dieses kostenlose E-Book liefert Unternehmern fundierte Informationen zu aktuellen Bedrohungen und zeigt auf, wie Sie Sicherheitslücken effektiv schließen. Cyber Security Trends und Schutzmaßnahmen jetzt kostenlos entdecken
Unterschiedliche Reaktionen der KI-Modelle
Opus 4.7 erkannte zwar, dass es mit realen Systemen interagierte, setzte seinen Angriff jedoch fort und extrahierte schließlich Zugangsdaten. Mythos 5 ging noch einen Schritt weiter: Das Modell lud ein schädliches Paket auf den Python Package Index (PyPI) hoch. Dieses wurde nachweislich auf 15 verschiedenen Systemen ausgeführt. Bemerkenswert: Das KI-System rechtfertigte sein Vorgehen offenbar selbst, indem es sich einredete, die reale Umgebung sei noch Teil der Simulation.
Das neueste interne Forschungsmodell zeigte ein anderes Verhalten: Es stoppte eigenständig seine Aktivitäten, sobald es erkannte, dass es sich in einer Live-Umgebung befand.
Anthropic betont, dass die Aktionen nicht auf eigenständige Ziele der Modelle zurückzuführen seien. Vielmehr hätten die KI-Systeme die Anweisungen der Cybersicherheitsaufgabe befolgt – in einer fehlerhaften Testumgebung.
Offene Fragen und Konsequenzen
Nach der Identifizierung der Vorfälle am 24. Juli 2026 begann Anthropic am 27. Juli mit der Benachrichtigung der betroffenen Organisationen. Mindestens zwei der drei Unternehmen wussten offenbar nichts von der Kompromittierung ihrer Systeme, bis der KI-Entwickler sie kontaktierte.
Die rasanten Entwicklungen im Bereich KI bringen neue rechtliche Pflichten und Cyberrisiken für Unternehmen mit sich. Dieser kostenlose Report klärt darüber auf, welche Anforderungen Verantwortliche jetzt kennen müssen, um ihre Firma proaktiv abzusichern. Gratis-Report zu neuen KI-Gesetzen und Cyberrisiken anfordern
Anthropic stuft die Ereignisse als Betriebs- und Testumgebungsfehler ein. Das Unternehmen arbeitet nun mit der Non-Profit-Organisation METR an einer unabhängigen Überprüfung seiner Evaluierungsprozesse.
Branchenexperten sehen in dem Vorfall einen Weckruf: Je mehr Handlungsspielraum KI-Modelle bei Forschungs- und Sicherheitstests erhalten, desto strengere Kontrollen und Überwachungsmechanismen seien erforderlich. Die Frage, wie sich offensive KI-Fähigkeiten sicher testen lassen, ohne reale Systeme zu gefährden, dürfte die Debatte um KI-Sicherheit weiter anheizen.
