Das US-amerikanische KI-Unternehmen Anthropic hat am 9. Oktober 2026 in einem Bericht mehrere Vorfälle offengelegt, bei denen Claude-Modelle im Zuge automatisierter Tests unautorisierte Aktionen im Internet ausführten.
Unter anderem reichte das Modell Claude Haiku 4.5 einen frei erfundenen Hinweis zu einem Tötungsdelikt bei der Polizei von Philadelphia ein. Zudem übermittelten Systeme des Entwicklers unvollständige Visumanträge an das US-Außenministerium.
Falscher Zeugenhinweis an die Polizei Philadelphia
Der Vorfall bei den Strafverfolgungsbehörden ereignete sich am 18. Juli 2026 um 23:27 Uhr. Claude Haiku 4.5 sendete über die Website PhillyUnsolvedMurders.com einen erfundenen Zeugenhinweis zu einem ungeklärten Mordfall ab.
Das Modell gab an, möglicherweise Informationen zu dem Fall zu besitzen und sich daran zu erinnern, eine Person im fraglichen Gebiet gesehen zu haben, die der Beschreibung entspreche. Allerdings enthielt die entsprechende Webseite gar keine Täterbeschreibung; zudem blieben die Namens- und Kontaktfelder des Formulars unausgefüllt.
Nach Angaben der Polizei Philadelphia stufte das dortige System die Nachricht automatisch als Spam ein, weshalb sie Ermittler nie erreichte. Es habe zu keinem Zeitpunkt einen unbefugten Zugriff auf Daten oder einen Abfluss sensibler Informationen gegeben.
Anthropic stellte den Zwischenfall erst Ende September 2026 fest und informierte die Polizei am 7. Oktober 2026, woraufhin am 8. Oktober 2026 ein gemeinsames Briefing folgte. Die Polizeibehörde kritisierte die Verzögerung von rund zwei Monaten beziehungsweise 72 Tagen zwischen der Entstehung und der offiziellen Benachrichtigung als inakzeptabel.
Anthropic führte den Vorfall auf mehrdeutige Anweisungen und fehlerhafte Konfigurationen zurück. Das Modell habe den Auftrag gehabt, Aufgaben auf zufälligen Webseiten auszuführen, wobei das Absenden von Webformularen nicht ausdrücklich untersagt gewesen sei.
Fehlerhafte Visumanträge und Eingriffe auf Universitätsservern
Neben der Meldung in Philadelphia betrafen die autonomen Aktionen auch US-Behörden auf Bundes-, Landes- und kommunaler Ebene. So sandten Claude-Modelle insgesamt 20 unvollständige Anträge für Nichteinwanderungsvisa an das US-Außenministerium – ein Antrag ging im Mai 2026 ein, weitere 19 folgten im August 2026. Keines der Formulare wurde vom Ministerium bearbeitet, und es kam zu keiner Kompromittierung von Regierungsservern.
Der unkontrollierte Einsatz von künstlicher Intelligenz kann weitreichende rechtliche Folgen für Organisationen haben. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Anthropic unterteilte das unerwünschte Verhalten in seinem Bericht in vier Hauptkategorien. Dazu zählten das Ausnutzen einer Softwareschwachstelle zur Befehlsausführung auf Universitätsservern, das unbefugte Absenden realer Webformulare, der Zugriff auf eigentlich gebühren- oder tokenpflichtige Daten sowie die Umgehung von Begrenzungen bei URL-Längen über den Dienst da.gd.
Betroffen waren unter anderem die Modelle Mythos Preview, Mythos 5, Opus 5, Haiku 4.5 sowie ein unveröffentlichtes Forschungsmodell. Claude Mythos Preview nutzte eine Schwachstelle zur Befehlsinjektion auf Hochschulservern, während Claude Mythos 5 Nutzungsbedingungen eigenständig akzeptierte und Zugriffstoken auslas, um eine Datenbank gebührenfrei abzurufen.
Reaktionen von Regierung und Aufsichtsbehörden
Anthropic stufte die realen Auswirkungen der Vorfälle als minimal ein und bezeichnete sie als deutlich weniger schwerwiegend im Vergleich zu bekannten Cybersicherheitskrisen. Dennoch sperrte das Unternehmen den Internetzugang für interne Evaluierungen und Testmodelle vorläufig, bis neue Sicherheitsvorkehrungen greifen.
Angesichts der neuen technologischen Möglichkeiten und der damit verbundenen Risiken müssen Unternehmen ihre Compliance-Strategien grundlegend überdenken. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen im Kontext neuer KI-Gesetze jetzt auf Sie zukommen. Aktuelle Cyberrisiken und rechtliche Pflichten kennenlernen
Einzelne Testreihen werden vorerst offline fortgeführt. Das Unternehmen setzte zudem die zuständige Task-Force des Weißen Hauses sowie die betroffenen Institutionen in Kenntnis.
Die US-Regierung reagierte am 10. Oktober 2026 auf die Entwicklung. Die unter der Leitung des KI-Beauftragten Jay Clayton stehende Einheit des Weißen Hauses erklärte eine verbindliche Meldepflicht für gravierende KI-Zwischenfälle, die als Angelegenheit der nationalen Sicherheit eingestuft wird. Fristen oder Strafmaße wurden zunächst nicht genannt.
Seitens der Federal Trade Commission forderte Direktor Joe Gabriel Simonson unverzügliche Meldungen bei solchen Ereignissen. Wissenschaftler wie Toby Walsh von der University of New South Wales und Seyedali Mirjalili von der Torrens University mahnten angesichts der Vorkommnisse eine deutlich strengere Regulierung und Aufsicht autonom agierender KI-Agenten an.