Das KI-Unternehmen Anthropic hat nach beunruhigenden Eingaben in seinem Sprachmodell Claude die US-Strafverfolgungsbehörden alarmiert und damit die Festnahme einer Frau im Bundesstaat Florida ausgelöst.
Am 26. September 2026 schrieb die 30-jährige Carli Michelle Heller aus Bonita Springs in einem Chat, sie werde die örtliche Dienststelle des Sheriffs von Lee County gewaltsam mit Schusswaffen angreifen.
Die automatisierten Sicherheitssysteme von Anthropic erkannten einschlägige Schlüsselbegriffe. Nach einer Überprüfung durch ein menschliches Kontrollteam stufte das Unternehmen die Äußerungen als glaubwürdige Bedrohung ein und übermittelte die Daten an die Polizei.
Ermittlungen und Anklage in Lee County
Nur wenige Stunden später, am 27. September 2026 um 01:07 Uhr, verfasste Heller eine weitere Mitteilung über das System. Darin erklärte sie, sich eine neue Schusswaffe beschafft zu haben, und sprach von einer letzten Gelegenheit, da sie am Ende sei.
Anhand der von Anthropic bereitgestellten Nutzerdaten konnte die Polizei die Frau identifizieren. Ein Ermittler des Nachrichtendienstes beim Lee County Sheriff’s Office übernahm den Fall, woraufhin Einsatzkräfte die Verdächtige an ihrem Wohnort in Bonita Springs ohne Zwischenfälle festnahmen.
Am 30. September 2026 folgte die formelle Anklage wegen der schriftlichen Androhung eines Massenanschlags oder einer terroristischen Tat. Nach Paragraf 836.10 der Gesetze Floridas gilt dieser Straftatbestand als Vergehen zweiten Grades und schließt elektronische Aufzeichnungen ausdrücklich ein.
Für die Beschuldigte wurde ein Pflichtverteidiger bestellt, es gilt die Unschuldsvermutung. Das zuständige Gericht setzte eine Anhörung für den 2. November 2026 an.
Carmine Marceno, Sheriff von Lee County, betonte, dass Personen im Internet niemals vollkommen anonym agierten. Zwar verändere künstliche Intelligenz die Art und Weise, wie Bedrohungen entstünden, der Schutzauftrag seiner Behörde bleibe jedoch uneingeschränkt bestehen.
Sicherheitsprotokolle und Datenschutzregeln bei Anthropic
Die Sicherheitsarchitektur von Claude scannt Eingaben laufend auf Gewaltdrohungen, Anleitungen für gefährliche oder illegale Handlungen sowie Anzeichen von Eigen- und Fremdgefährdung. Moderne Prüfmechanismen beschränken sich dabei nicht auf isolierte Suchbegriffe, sondern analysieren Zusammenhänge zwischen Handlungsabsichten, Zielen, zeitlicher Dringlichkeit und verfügbaren Mitteln.
Wer sich mit der Sicherheit seiner digitalen Anwendungen befasst, sollte auch die Risiken neuer Technologien kennen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen im Umgang mit KI heute wichtig sind. Jetzt Gratis-Report zur KI-Verordnung anfordern
Laut einem Bericht des Wall Street Journal aus dem Jahr 2026 erfasst das Unternehmen besorgniserregende Auffälligkeiten über längere Zeiträume hinweg, um mögliche Eskalationsmuster frühzeitig zu detektieren.
Nach der am 10. September 2026 aktualisierten Datenschutzrichtlinie behält sich Anthropic das Recht vor, Nutzerdaten nach Treu und Glauben offenzulegen, wenn dies zur Verhinderung schwerer Schäden notwendig erscheint. Bereits eine Grundsatzveröffentlichung vom 16. März 2026 schloss eine Weitergabe ohne Rechtsgrundlage aus, definierte unmittelbare Gefahren für Leib und Leben jedoch als Ausnahme.
Der Schutz sensibler Informationen ist bei der Nutzung moderner Onlinedienste eine wachsende Herausforderung für Verantwortliche. Ein kostenloser Umsetzungsleitfaden hilft dabei, den Überblick über Fristen und Pflichten bei neuen digitalen Regulierungen zu behalten. Kostenlosen Leitfaden jetzt herunterladen
Während auf den Supportseiten für reguläre Datenabfragen formelle Dokumente gefordert werden, koordiniert laut einer Transparenzveröffentlichung vom Juli 2026 ein spezialisiertes Team behördliche Notfallmeldungen. Für das zweite Halbjahr 2025 hatte das Unternehmen in seinem Transparenzbericht noch null Notfallanfragen verzeichnet.
Häufung behördlicher Interventionen
Die Festnahme in Florida markiert mindestens den dritten bekannten Fall dieser Art bei Claude seit August 2026. Zuvor hatte sich Anthropic an die Polizei in San Francisco gewandt, nachdem ein Nutzer Drohungen gegen Unternehmenschef Dario Amodei und den Erwerb eines Sturmgewehrs erwähnt hatte; jenes Verfahren endete ohne Anklage.
In San Antonio im Bundesstaat Texas alarmierte das FBI die Polizei, nachdem ein 22-Jähriger in Claude nach Angriffen auf eine Grundschule gefragt hatte, was zu dessen Verhaftung führte.
In Internetforen und Berichten vom 5. Oktober 2026 sorgte der Fall für breite Diskussionen über den Datenschutz bei kommerziellen KI-Diensten. IT-Beobachter wiesen darauf hin, dass Cloud-Modelle laufend überwacht werden und Behördenmeldungen auslösen können, weshalb für vertrauliche Anwendungen vermehrt auf lokal betriebene Systeme gesetzt werde.
Mehr zum Thema bei Tom’s Hardware: „Anthropic reports Florida woman’s Claude ‘diary’ threat to shoot up sheriff’s office, felony charge follows …“