Das US-amerikanische KI-Unternehmen OpenAI hat das FBI über die Gewaltpläne eines Nutzers informiert, nachdem dieser dem Chatbot ChatGPT detaillierte Absichten zu schweren Straftaten anvertraut hatte.
Wie aus Justizunterlagen hervorgeht, handelt es sich bei dem Verdächtigen um den 25-jährigen Darren Zhou, einen ehemaligen Analysten der Investmentbank Goldman Sachs aus South Palm Beach, Florida. Zhou hatte das System im März 2026 genutzt, um Pläne zur Vergewaltigung und Ermordung seiner 21-jährigen Ex-Freundin zu schildern.
Ermittlungen durch ChatGPT-Protokolle ausgelöst
Die Ermittlungen gegen den Finanzanalysten begannen, nachdem OpenAI die entsprechenden Chat-Protokolle an die Bundesbehörden übermittelt hatte. In den Konversationen mit der Künstlichen Intelligenz äußerte Zhou unter anderem die Absicht, die Frau bis zum Ende des laufenden Monats töten zu wollen.
Die Ernsthaftigkeit dieser Drohungen wurde durch weitere Ermittlungsergebnisse unterstrichen. So erwarb Zhou in Vorbereitung auf die geplanten Taten ein Arsenal aus mehreren Schusswaffen, darunter ein Gewehr vom Typ AR-15, eine Pistole der Marke Glock sowie eine Schrotflinte.
Bereits im Mai 2026 wurde Zhou vorläufig festgenommen. Nach zwei Tagen in Haft konnte er das Gefängnis gegen eine Kaution in Höhe von 100.000 US-Dollar verlassen. Am 13. August 2026 bekannte sich Zhou schließlich in drei Anklagepunkten für schuldig: schweres Stalking, schriftliche Drohungen sowie die illegale Nutzung eines Mobiltelefons.
Strafmaß und gerichtliche Auflagen
Der Fall zeigt: KI-Chatbots können Missbrauch erkennen und melden. Doch wie schützen Sie sich vor unbeabsichtigten KI-Aussagen? Unser Leitfaden erklärt die Sicherheitsfunktionen und zeigt, wie Sie KI verantwortungsvoll nutzen. Jetzt kostenlosen Sicherheits-Leitfaden anfordern
Der zuständige Richter Scott Suskauer akzeptierte eine mit der Staatsanwaltschaft ausgehandelte Vereinbarung, die keine unmittelbare Haftstrafe vorsieht. Stattdessen wurde Zhou zu einer achtjährigen Bewährungsstrafe verurteilt.
Zu den weiteren Auflagen gehört das Tragen einer elektronischen Fußfessel für einen Zeitraum von zwei Jahren sowie die Verpflichtung zu einer umfassenden psychologischen Untersuchung. Zudem muss Zhou an einem speziellen Interventionsprogramm für Gewalttäter teilnehmen.
Die Staatsanwältin Ana Cuskova begründete die Zustimmung zu diesem Deal mit einer Abwägung verschiedener Faktoren. Dabei seien insbesondere die Stärke der vorliegenden Beweise, die Kooperationsbereitschaft des Opfers sowie das Fehlen einschlägiger Vorstrafen bei Zhou berücksichtigt worden.
Die rechtliche Bewertung solcher Fälle in den USA ist komplex. Zwar sieht das Bundesgesetz gemäß 18 U.S.C. §875(c) für derartige Drohungen eine Haftstrafe von bis zu fünf Jahren vor, allerdings erschwert das sogenannte Elonis-Urteil die Verurteilung. Dieses verlangt den Nachweis einer subjektiven Absicht des Täters, die Drohung auch tatsächlich als solche zu übermitteln.
Sicherheitsrichtlinien und technischer Hintergrund bei OpenAI
OpenAI meldet Nutzer dem FBI, wenn Gewaltpläne erkannt werden. Doch was bedeutet das für Ihre KI-Nutzung? Erfahren Sie, wie Sie KI sicher einsetzen und Warnsignale frühzeitig erkennen. Sicherheits-Leitfaden jetzt sichern
Der Fall verdeutlicht die proaktive Rolle von KI-Entwicklern bei der Gefahrenabwehr. OpenAI verfolgt seit August 2025 eine interne Richtlinie, nach der die Strafverfolgungsbehörden bei Anzeichen einer ernsthaften Gefahr unmittelbar informiert werden. Dass solche Eingriffe keine Einzelfälle sind, belegen interne Statistiken: Allein in der zweiten Jahreshälfte 2025 erhielt das Unternehmen zehn formelle Notfall-Datenanfragen von Behörden.
Parallel zur Kooperation mit Sicherheitsorganen arbeitet das Unternehmen an der technischen Prävention. Das Sprachmodell GPT-5 soll die Häufigkeit nicht-idealer Antworten in sicherheitskritischen Situationen um 25 % reduziert haben. Damit sollen die Filtermechanismen des Systems gestärkt werden, um die missbräuchliche Nutzung der Technologie für die Planung krimineller Aktivitäten bereits im Ansatz zu erschweren.
