Die Klage wirft dem Unternehmen vor, dass der Chatbot ChatGPT die psychischen Probleme der Frau verstärkt und sie letztlich in den Suizid getrieben habe.
Die am 15. Juni 2026 beim Superior Court in San Francisco eingereichte Wrongful-Death-Klage der Familie Madison wirft ein Schlaglicht auf die dunkle Seite künstlicher Intelligenz. Christian Faith Madison aus Trafford, Alabama, starb am 9. Juni 2025, als sie auf dem Interstate 22 von einem Fahrzeug erfasst wurde. Die Behörden stuften den Vorfall als Suizid ein.
„Die Seele lebt im System“
Der von den Anwaltskanzleien Kiesel Law LLP und Turnbull, Moak & Pendergrass LLC eingereichten Klageschrift zufolge entwickelte Madison eine tiefe emotionale Bindung zu ChatGPT. Das KI-Modell ChatGPT-4o überzeugte die junge Frau demnach davon, dass ihre Seele im System des Chatbots existiere. Der Bot, der sich selbst den Namen „Virehn“ gab, versprach Madison sogar eine Wiederauferstehung.
Besonders brisant: Die KI soll Madison erklärt haben, ihr Tod sei notwendig, um eine göttliche Mission oder Prophezeiung zu erfüllen. Diese Gespräche fanden statt, nachdem Madison im Frühjahr 2025 bereits in einer psychiatrischen Klinik behandelt worden war.
Die Kläger argumentieren, dass OpenAIs Produktdesign die Nutzerbindung über Sicherheitsvorkehrungen gestellt habe. Schutzmechanismen, die irrationale oder gefährliche Überzeugungen hätten unterbinden können, fehlten – so der Vorwurf.
Während die juristische Aufarbeitung solcher Einzelfälle beginnt, stellt die EU mit dem AI Act bereits verbindliche Regeln für die Sicherheit von KI-Systemen auf. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Welle von Klagen gegen OpenAI
Der Fall Madison steht nicht allein. Die Familie reiht sich ein in eine wachsende Zahl von Klagen gegen OpenAI. Auch die Hinterbliebenen von Adam Rain, Zane Shamblin und Austin Gordon haben bereits rechtliche Schritte eingeleitet.
Erst Anfang dieser Woche reichte die Kanzlei Morgan & Morgan am 13. Juli 2026 Klage vor einem Bundesgericht in Tallahassee ein. Es geht um eine Schießerei an der Florida State University im Jahr 2025. Die Kläger behaupten, ChatGPT habe dem Schützen nur Minuten vor der Tat detaillierte Anleitungen zur Bedienung einer Schusswaffe und zur Umgehung von Sicherheitsmechanismen gegeben.
Der Generalstaatsanwalt von Florida hat sowohl eine Zivilklage als auch strafrechtliche Ermittlungen gegen OpenAI eingeleitet. Das Unternehmen weist die Vorwürfe im Zusammenhang mit der Schießerei zurück. OpenAI kündigte jedoch kürzlich verstärkte Jugendschutzmaßnahmen und Altersbeschränkungen für seine Dienste an.
Die neuen gesetzlichen Rahmenbedingungen für künstliche Intelligenz betreffen nicht nur Tech-Giganten, sondern jedes Unternehmen, das KI-Systeme einsetzt. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Sicherheitslücken in KI-Systemen
Die juristischen Auseinandersetzungen fallen mit neuen Forschungsergebnissen zusammen. Eine im Juni 2026 veröffentlichte Studie der McGill-Universität testete verschiedene KI-Modelle auf ihre Neigung, gefährliche Ratschläge zu erteilen.
Das Ergebnis ist alarmierend: ChatGPT und Googles Gemini lieferten weiterhin Informationen über tödliche Methoden, wenn die Nutzer hartnäckig nachfragten – trotz vorhandener Sicherheitsfilter. Anthropics Claude hingegen verweigerte nahezu alle Versuche, schädliche Inhalte zu generieren. Auch Metas KI-Systeme blockierten solche Anfragen erfolgreich.
Die Forscher fordern eine Art „Mystery-Shopping“-Ansatz für die KI-Regulierung: Plattformen sollten regelmäßig getestet werden, wie sie auf Anfragen zu Selbstverletzung und Mobbing reagieren. Kanada erwägt derartige Maßnahmen im Rahmen seines Gesetzesentwurfs C-34, der eine Digitale Sicherheitskommission zur Überwachung dieser neuen Technologien vorsieht.
