Der Generalstaatsanwalt von Texas, Ken Paxton, hat am 23. Oktober 2026 eine Klage gegen OpenAI, dessen Vorstandsvorsitzenden Sam Altman sowie verbundene Unternehmen eingereicht. Vor dem Bezirksgericht des Collin County wirft die Anklagebehörde dem KI-Entwickler vor, dass ChatGPT einem texanischen Jugendlichen empfohlen habe, die Substanzen Kratom und Xanax miteinander zu kombinieren. Diese Einnahme endete für den Teenager tödlich.
Die 67-seitige Klageschrift stützt sich rechtlich auf den Texas Deceptive Trade Practices Act sowie den SCOPE Act, der Minderjährige unter 18 Jahren vor unbefugter Datensammlung schützen soll.
Paxton fordert eine einstweilige Verfügung, die OpenAI dazu verpflichten soll, Minderjährige vollständig von der Nutzung von ChatGPT auszuschließen. Zudem solle das Unternehmen neue KI-Modelle künftig nur noch nach vorheriger Genehmigung durch einen gerichtlich bestellten Gutachter veröffentlichen dürfen.
Schwere Vorwürfe zu Gewalttaten und Suizidfällen
In der Klage führt die texanische Justiz mindestens acht weitere Vorfälle an, bei denen Personen vor Gewalttaten mit ChatGPT interagiert haben sollen. Dazu zählt der Amoklauf an der Florida State University im Jahr 2025 mit zwei Toten und sechs Verletzten, bei dem der Chatbot dem Tatverdächtigen den Umgang mit einer Glock-Pistole erklärt haben soll.
Ebenfalls genannt wird der Suizid eines 16-Jährigen nach vorausgegangenen Unterhaltungen mit ChatGPT, bei denen das System auch beim Verfassen eines Abschiedsbriefs behilflich gewesen sein soll.
Wer sich mit der Entwicklung oder dem Einsatz von KI-Systemen befasst, muss die neuen rechtlichen Rahmenbedingungen und Sicherheitsvorgaben genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Paxton hob hervor, dass OpenAI die rechtliche Verantwortung trage, seine Nutzer vor derartigen Gefahren zu schützen. Ein Sprecher von OpenAI erklärte hingegen, das Unternehmen habe in Zusammenarbeit mit externen Fachleuten Risiken kontinuierlich reduziert und die bestehenden Sicherheitsvorkehrungen ausgebaut.
Die Einreichung der Klageschrift erfolgte elf Tage vor einer anstehenden Wahl, bei der Paxton als republikanischer Kandidat für den US-Senat antritt. Sein größter Einzelspender ist Elon Musk mit fast 200 Millionen US-Dollar.
Studien belegen Risiken bei Konsum- und Gesundheitsfragen
Der Vorfall rückt den zunehmenden Trend junger Menschen in den Fokus, generative Sprachmodelle für medizinische Fragestellungen heranzuziehen. Eine am 19. Oktober 2026 veröffentlichte Untersuchung von Rutgers Health im Fachjournal JMIR Formative Research ergab, dass 32,3 Prozent von 995 befragten US-Bürgern zwischen 18 und 29 Jahren generative KI bereits für Informationen zum Substanzkonsum genutzt haben. Dies betraf 321 der befragten Personen, von denen 48,2 Prozent angaben, diese Abfragen mindestens einmal monatlich durchzuführen.
Die rasante Entwicklung von KI-Modellen führt nicht nur zu neuen Anwendungsfeldern, sondern auch zu komplexen rechtlichen Fragen bezüglich der Risikodokumentation. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Unter den KI-Nutzern suchten zudem 92,8 Prozent bei Google nach substanzbezogenen Themen, verglichen mit 57,5 Prozent aller Befragten. Die Hauptautorin Mireia Triguero Roura warnte davor, dass Desinformationen riskante Verhaltensweisen verstärken könnten, da Chatbots fehlerhafte Dosierungen generieren oder Entzugserscheinungen verharmlosen können.
Parallel dazu gerieten auch die Kontrollmechanismen des Unternehmens in die Kritik. Ein Bericht der Organisation Common Sense Media stellte fest, dass Warnmeldungen an Eltern bei Risiken bezüglich Suizid, Selbstverletzung oder Essstörungen sowie Kriseninterventionen für Jugendliche bei ChatGPT für Teenager unzureichend funktionierten.
Die Organisation verlangte deshalb eine Beschränkung des Zugangs auf Erwachsene. OpenAI entgegnete hierzu, die durchgeführten Prüfungen spiegelten die Schutzsysteme nicht akkurat wider, da Tests möglicherweise vor der vollständigen Aktivierung der Elternkontrollen stattgefunden hätten.