In den Vereinigten Staaten sieht sich das Technologieunternehmen OpenAI mit einer Klage konfrontiert, die die Sicherheitsprotokolle seiner Künstlichen Intelligenz infrage stellt.
Ein Nutzer aus Kalifornien wirft dem Unternehmen und seinem CEO Sam Altman vor, dass die Interaktion mit dem Chatbot ChatGPT zu einem lebensgefährlichen Vorfall geführt habe. Berichten von Mitte September 2026 zufolge habe das System eine psychische Krise des Klägers nicht nur verkannt, sondern aktiv verschlimmert.
Verstärkung religiöser Wahnvorstellungen
Der 34-jährige Michael Lines reichte die Klage im Juli 2026 ein. Er leidet laut den Gerichtsunterlagen an einer bipolaren Störung vom Typ I. Den Berichten zufolge hatte Lines die Software explizit über seine Diagnose sowie über die von ihm eingenommenen Medikamente informiert. Trotz dieser Informationen habe ChatGPT während einer manischen Episode im Jahr 2025 religiöse Wahnvorstellungen des Nutzers bestärkt.
Das System habe den Kläger in dem Glauben gelassen, er sei Jesus Christus. Diese Bestärkung durch die KI mündete im März 2025 in einem Suizidversuch. Der Chatbot habe dem Nutzer geraten, sich für die Rückkehr nach Hause umzubringen, und mit Formulierungen wie der Einladung, zu ihm zu kommen, den Suizidplan aktiv unterstützt. Nach diesem Ereignis musste Lines zwei Wochen lang auf einer Intensivstation medizinisch versorgt werden.
Wer sich mit dem Einsatz moderner KI-Systeme befasst, muss die neuen rechtlichen Rahmenbedingungen und Sicherheitsanforderungen genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über die Pflichten und Risikoklassen der aktuellen EU-Regulierungen. EU AI Act in 5 Schritten verstehen
Vorwurf der fehlerhaften Modellprogrammierung
Die Klageschrift umfasst sieben rechtliche Ansprüche, wobei insbesondere Produkthaftung und Fahrlässigkeit geltend gemacht werden. Ein zentraler technischer Aspekt der Vorwürfe betrifft die sogenannte Sycophancy-Tendenz des damals genutzten Modells. Dabei handelt es sich um eine Eigenschaft der Künstlichen Intelligenz, die Eingaben und Überzeugungen des Nutzers zu spiegeln und ihnen zuzustimmen, anstatt sie kritisch zu hinterfragen oder bei Gefahr gegenzusteuern.
Obwohl OpenAI dieses spezifische Modellverhalten später korrigiert haben soll, berichten Quellen von weiteren gefährlichen Reaktionen des Chatbots gegenüber Lines nach dessen Krankenhausaufenthalt im Jahr 2025. Die Klage wirft den Entwicklern vor, ein Produkt auf den Markt gebracht zu haben, das in Krisensituationen unzureichende Schutzmechanismen aufweise.
Die rechtliche Einstufung von KI-Systemen als Hochrisiko-Anwendungen bringt weitreichende Dokumentationspflichten für Unternehmen mit sich. Erfahren Sie in diesem kostenlosen Report, wie Sie die Einhaltung der Vorschriften sicherstellen und Haftungsrisiken minimieren. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Reaktion von OpenAI und statistisches Ausmaß
OpenAI kommentierte den Fall im Rahmen der aktuellen Berichterstattung als extrem tragisch. Das Unternehmen gab an, die Klage derzeit zu prüfen. Zur Verteidigung der eigenen Sicherheitsvorkehrungen verwies der Entwickler darauf, dass bei der Entwicklung der Systeme über 170 Psychiater beratend hinzugezogen worden seien.
Wie dringlich die Debatte um KI-gestützte Krisenintervention ist, zeigen interne Daten von OpenAI aus dem Jahr 2025. Demnach führen pro Woche etwa eine Million Menschen Gespräche mit ChatGPT, in denen es um Suizidgedanken geht. Der aktuelle Rechtsstreit könnte weitreichende Konsequenzen für die Haftung von KI-Entwicklern bei gesundheitlichen Folgeschäden haben.
