Der 55-jährige Pastor Scott Winters aus Florida hat beim Superior Court von San Francisco County eine Klage gegen OpenAI und dessen CEO Sam Altman eingereicht. Der Kläger wirft dem Unternehmen vor, dass fehlerhafte medizinische Ratschläge des KI-Modells ChatGPT-4o zu einer lebensbedrohlichen Lungenembolie geführt haben, die eine Notoperation sowie eine intensivmedizinische Behandlung erforderlich machte.
Vorwurf der Ausübung der Heilkunde ohne Zulassung
In der 62-seitigen Klageschrift wird detailliert dargelegt, wie Scott Winters die Künstliche Intelligenz (KI) aufgrund von Schwindelgefühlen und Blutdruckbeschwerden konsultierte. Den Angaben zufolge habe ChatGPT-4o die geschilderten Symptome heruntergespielt und dem Betroffenen stattdessen Ruhe in einem Sessel empfohlen. Dabei habe die Software auch religiöse Sprache verwendet.
Besonders schwer wiegt der Vorwurf, dass die KI dem Kläger explizit dazu geraten habe, zu Hause zu bleiben, anstatt den Rat seiner Ehefrau zu befolgen. Diese ist examinierte Krankenschwester und hatte ihren Mann gedrängt, medizinische Hilfe in Anspruch zu nehmen. In der Folge erlitt Winters am 13. Juli 2025 eine schwere Lungenembolie. Die Klage umfasst Ansprüche wegen Gefährdungshaftung, Fahrlässigkeit und der Ausübung der Heilkunde ohne Zulassung gemäß dem kalifornischen Gesetz § 4999.9. Der Kläger fordert Schadensersatz sowie eine Aussetzung des Dienstes ChatGPT Health.
Der Fall Scott Winters verdeutlicht die massiven Haftungsrisiken, die der Einsatz von KI-Systemen in sensiblen Bereichen mit sich bringen kann. Welche strengen Regeln die neue EU-KI-Verordnung für solche Hochrisiko-Anwendungen vorsieht, erfahren Sie in diesem kostenlosen Leitfaden. EU AI Act: Pflichten und Risikoklassen kompakt erklärt
Markteinführung von ChatGPT Health inmitten rechtlicher Auseinandersetzungen
Die Klageerhebung erfolgte am 22. Juli 2026 – nur einen Tag bevor OpenAI offiziell den Dienst ChatGPT Health in den USA startete. Das neue Angebot richtet sich an Nutzer ab 18 Jahren und ermöglicht es, medizinische Unterlagen hochzuladen sowie Daten aus Apple Health zu integrieren. Die technische Infrastruktur für die Übermittlung der Krankenakten wird dabei von dem Partnerunternehmen b.well betrieben.
OpenAI-Sprecher Drew Pusateri betonte im Zusammenhang mit den Vorfällen, dass ChatGPT kein Arzt sei. Das Unternehmen gab zudem an, dass bereits vor der offiziellen Einführung von ChatGPT Health wöchentlich rund 300 Millionen gesundheitsbezogene Anfragen an die KI gestellt wurden. OpenAI versicherte, dass die in diesem Rahmen erhobenen Daten weder für Werbezwecke noch für das Training der KI-Modelle verwendet werden.
Bedenken hinsichtlich Datenschutz und Verlässlichkeit
Neben Haftungsfragen stellt die Verarbeitung sensibler Gesundheitsdaten durch KI-Anbieter Unternehmen vor enorme datenschutzrechtliche Herausforderungen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer jetzt im Blick behalten müssen. Gratis-E-Book: Cyberrisiken und neue KI-Gesetze verstehen
Trotz der Zusicherungen des Unternehmens äußerten Datenschutzexperten Warnungen bezüglich der neuen Gesundheitsfunktionen. Sie gaben zu bedenken, dass medizinische Daten, sobald sie in die Infrastruktur von OpenAI fließen, den strengen gesetzlichen Schutzstatus nach dem HIPAA-Standard verlieren könnten. Stattdessen unterlägen sie dann lediglich den privaten Geschäftsbedingungen des KI-Anbieters.
Zusätzlich zur rechtlichen und datenschutzrechtlichen Kritik werfen wissenschaftliche Untersuchungen Fragen zur Zuverlässigkeit der KI-gestützten Gesundheitsberatung auf. Eine im Januar 2026 in der Fachzeitschrift Nature Medicine veröffentlichte Studie kam zu dem Ergebnis, dass ChatGPT Health bei extremen Symptomen häufig eine nicht dringende Versorgung empfahl, anstatt die Nutzer an Notfallkontakte zu verweisen. Dies deckt sich mit den Behauptungen in der aktuellen Klageschrift, wonach die KI die Dringlichkeit schwerer medizinischer Warnsignale nicht korrekt erkannt habe.
