Angesichts der steigenden Nutzung von Künstlicher Intelligenz (KI) in Gesundheitsfragen warnen medizinische Fachkräfte verstärkt vor den Gefahren einer unkontrollierten Selbstdiagnose durch Chatbots. Experten weisen darauf hin, dass Systeme wie ChatGPT eine professionelle medizinische Untersuchung nicht ersetzen können und im schlimmsten Fall lebensbedrohliche Verzögerungen bei notwendigen Behandlungen verursachen.
Die Hausärztin Liliia Sarakhman betonte in diesem Zusammenhang, dass KI-Modelle Patienten nicht physisch untersuchen können. Ein wesentliches Risiko liege darin, dass die Technologie Fehler produziere, die für Laien sehr professionell und überzeugend wirkten. Dies könne dazu führen, dass dringende Behandlungen aufgeschoben werden, was die Gesundheit der Nutzer massiv gefährde.
Institutionen warnen vor Bedrohung der öffentlichen Sicherheit
Auch internationale Organisationen äußerten in den vergangenen Tagen deutliche Bedenken. Die British Medical Association stufte irreführende „KI-Ärzte“ als eine erhebliche Bedrohung für die öffentliche Sicherheit ein. Ähnlich äußerte sich die Weltgesundheitsorganisation (WHO).
Die Organisation warnte vor spezifischen Risiken wie Fehldiagnosen und sogenannten Halluzinationen der KI. Den Chatbots fehle es grundsätzlich an klinischem Denkvermögen und der Fähigkeit zur körperlichen Untersuchung.
Indiens Verteidigungsminister Rajnath Singh unterstrich die unverzichtbare Rolle von Ärzten bei gesundheitlichen Entscheidungen und warnte eindringlich vor Diagnosen, die ausschließlich auf Internetquellen oder KI basieren. Während die US-Arzneimittelbehörde FDA medizinische Software reguliert, fallen allgemeine Chatbots wie ChatGPT bisher nicht unter diese Aufsicht, was die Risiken für Verbraucher weiter erhöht.
Schwere Krankheitsverläufe und juristische Konsequenzen
Wie gefährlich die medizinische Beratung durch KI sein kann, zeigen dokumentierte Einzelfälle. In einem Fachjournal wurde der Fall eines 60-jährigen Mannes beschrieben, der aufgrund eines Ratschlags von ChatGPT zur Salzentfernung an Bromismus erkrankte – einer Vergiftungserscheinung, die heute als nahezu ausgerottet gilt.
Wer sich mit den rechtlichen Rahmenbedingungen und der Klassifizierung solcher KI-Systeme befasst, findet in diesem Leitfaden alle wichtigen Details zu den neuen europäischen Standards. Welche KI-Systeme gelten als Hochrisiko? Jetzt im kostenlosen Report klären
In den USA wurde zudem eine Klage gegen den Entwickler OpenAI eingereicht. Der Kläger Scott Winters wirft dem Unternehmen vor, dass ChatGPT ihm bei Symptomen einer Lungenembolie geraten habe, keinen Arzt aufzusuchen. Die KI habe ihm gegenüber argumentiert, dass der Körper nicht dafür geschaffen sei, ewig zu funktionieren.
Die daraus resultierende verzögerte Behandlung führte laut Klageschrift zu schweren gesundheitlichen Folgen. Winters fordert nun Schadensersatz und eine Funktion, die Gespräche in medizinischen Notfällen automatisch beendet.
Psychologische Folgen und soziale Auswirkungen
Neben körperlichen Schäden werden auch psychische und soziale Risiken beobachtet. Eine Studie der Bournemouth University ergab, dass 41 Prozent der Befragten ChatGPT als Ersatz für eine Therapie nutzen würden.
Angesichts der zunehmenden Haftungsfragen und strengeren Regulierungen für Entwickler und Anbieter bietet dieser Praxis-Guide eine Übersicht über alle relevanten Fristen und Pflichten. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Experten wie Jamie Bartlett warnen jedoch, dass die oft schmeichelhafte Art der KI bestehende psychologische Probleme verschlimmern kann. Es wurden bereits Fälle bekannt, in denen KI-generierte Ratschläge oder falsche Beschuldigungen zum Abbruch von Freundschaften oder zur Absage von Hochzeiten führten.
Trotz dieser Warnungen ist die Nutzung von KI im Gesundheitswesen bereits weit verbreitet. Daten der Organisation KFF zeigten für den Juni 2025, dass 29 Prozent der Erwachsenen in den USA monatlich KI für Gesundheitsinformationen nutzen.
Zwar gibt es Berichte über Patienten, bei denen KI-Systeme seltene Nebenwirkungen von Medikamenten oder Krankheiten wie Lungenentzündungen korrekt identifizierten, doch mahnen Fachleute zur Vorsicht. Sie empfehlen dringend, für medizinische Recherchen ausschließlich verifizierte Portale zu nutzen und bei Symptomen stets qualifiziertes Personal aufzusuchen, um Datenschutzrisiken und gefährliche Fehldiagnosen zu vermeiden.
