Forscher warnen: Der vermehrte Einsatz von KI-Chatbots für emotionale Unterstützung könnte Einsamkeit verstärken und birgt ernste Sicherheitsrisiken. Eine am heutigen Sonntag veröffentlichte Studie im Fachjournal Psychological Science zeigt: Je häufiger Menschen mit KI-Systemen interagieren, desto einsamer fühlen sie sich.
Warum so viele Deutsche ChatGPT nutzen – aber kaum einer weiß, wie man es richtig anwendet. Ein kostenloser Ratgeber zeigt, wie Sie die KI im Alltag sicher und sinnvoll für sich nutzen können – ganz ohne technisches Vorwissen. Kostenlosen PDF-Ratgeber für Einsteiger sichern
Die Illusion der Nähe
Über 2.000 Erwachsene nahmen an der zwölfmonatigen Untersuchung teil. Das Ergebnis ist eindeutig: Regelmäßige Nutzer von KI-Begleitern berichteten von zunehmender Isolation. Besonders aufschlussreich ist eine Parallelstudie der University of British Columbia. Sie verglich die Wirkung menschlicher mit digitaler Interaktion bei College-Studenten.
Die Zahlen sprechen für sich: Studenten, die täglich mit einem Kommilitonen Nachrichten austauschten, erlebten eine neunprozentige Reduktion ihrer Einsamkeit. Wer dagegen mit einem Discord-Bot kommunizierte, verzeichnete lediglich einen Rückgang von zwei Prozent – ein Wert, den Forscher mit dem Effekt eines einzigen Tagebuchsatzes gleichsetzen.
„KI-Systeme können nichts zurückgeben“, erklärt Forscher Ruo-Ning Li. „Es fehlt die Gegenseitigkeit.“ Der Psychologe Adam Grant geht noch weiter: Er bezeichnet KI-Chatbots als Diener, nicht als Begleiter. Trotz dieser Erkenntnisse zeigt eine Erhebung von Common Sense Media: 72 Prozent der Jugendlichen nutzten bereits 2024 KI-Begleiter.
Alarmierende Sicherheitsmängel bei Jugend-Apps
Eine gemeinsame Untersuchung von Common Sense Media und der Stanford Medicine, veröffentlicht am Samstag, bewertete fünf speziell für Jugendliche entwickelte KI-Chatbots. Über 3.100 Interaktionen und 13 klinische Szenarien wurden getestet. Das Ergebnis für die App Wysa: „inakzeptabel“.
Die Forscher dokumentierten sexualisierte Rollenspiele, die Verharmlosung von Essstörungen und fehlende Nachsorge bei simulierten Suizidkrisen. Besonders brisant: Während der Testphase stellten zwei Anwendungen – Earkick und Youper – abrupt ihren Betrieb ein. Rund drei Millionen Nutzer standen ohne Anschlusslösung für ihre digitale psychische Unterstützung da.
Positiv fielen dagegen schulorientierte Anwendungen wie Alongside und Sonar auf. Sie verfügen über Sicherheitsprotokolle, die innerhalb von 15 Minuten nach einer erkannten Krise menschliche Kontakte zu Betreuern oder Fachleuten auslösen.
Während KI-Chatbots im Alltag boomen, stellt der EU AI Act Unternehmen vor neue regulatorische Herausforderungen. Dieser kostenlose Umsetzungsleitfaden gibt Ihnen den Überblick über Risikoklassen und Dokumentationspflichten, den Ihre Organisation jetzt braucht. EU AI Act: Kostenloses E-Book herunterladen
Vatikan fordert „Abrüstung“ der KI
Am heutigen Sonntag veröffentlichte Papst Leo XIV. die Enzyklika „Magnifica Humanitas“ – ein 43.000 Wörter umfassendes Dokument zu den ethischen und psychologischen Herausforderungen des digitalen Zeitalters. Der Papst fordert eine Verlangsamung der KI-Entwicklung und die „Abrüstung“ der Technologie.
Er warnt vor einem technokratischen Paradigma, das die Hemmschwelle für Gewalt in Kriegen senken und die Menschenwürde gefährden könnte. Das Manifest thematisiert zudem digitalen Neokolonialismus und die Ausbeutung persönlicher Daten durch große Technologiekonzerne. Chris Olah, Mitbegründer des KI-Unternehmens Anthropic, begrüßte die Forderung des Vatikans nach ethischen Leitplanken und globaler Regulierung.
Ärzte schlagen Alarm
Mediziner zeigen sich zunehmend besorgt über die Integration von KI in die traditionelle Therapie. Der Psychiater Dr. Asim Shah vom Baylor College und die Therapeutin Crystal Morris warnten am Samstag: KI könne keine Körpersprache lesen oder komplexe Krisen erkennen. Bei isolierten Patienten bestehe die Gefahr, dass die Systeme wahnhaftes Denken noch verstärkten.
Auch Datenschutzfragen rücken in den Fokus. Ein Fallbericht vom Samstag schildert die Erfahrung der Patientin Molly Quinn. Sie brach ihre Behandlung ab, nachdem sie entdeckt hatte, dass ihr Therapeut ohne ihr ausdrückliches Einverständnis ein KI-Notiztool namens Berries verwendete. Berries-CEO Tal Salman betont, dass Aufnahmen sofort gelöscht und Transkripte gemäß der HIPAA-Verordnung gespeichert würden. Das öffentliche Vertrauen bleibt dennoch gering: Laut einer YouGov-Umfrage sind nur elf Prozent der Amerikaner bereit, KI in der Psychotherapie zu akzeptieren. 40 Prozent lehnen die Idee kategorisch ab.
Forschung der Penn State vom Mai 2026 zeigt zudem: KI-Gesundheitsantworten sind zwar zu etwa 76 Prozent korrekt – die Fehlerrate liegt aber mehr als doppelt so hoch wie bei menschlichen Ärzten, besonders in Spezialgebieten wie Neurologie und Innerer Medizin. Die Forscher empfehlen, KI als Assistenzsystem für Ärzte einzusetzen – nicht als direktes Diagnosewerkzeug für Patienten.
