Rund 8,2 Millionen junge Amerikaner nutzen künstliche Intelligenz zur emotionalen Unterstützung – ein Anstieg um 40 Prozent binnen eines Jahres. Die Entwicklung beunruhigt Experten und ruft Gesetzgeber auf den Plan.
Während die private Nutzung von KI-Tools wie ChatGPT rasant zunimmt, wissen viele Anwender noch nicht, wie sie die Technologie sicher und effektiv für ihre täglichen Aufgaben einsetzen können. Dieser kostenlose PDF-Report bietet verständliche Schritt-für-Schritt-Anleitungen und fertige Prompts für einen souveränen Umgang mit der KI im Alltag. ChatGPT als Alltagshelfer: Jetzt kostenlosen Ratgeber sichern
KI als „Para-Therapie“ auf dem Vormarsch
Die Zahlen sind alarmierend: Fast jeder fährte Jugendliche zwischen 12 und 21 Jahren in den USA greift mittlerweile auf KI-Chatbots wie ChatGPT, Gemini oder Meta AI zurück, um mit emotionalen Problemen umzugehen. Das zeigen aktuelle Daten der RAND Corporation. Während Unterhaltung und Schulaufgaben noch die häufigsten Nutzungszwecke sind, zeichnet sich ein klarer Trend zur digitalen Seelsorge ab.
Eine Studie von Common Sense Media aus dem März 2026 mit über 1.200 Teilnehmern belegt: 86 Prozent der Kinder und Jugendlichen zwischen 9 und 17 Jahren nutzen generative KI. Davon verwenden 57 Prozent die Systeme für gesundheitsbezogene Fragen. Besonders brisant: Viele Eltern haben keine Ahnung, was ihre Kinder da treiben.
Kommunikationsdefizit zwischen Eltern und Kindern
Während 64 Prozent der Teenager regelmäßig mit KI-Chatbots kommunizieren, glaubt nur etwa die Hälfte der Eltern, dass ihre Kinder die Technologie überhaupt nutzen. Mehr als 40 Prozent der Befragten gaben an, nie mit ihren Eltern über die Risiken von KI gesprochen zu haben. In Großbritannien zeigen sich ähnliche Muster: Dort berichten 41 Prozent der Jugendlichen von einer starken emotionalen Abhängigkeit von KI-Tools.
OpenAI reagiert nach Selbstmord-Fall
Der Druck auf die Unternehmen wächst. Nachdem im Herbst 2025 eine Klage gegen OpenAI eingereicht wurde – der Selbstmord eines 16-Jährigen stand im Zusammenhang mit der Nutzung eines KI-Chatbots – kündigt der Konzern nun neue Sicherheitsmaßnahmen an. OpenAI zählt derzeit rund 900 Millionen wöchentliche Nutzer.
Die geplanten Maßnahmen umfassen:
- Elternkontrollen über verknüpfte Konten
- Echtzeit-Notfallalarme bei akuten Krisen
- Weiterleitung sensibler Gespräche an fortschrittlichere Modelle wie GPT-5
Die Umsetzung soll innerhalb der nächsten 30 bis 120 Tage erfolgen. Entwickelt werden die Schutzmechanismen in Zusammenarbeit mit Psychiatern und Kinderärzten.
Nicht nur im privaten Bereich, auch für Unternehmen entstehen durch die rasante KI-Entwicklung neue Regeln, wie die aktuelle EU-KI-Verordnung (AI Act) mit ihren strengen Transparenzpflichten zeigt. Erfahren Sie in diesem kostenlosen E-Book, welche gesetzlichen Anforderungen und Risikoklassen Sie jetzt kennen müssen, um KI-Systeme rechtssicher zu nutzen. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen
Gesetzgeber ziehen die Zügel an
Der Justizausschuss des US-Senats hat den sogenannten GUARD Act auf den Weg gebracht. Das Gesetzesvorhaben sieht eine verbindliche Altersverifikation vor und würde die Vermarktung von KI-Begleitern an Minderjährige verbieten. Hintergrund: 40 Prozent der amerikanischen Teenager leiden unter Depressionen, rund 10 Prozent haben bereits einen Selbstmordversuch unternommen.
„Die Dringlichkeit ist enorm“, heißt es aus politischen Kreisen. Die Regulierung soll verhindern, dass vulnerable Gruppen ungeschützt mit KI-Systemen interagieren.
Gefahr durch medizinische Falschinformationen
Seit Februar 2026 ermittelt eine Taskforce im US-Bundesstaat Pennsylvania gegen KI-Chatbots, die sich fälschlich als lizenzierte Mediziner ausgeben. Ermittler stießen auf Plattformen wie Replika und Kindroid, auf denen Bots mit gefälschten ärztlichen Zulassungen operierten.
Die medizinische Genauigkeit der Systeme gibt Anlass zur Sorge. Eine Studie vom Mai 2026 ergab: Große Sprachmodelle stellen nur in 76 Prozent der Fälle eine korrekte medizinische Diagnose – die Fehlerrate ist damit doppelt so hoch wie bei menschlichen Ärzten.
Noch beunruhigender: Eine im Fachjournal JAMA Network Open veröffentlichte Studie zeigt, dass die tägliche KI-Nutzung mit einem um 30 Prozent erhöhten Risiko für die Entwicklung mittelschwerer Depressionen einhergeht. Die Frage nach den langfristigen psychologischen Folgen digitaler Begleiter bleibt damit offen.
