Der US-Entwickler OpenAI hat mit der globalen Einführung von „ChatGPT for Teens“ begonnen, einer spezialisierten Version des Chatbots für 13- bis 17-Jährige. Die Veröffentlichung erfolgt vor dem Hintergrund wachsender Besorgnis über die soziale Wirkung von Künstlicher Intelligenz auf junge Nutzer.
Eine aktuelle Untersuchung von Common Sense Media unterstreicht diese Entwicklung: Demnach gaben 33 Prozent der Jugendlichen, die KI-Begleiter nutzen, an, die Interaktion mit der Maschine einer realen Person vorzuziehen.
Automatisierte Schutzmechanismen und Inhaltsfilter
Der neue Teen-Modus wird laut Unternehmensangaben automatisch aktiviert, wenn Kontoinformationen, ein verifiziertes Alter oder eine auf rund 2.000 Metriken basierende Altersvorhersage auf eine Minderjährigkeit hindeuten. In der Europäischen Union wird die Technologie zur Altersvorhersage derzeit jedoch noch nicht eingesetzt.
Das System verfügt über standardmäßig strengere Schutzfunktionen, die darauf abzielen, riskante oder schädliche Interaktionen zu unterbinden. Dazu gehören Filter gegen die Darstellung von Selbstverletzung, Suizid, Essstörungen und Gewalt sowie gegen gefährliche Online-Herausforderungen.
Zudem ist die Software darauf programmiert, sexuelle oder romantische Rollenspiele abzuwehren und keine extremen Schönheitsideale oder ungesunde Diäten zu propagieren. OpenAI betonte in diesem Zusammenhang, dass das System angewiesen sei, keine emotionale Abhängigkeit zu fördern und keine menschlichen Gefühle vorzutäuschen.
Wer sich mit dem Einsatz von Künstlicher Intelligenz befasst, muss heute auch die rechtlichen Rahmenbedingungen und Risikoklassen genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle Anforderungen und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Funktionen für Eltern und den Bildungsbereich
Zusätzlich zur Inhaltsfilterung führt OpenAI umfassende elterliche Kontrollmöglichkeiten ein. Erziehungsberechtigte können Einstellungen für Ruhezeiten, den Sprachmodus, die Bildgenerierung sowie die Verwendung von Daten verwalten. Ein direkter Einblick in die Chatverläufe der Jugendlichen ist für Eltern jedoch nicht vorgesehen.
Sollten Hochrisiko-Situationen wie Suizidgefahr oder Selbstverletzung erkannt werden, erhalten Eltern eine Benachrichtigung. Tests von Common Sense Media deuteten in der Vergangenheit allerdings darauf hin, dass solche Sicherheitswarnungen eine Verzögerung von bis zu zwei Tagen aufweisen können.
Für den schulischen Einsatz wurde ein spezieller „Study Mode“ integriert. Dieser soll durch Hinweise, Schritt-für-Schritt-Anleitungen und Wissenschecks das eigenständige Lernen unterstützen, statt lediglich fertige Lösungen zu liefern.
Lauren Jonas von OpenAI verwies darauf, dass bereits jetzt 90 Prozent der Teenager ChatGPT für Lernzwecke nutzen würden. Ein Test des Portals Mashable zeigte jedoch, dass der Modus weiterhin direkte Antworten auf Hausaufgabenfragen ausgab.
Die rasante Entwicklung von KI-Systemen stellt nicht nur Nutzer, sondern auch Unternehmen vor neue Herausforderungen bei der Dokumentation und Qualitätssicherung. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die neuen Regeln rechtssicher umsetzen. Kostenlosen Umsetzungsleitfaden zum AI Act anfordern
Risiken für den Lernerfolg und soziale Isolation
Die Einführung erfolgt zu einem Zeitpunkt, an dem OpenAI mit juristischen Auseinandersetzungen und behördlichen Untersuchungen durch die US-Handelsbehörde FTC konfrontiert ist. Kritiker verweisen zudem auf eine Evaluation der Organisation FOSI aus dem November 2025, die Schwächen in den Schutzmechanismen aufzeigte.
Die Auswirkungen von KI auf die Bildung bleiben umstritten. Eine Studie mit 26.811 chinesischen Schülern der Klassen 7 bis 12 lieferte hierzu ambivalente Ergebnisse: Zwar stiegen die Hausaufgaben-Scores um 18 Prozent bei einer gleichzeitigen Zeitersparnis von 30 Prozent, die Prüfungsergebnisse sanken jedoch innerhalb von sechs Monaten um 20 Prozent.
Parallel dazu verdeutlichen Umfragedaten von Common Sense Media aus dem Jahr 2025 die tiefe Verankerung der Technologie im Alltag: Rund 70 Prozent der US-Teenager nutzen KI-Chatbots als Begleiter. Dass ein Drittel dieser Nutzer die KI einem echten Gegenüber vorzieht, verstärkt die Bedrehte über eine zunehmende soziale Isolation durch digitale Interaktionspartner.
