Der KI-Entwickler OpenAI verschärft die Schutzmaßnahmen für jugendliche Nutzer auf seiner Plattform ChatGPT. Wie das Unternehmen ankündigte, treten neue Inhaltsbeschränkungen in Kraft, die insbesondere den Zugang zu sensiblen praktischen Informationen über Waffen und Sicherheitssysteme für Teenager regulieren. Die Neuerungen greifen demnach auch dann, wenn Anfragen harmlos wirken und keine unmittelbaren Anzeichen einer Gewaltabsicht vorliegen.
Die zusätzlichen Sperren für Minderjährige unter 18 Jahren sind Teil eines umfassenderen Maßnahmenpakets. Parallel dazu schränkt OpenAI bestimmte Inhalte für die gesamte Nutzerschaft ein, unabhängig vom jeweiligen Alter.
So sollen künftig detaillierte Angaben zu vergangenen Massenangriffen im Chatverlauf deutlich reduziert werden. Dies betrifft unter anderem Informationen über eingesetzte Waffen, deren Beschaffungswege, Schadensvergleiche, Tathergangs-Rekonstruktionen sowie Darstellungen, die den Tätern zu zweifelhaftem Ruhm verhelfen könnten.
Automatische Chat-Beendigungen und Benachrichtigung von Eltern
Um Gefahrenlagen frühzeitig zu begegnen, führt OpenAI technische Mechanismen ein, die Unterhaltungen bei Anzeichen einer Fixierung auf Gewaltthemen automatisch beenden können. Kommt es wiederholt zu solchen Interaktionen, droht dem betroffenen Nutzer eine temporäre Sperrung des Kontos.
Wer sich mit dem Schutz digitaler Umgebungen und der Sicherheit von Online-Konten befasst, sollte auch die Risiken auf mobilen Endgeräten nicht unterschätzen. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie Ihr Android-Smartphone mit einfachen Schritten gegen unbefugte Zugriffe und Datenmissbrauch absichern. 5 Schutzmaßnahmen jetzt entdecken
Bei verknüpften Konten von Jugendlichen erhalten die Erziehungsberechtigten in einem solchen Fall eine direkte Mitteilung, dass der Account wegen wiederkehrender Gewaltgespräche pausiert wurde.
Um Jugendliche verlässlicher in die geschützte Nutzungsumgebung einzustufen, hat OpenAI die Modelle zur Altersvorhersage weiterentwickelt. Ziel sei es, minderjährige Anwender kontinuierlich zu erkennen.
Sollten erwachsene Nutzer fälschlicherweise der geschützten Jugend-Erfahrung zugeordnet werden, können diese ihr tatsächliches Alter über den Verifikationspartner Persona bestätigen. Der Rollout der neuen Funktionen soll in den kommenden Wochen anlaufen, wobei ein vollständiger Zeitplan für alle Neuerungen vom Unternehmen bislang nicht kommuniziert wurde.
Transparenzbericht und Kritik von Verbraucherschützern
Im Zuge der Ankündigungen legte OpenAI auch eigene Kennzahlen zur Zusammenarbeit mit Behörden vor. Demnach leitete das Unternehmen im dritten Quartal 2026 mehr als 200 Fälle wegen drohender Gewalt an Strafverfolgungsbehörden weiter. Angaben darüber, wie viele Festnahmen, Verurteilungen oder tatsächlich verhinderte Angriffe daraus resultierten, machte das Unternehmen dabei nicht.
Neben der Sicherheit von Inhalten rückt auch die technische Absicherung privater Daten auf dem Smartphone immer stärker in den Fokus von Experten. Wie Sie Hacker und Viren wirksam aussperren und WhatsApp oder Banking-Apps sicher nutzen, erfahren Sie in diesem gratis Leitfaden. Kostenlosen Sicherheits-Ratgeber herunterladen
Für Anfang 2027 plant OpenAI die Veröffentlichung eines ersten formellen Transparenzberichts zum Thema Nutzersicherheit, der die zweite Jahreshälfte 2026 abdecken soll. Danach sind regelmäßige Veröffentlichungen im Abstand von sechs Monaten vorgesehen.
Die Einführung der Schutzmechanismen erfolgt vor dem Hintergrund anhaltender Debatten über den Einfluss generativer KI auf jüngere Altersgruppen. Laut einem internen Bericht von OpenAI von Anfang Oktober 2026 verbringen Teenager im Schnitt unter 15 Minuten täglich auf der Plattform ChatGPT.
Dennoch gab es an den bestehenden Schutzmechanismen zuletzt Kritik. Die Organisation Common Sense Media bemängelte in einem Bericht von Anfang Oktober 2026, dass die Schutzsysteme der Teenager-Version Eltern häufig verspätet oder gar nicht benachrichtigt hätten, wenn es in Unterhaltungen um Suizid, Selbstverletzung oder Essstörungen ging.