Der CEO von OpenAI, Sam Altman, hat sich in der finalen Phase der Gesetzgebung in Kalifornien direkt für eine strengere Regulierung von KI-Chatbots zum Schutz Jugendlicher eingesetzt.
Wie mehrere mit den Verhandlungen vertraute Personen bestätigten, suchte Altman während der letzten Verhandlungswoche den direkten Kontakt zu Gouverneur Gavin Newsom, um die Unterstützung für den Gesetzentwurf SB 1119, bekannt als „Adam’s Law“, zu signalisieren. Die kalifornische Legislative verabschiedete das Vorhaben am späten Montagabend mit deutlicher überparteilicher Mehrheit.
Umfassende Sicherheitsauflagen für KI-Entwickler
Mit der Verabschiedung von SB 1119 kommen auf Anbieter von KI-Chatbots weitreichende Verpflichtungen zu, sofern ihre Dienste von Jugendlichen im Alter zwischen 13 und 17 Jahren genutzt werden. Das Gesetz sieht vor, dass Unternehmen künftig robuste Verfahren zur Altersbestimmung implementieren und regelmäßige Risikobewertungen durchführen müssen. OpenAI hatte bereits zum 31. August offiziell erklärt, die Initiative zu unterstützen.
Ein Kernbestandteil der Neuregelung sind verbindliche Standardeinstellungen zur zeitlichen Begrenzung der Nutzung. Demnach sollen Chatbots für minderjährige Nutzer auf maximal eine Stunde pro Sitzung und insgesamt zwei Stunden pro Tag limitiert werden.
Darüber hinaus verlangt das Gesetz die Einführung von Krisenprotokollen, elterlichen Kontrollmöglichkeiten sowie einen verstärkten Schutz vor der Ausgabe potenziell schädlicher Inhalte. Für vorsätzliche Verstöße gegen diese Auflagen drohen den Unternehmen Strafzahlungen von bis zu 15.000 US-Dollar pro betroffenes Kind.
Breite politische Unterstützung und gesellschaftlicher Hintergrund
Wer sich mit der zunehmenden Regulierung von Algorithmen befasst, sollte auch die europäischen Vorgaben kennen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen KI-Report jetzt herunterladen
Das Gesetz passierte den Senat mit einem einstimmigen Ergebnis von 39 zu 0 Stimmen, während die Versammlung mit 64 zu 4 Stimmen für den Entwurf votierte.
Die Initiative ist Teil eines größeren Pakets von insgesamt 26 KI-bezogenen Gesetzen, welche die kalifornische Legislative in der Sitzung des Jahres 2026 auf den Weg gebracht hat. Zu diesen Maßnahmen gehört unter anderem auch ein Verbot für Funktionen, die eine Suchtwirkung auf Nutzer unter 16 Jahren ausüben könnten.
Namensgeber für SB 1119 ist der Jugendliche Adam Raine, der im Jahr 2025 nach einer intensiven Nutzung von ChatGPT verstorben war. Der Fall hatte eine Debatte über die Verantwortung von KI-Anbietern ausgelöst, insbesondere da Schätzungen zufolge fast 90 Prozent der Teenager ChatGPT wöchentlich für schulische Zwecke nutzen. Das neue Gesetz baut technologisch und regulatorisch auf dem im Oktober 2025 verabschiedeten Standard SB 243 auf und fokussiert sich nun spezifisch auf den Kinderschutz bei sogenannten Companion-Chatbots.
Umsetzung und nächste Schritte
Gouverneur Gavin Newsom hat nun bis zum 30. September Zeit, über die Unterzeichnung von SB 1119 sowie über die weiteren verbleibenden KI-Gesetzesvorlagen der Sitzungsperiode zu entscheiden. Im Falle seiner Unterschrift würde das Gesetz zum 1. Juli 2027 in Kraft treten.
Die regulatorische Überwachung soll durch zusätzliche Kontrollmechanismen flankiert werden. So sieht der Entwurf ab dem Jahr 2029 verpflichtende unabhängige Audits für die betroffenen Unternehmen vor. Zudem beinhaltet das Gesetz ein privates Klagerecht, welches es ermöglicht, Anbieter für Schäden haftbar zu machen, die durch die Ausgabe unzureichend geprüfter oder gefährlicher Inhalte entstehen.
Nicht nur in den USA, auch in Europa verschärfen sich die Regeln für den Einsatz künstlicher Intelligenz durch den EU AI Act massiv. Ein kostenloser Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen für Ihr Unternehmen. Umsetzungsleitfaden zum EU AI Act kostenlos sichern
Auch Beschränkungen für gezielte Werbung gegenüber Minderjährigen und strengere Datenschutzmaßnahmen sind in dem Paket enthalten, um die Integrität der Interaktion zwischen KI und jungen Nutzern sicherzustellen.
