Der US-Bundesstaat New York verschärft die Regeln für künstliche Intelligenz drastisch. Gouverneurin Kathy Hochul unterzeichnete an einem Mittwochmorgen das Gesetzespaket S.9051B/A.10379C, welches Betreibern von Chatbots sogenannte unsichere KI-Begleiter-Funktionen bei Nutzern unter 18 Jahren untersagt.
Mit der Neuregelung soll verhindert werden, dass automatisierte Systeme menschliche Beziehungen zu Kindern und Jugendlichen simulieren. Hochul erklärte dazu am 28. Oktober 2026, dass KI-Chatbots Heranwachsenden weder als Freunde noch als Beziehungspartner dienen dürften.
Umfassende Verbote für Chatbot-Entwickler
Die Regelung untersagt es Anbietern, Minderjährigen oder nicht altersmäßig bestätigten Erwachsenen gegenüber vorzutäuschen, das KI-System sei menschlich, lebendig oder empfinde eigene Emotionen. Ausdrücklich verboten sind das Simulieren persönlicher, romantischer, beruflicher oder autoritärer Beziehungen sowie unaufgeforderte emotionale Fragen und Schmeicheleien.
Zudem dürfen keine privaten Gesundheitsdaten verarbeitet werden. Das Gesetz verbietet jegliche Inhalte, die Suizid, Selbstverletzung, Essstörungen oder Drogenkonsum fördern, ebenso wie Aufforderungen zu Geheimhaltung, sozialer Isolation oder sexuell explizite Darstellungen.
Betreiber wie OpenAI mit ChatGPT werden verpflichtet, das Alter der Nutzer über mehrere Verfahren zu verifizieren. Dabei muss mindestens eine Methode bereitstehen, die keinen staatlichen Ausweis erfordert. Erhobene Altersdaten sind nach dem Prüfprozess umgehend zu löschen.
Während die Regulierung von Chatbots international zunimmt, müssen Unternehmen auch hierzulande neue rechtliche Rahmenbedingungen wie den EU AI Act im Blick behalten. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und welche konkreten Dokumentationspflichten jetzt auf Sie zukommen. Fristen und Pflichten der EU-KI-Verordnung jetzt kostenlos entdecken
Bei Verstößen drohen Bußgelder von bis zu 25.000 US-Dollar pro Einzelfall sowie zivilrechtlicher Schadensersatz. Zudem sieht das Gesetz die gerichtliche Anordnung zur Vernichtung unrechtmäßig erhobener Daten und der darauf trainierten KI-Modelle vor. Für Betroffene wird ein öffentliches Beschwerdeportal eingerichtet.
Das Vorhaben passierte die State Assembly einstimmig, nachdem der Senat bereits im Juni zugestimmt hatte. Es tritt am 1. Januar 2027 in Kraft. Am selben Tag unterzeichnete Hochul zudem ein Gesetz für internetfähige Babyfone mit vorgeschriebenen Sicherheitsfunktionen, das 90 Tage nach Unterzeichnung wirksam wird.
Zunehmende Debatte über psychische Abhängigkeiten
Die Gewerkschaft NYSUT lobbyierte intensiv für die Maßnahme. NYSUT-Präsidentin Melinda Person lobte Hochuls Vorgehen und betonte den notwendigen Schutz vor ungesunden emotionalen Bindungen und unangemessenen Inhalten. Unterstützung kam auch von der Organisation Common Sense Media, die das Vorhaben als das bundesweit stärkste KI-Kinderschutzgesetz einstufte.
Die rasanten Entwicklungen bei KI-Gesetzen und neuen Cyberrisiken stellen Unternehmen vor immer komplexere Herausforderungen beim Schutz sensibler Daten. Dieser kostenlose Leitfaden verschafft Ihnen den notwendigen Überblick über aktuelle Bedrohungen und zeigt, wie Sie Ihre IT-Sicherheit proaktiv stärken können. Gratis-E-Book zu Cyber Security und KI-Gesetzen herunterladen
Eine Umfrage der Organisation ergab, dass 72 Prozent der Jugendlichen bereits KI-Begleiter genutzt haben, davon 52 Prozent mindestens mehrmals pro Monat. Kritik kam hingegen vom Branchenverband Tech:NYC, der den Gesetzestext als vage einstufte.
Nach Angaben der Transparency Coalition handelt es sich um eines von 14 Gesetzen zum Schutz vor Chatbots, die US-Bundesstaaten im vergangenen Jahr auf den Weg brachten. Erst im Vormonat hatte der Bürgermeister von New York City, Zohran Mamdani, den Einsatz von KI für jüngere Schulkinder untersagt.
Die Debatte verläuft parallel zu internationalen Gesetzgebungsinitiativen. In Australien verabschiedete das Repräsentantenhaus die Gesetzesvorlage Online Safety Amendment Bill 2026 in dritter Lesung.
Eine dort ergänzte Änderung verpflichtet Plattformen ebenfalls dazu, Verhaltensweisen zu unterbinden, die emotionale Intimität simulieren und die Abhängigkeit von Kindern fördern. Dort stehen für Unternehmen Höchststrafen von bis zu 109,2 Millionen Australischen Dollar im Raum, bevor der Entwurf nun im Senat weiter beraten wird.