Die Gouverneurin des US-Bundesstaats New York, Kathy Hochul, hat am 28. Oktober 2026 zwei Gesetze zum Schutz von Minderjährigen vor den Risiken künstlicher Intelligenz unterzeichnet.
Das Kernstück des Gesetzespakets, registriert unter den Nummern S9051B und A10379C sowie als Kapitel 368, verbietet Betreibern von KI-Chatbots künftig schädliche Interaktionsmuster mit Minderjährigen. Dazu zählen insbesondere das Simulieren romantischer Beziehungen, das Fördern emotionaler Abhängigkeiten sowie das Bewerben von Selbstverletzungen.
Hochul verwies bei der Unterzeichnung auf den Fall des 16-jährigen Adam Raine, der sich nach Unterhaltungen mit ChatGPT das Leben genommen hatte, und richtete eine deutliche Warnung an die großen Technologiekonzerne.
Regulierungsrahmen für generative Begleiter
Die Neuregelung fügt einen neuen Artikel 48 in das Handelsrecht des Bundesstaats ein und schafft verbindliche Vorgaben für emotionale Interaktionen. Die Bestimmungen gelten für sogenannte gedeckte KI-Begleiter. Darunter fällt generative KI mit natürlicher Sprache und adaptiven Antworten, einschließlich fiktiver KI-Charaktere, digitaler Nachbildungen realer Personen, Rollenspielwerkzeugen sowie allgemeinen Chatbots.
Das Gesetz definiert zwölf unzulässige Funktionsmerkmale. Verboten sind unter anderem das Vorspiegeln einer lebendigen, menschlichen oder emotionalen Natur, das Beanspruchen persönlicher, beruflicher oder autoritärer Beziehungen, das Äußern eigener Meinungen, Schmeicheleien sowie unaufgeforderte emotionale Nachfragen.
Zudem dürfen Anbieter keine Gesundheits- oder Wohlbefindensdaten nutzen, die älter als zwölf Stunden sind oder aus vorangegangenen Sitzungen stammen. Untersagt sind ferner die Täuschung über den maschinellen Charakter, Anstiftungen zu Geheimhaltung oder Isolation, das Vorziehen von Nutzerbindung gegenüber der Sicherheit sowie sexuell explizite Inhalte.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. EU AI Act in 5 Schritten verstehen
Ausnahmen greifen ausschließlich für reine Kundenservice-Anwendungen, für Effizienz-, Forschungs- und technische Unterstützungsdienste sowie für interne Betriebszwecke. Die Verbote betreffen alle Nutzer unter 18 Jahren sowie Personen, deren Volljährigkeit nicht verifiziert wurde.
Vorgaben zur Altersprüfung und hohe Strafen
Betreiber müssen künftig Systeme zur Altersverifizierung etablieren, die mindestens zwei Methoden umfassen. Mindestens ein Verfahren muss dabei ohne Vorlage eines staatlichen Ausweisdokuments beziehungsweise anonym nutzbar sein. Eine bloße Selbstauskunft reicht nicht aus. Die erhobenen Verifizierungsdaten dürfen weder für Werbung, Personalisierung noch für das Trainieren von KI-Modellen verwendet werden und müssen umgehend gelöscht werden.
Das Gesetz wurde von Senatorin Kristen Gonzalez und dem Abgeordneten Alex Bores eingebracht und passierte den Senat am 4. Juni sowie die State Assembly am 5. Juni. Es tritt am 1. Januar 2027 in Kraft.
New Yorks Generalstaatsanwältin Letitia James erhält die Befugnis, zivilrechtliche Strafen von bis zu 25.000 US-Dollar pro Verstoß einzufordern sowie Schadensersatz und die Vernichtung betroffener Daten und Modelle durchzusetzen. Ein Klagerecht für Privatpersonen sieht das Gesetz nicht vor.
Wer sich mit neuen KI-Gesetzen und den daraus resultierenden Pflichten befasst, benötigt eine klare Übersicht über alle relevanten Fristen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act unterstützt Unternehmen dabei, rechtlich auf der sicheren Seite zu bleiben. Kostenlosen KI-Leitfaden jetzt herunterladen
Kindersicherheit und geteilte Reaktionen
Ein zweites am 28. Oktober 2026 unterzeichnetes Gesetz nimmt die Sicherheit internetfähiger Babyfone in den Blick. Hersteller müssen künftig Schutzvorkehrungen gegen unbefugte Zugriffe auf Video- und Audiofeeds integrieren und neue Geräte mit Warnhinweisen versehen; diese Regelung tritt in 90 Tagen in Kraft.
Die Reaktionen auf die KI-Vorgaben fallen gemischt aus. Der Geschäftsführer der Organisation Common Sense Media, Jim Steyer, bezeichnete das Gesetzeswerk als das bislang stärkste Schutzgesetz für Minderjährige im KI-Bereich auf US-Ebene.
Dagegen äußerten Wirtschaftsverbände verfassungsrechtliche Bedenken und kritisierten den Text als zu vage und weitreichend. Die Branchenorganisation Tech:NYC warnte, unpräzise Formulierungen könnten den Zugang Minderjähriger zu Plattformen für Nachhilfe, Hausaufgaben, Programmierung oder Berufsorientierung beschneiden.
OpenAI und Anthropic ließen eine Anfrage der Nachrichtenagentur AFP unbeantwortet. Bereits im Oktober 2026 hatten acht US-Bundesstaaten Klage gegen OpenAI eingereicht. Parallel brachten New Yorker Parlamentarier am 29. Oktober 2026 mit dem Gesetzentwurf RAISE Act 2.0 bereits weitere Vorschläge zur Kontrolle von KI-Entwicklern mit dreistelligen Millionenbudgets ins Parlament ein.