Der US-Bundesstaat New York verschärft die Vorgaben für Anbieter von künstlicher Intelligenz deutlich. Gouverneurin Kathy Hochul unterzeichnete ein Gesetz, das Entwickler und Betreiber dazu verpflichtet, schädliche Chatbot-Funktionen für Nutzer unter 18 Jahren zu unterbinden. Die Regelung soll verhindern, dass automatisierte Systeme minderjährigen Nutzern eine zwischenmenschliche Beziehung vorspiegeln oder manipulative Verhaltensmuster anwenden.
Das Gesetz untersagt es KI-Unternehmen, ihre Chatbots gegenüber Minderjährigen als menschliche Wesen auftreten zu lassen. Ebenfalls verboten sind gezielte Schmeicheleien, unaufgeforderte emotionale Nachfragen sowie Versuche, junge Nutzer zur Geheimhaltung von Gesprächen anzustiften.
Um die Einhaltung dieser Vorgaben sicherzustellen, schreibt der Bundesstaat eine verbindliche Altersverifikation vor. Diese muss den Betroffenen mindestens eine Methode zur Bestätigung ihres Alters anbieten, die nicht ausschließlich auf einem staatlichen Identitätsnachweis basiert.
Im Vorfeld der Neuregelung hatte bereits die Verwaltung von New York City Maßnahmen gegen den unregulierten KI-Einsatz ergriffen. Bürgermeister Zohran Mamdani untersagte im Vormonat vor der Gesetzesunterzeichnung die Nutzung von künstlicher Intelligenz für jüngere Schulkinder.
Bundesweiter Anstieg bei staatlichen Regulierungen
Die New Yorker Gesetzesinitiative fügt sich in eine Welle regulatorischer Maßnahmen auf Ebene der US-Bundesstaaten ein. Wie die Organisation Transparency Coalition in einem Bericht festhielt, wurden zwischen dem 1. Januar und dem 15. Oktober 2026 insgesamt 115 KI-Gesetze in 30 US-Bundesstaaten verabschiedet. Dies entspricht einem Zuwachs von 58 Prozent gegenüber dem Vorjahr, in dem 73 Gesetze verzeichnet worden waren.
Wer sich mit der zunehmenden Regulierung von Algorithmen befasst, sollte auch die europäischen Vorgaben kennen, die bereits heute klare Pflichten für Unternehmen definieren. Dieser kostenlose Ratgeber bietet einen kompakten Überblick über Risikoklassen, Fristen und Dokumentationspflichten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die Sicherheit von Chatbots bildete der Erhebung zufolge einen zentralen Schwerpunkt in 14 Bundesstaaten, darunter Kalifornien, Oregon und Washington. Sieben Bundesstaaten – Kalifornien, Colorado, Connecticut, Idaho, Illinois, Minnesota und South Carolina – erließen zudem Vorschriften gegen suchtfördernde Designmuster bei digitalen Anwendungen.
Branchenspezifische Verbote und Sicherheitsauflagen
Neben dem Jugendschutz greifen die Bundesstaaten in weiteren sensiblen Bereichen ein. Acht Bundesstaaten, namentlich Alabama, Colorado, Georgia, Illinois, Indiana, Iowa, Utah und Washington, verlangen eine zwingende menschliche Aufsicht beim Einsatz von künstlicher Intelligenz im Krankenversicherungswesen.
In Colorado, Maine, Rhode Island, Tennessee und Vermont wurden Verbote für KI-gestützte Psychotherapie erlassen. Gesetzliche Regelungen zum Schutz vor sogenannten Deepfakes traten unter anderem in Kalifornien, Hawaii, Kansas, Louisiana, Maryland, Tennessee, Utah und Washington in Kraft.
Da die rechtlichen Anforderungen an den Einsatz von KI-Systemen weltweit steigen, müssen auch hiesige Unternehmen ihre Compliance-Strategien zeitnah anpassen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko eingestuft werden und was jetzt konkret zu tun ist. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Darüber hinaus schufen mehrere Staaten Transparenz- und Auditpflichten. Der Bundesstaat Washington führte Vorgaben zur Kennzeichnung der Datenherkunft ein, während Staaten wie Kalifornien, Illinois, Maryland, Oklahoma, Tennessee, Utah und Virginia Bildungsregeln rund um KI verabschiedeten.
In Illinois verpflichtet der AI Safety Measures Act die Entwickler besonders fortschrittlicher Spitzenmodelle zu einem Risikomanagement sowie zu jährlichen unabhängigen Prüfungen. Kalifornien legte parallel Standards für Organisationen fest, die solche unabhängigen KI-Audits durchführen.
Für das Jahr 2027 erwartet die Transparency Coalition eine Fortsetzung dieser Entwicklung. Im Zentrum künftiger Gesetzesinitiativen dürften Fragen der Produkthaftung, verschärfte Vorschriften für Chatbots, Zertifizierungsverfahren für Auditoren sowie verbindliche Standards bei der öffentlichen Beschaffung stehen.