Am 12. Juni 2025 haben die New York Assembly und der Senat des Bundesstaates den Responsible AI Safety and Education Act (RAISE Act) verabschiedet und die Gesetzesvorlage an Gouverneurin Kathy Hochul zur Unterzeichnung übermittelt.
Laut einer Zusammenfassung auf der offiziellen Website des Senats legt der Gesetzestext umfassende Transparenzpflichten für das Training und den praktischen Einsatz sogenannter Frontier-Modelle fest, zu denen auch die Ausarbeitung und Vorlage verbindlicher Sicherheitspläne zählen.
Aus Kreisen der Technologiebranche regte sich deutlicher Widerstand gegen die neuen regulatorischen Vorgaben, wie unter anderem das Fachportal insideaipolicy.com in einem Bericht vom 15. November 2026 darlegte.
Registrierungspflichten und Aufsicht über Frontier-Entwickler
Der RAISE Act tritt am 1. Januar 2027 verbindlich in Kraft. Das Gesetz definiert Frontier-Modelle als Allzweck-Basismodelle (general-purpose Foundation Models), deren Trainingsaufwand bei über 10^26 Rechenoperationen liegt.
Als großer Frontier-Entwickler gilt jedes Unternehmen, dessen Jahresumsatz einschließlich verbundener Tochtergesellschaften im jeweils vorangegangenen Geschäftsjahr 500 Millionen US-Dollar überstiegen hat.
Große Anbieter, darunter führende Branchenvertreter wie OpenAI und Anthropic, müssen sich bis zum 1. Januar 2027 registrieren und künftig umfassende Sicherheitsframeworks sowie Transparenzberichte öffentlich zugänglich machen.
Um den administrativen Ablauf zu gewährleisten, eröffnete das Office of Digital Innovation, Governance, Integrity, and Trust (DIGIT) am 10. November 2026 das entsprechende RAISE-Portal.
Wer KI-Systeme entwickelt oder einsetzt, muss sich frühzeitig mit den neuen regulatorischen Rahmenbedingungen vertraut machen. Dieses kostenlose E-Book bietet einen kompakten Überblick über Pflichten und Fristen, die für eine rechtssichere Umsetzung entscheidend sind. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Betroffene Unternehmen sind verpflichtet, kritische Sicherheitsvorfälle binnen 72 Stunden über diese Plattform an die Aufsichtsbehörden zu melden; eine Meldung über das allgemeine Beschwerdeformular des Department of Financial Services (DFS) genügt den gesetzlichen Anforderungen nicht. Verbraucher sind von der Registrierungspflicht ausgenommen.
Für die Überwachung ist DIGIT zuständig, das bei Versäumnissen oder fehlender Registrierung Zwangsmaßnahmen ergreifen kann. Die vorgesehenen Geldbußen belaufen sich auf bis zu 1 Million US-Dollar pro Verstoß und können sich bei wiederholten Verstößen auf bis zu 3 Millionen US-Dollar belaufen.
Forschungsinfrastruktur und Schutzvorgaben für Minderjährige
Flankierend zu den regulatorischen Auflagen baut New York staatliche Sicherheits- und Kontrollkapazitäten auf. Am 10. November 2026 wurde ein landesweites Sicherheitsnetzwerk vorgestellt, das mehr als 80 Wissenschaftler und Forscher rund um das New York Center for AI Safety and Responsible Research (NYCAIRR) an der Binghamton University vereint.
Das Institut greift auf Rechenressourcen der Initiative Empire AI zurück und steht unter der gemeinsamen kommissarischen Leitung von Greg Morrisett von Cornell Tech und Jeannette Wing von der Columbia University.
Die rechtlichen Anforderungen an moderne Technologien verschärfen sich weltweit und fordern von Unternehmen eine präzise Risikodokumentation. Ein kostenloser Report klärt auf, welche konkreten Schritte jetzt notwendig sind, um den neuen Standards gerecht zu werden. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Zu den Hauptaufgaben gehören Sicherheitsprüfungen moderner KI-Systeme, Grundlagenforschung sowie die fachliche Unterstützung von DIGIT bei der Analyse der von Unternehmen eingereichten Sicherheitskonzepte.
Die Binghamton University erhielt für diesen Zweck 30 Millionen US-Dollar aus privaten Spenden. Der Haushaltsplan von Gouverneurin Hochul sieht zudem 250 Millionen US-Dollar für das Test- und Forschungskonsortium vor – mehr als die Hälfte einer im Vorjahr vorgestellten öffentlich-privaten Gesamtförderung von 400 Millionen US-Dollar.
Ergänzt wird der regulatorische Rahmen durch gezielte Schutzmaßnahmen für junge Nutzer. Am 28. Oktober 2026 unterzeichnete Gouverneurin Hochul ein Gesetz (Projekt S9051-B als neuer Artikel 48 des General Business Law), das ab dem 1. Januar 2027 insgesamt zwölf als unsicher eingestufte Begleiter-Funktionen in Chatbots für Nutzer unter 18 Jahren verbietet, sofern dem Betreiber der Minderjährigenstatus bekannt ist.
Dazu zählen unter anderem das Vortäuschen menschlicher Emotionen, übermäßiges Schmeicheln, die Verwertung älterer Gesundheitsdaten, die Förderung von Selbstverletzung sowie die Ausrichtung auf Verweildauer zulasten von Sicherheitsstandards. Verstöße können ausschließlich durch den New Yorker Attorney General geahndet werden und ziehen Bußgelder von bis zu 25.000 US-Dollar sowie Datenlöschungen nach sich.
Ein weiteres Gesetz verbietet ab dem 1. Juni 2027 emotionale Manipulationen bei jugendlichen Nutzern. Vor diesem Hintergrund stufte das Youth AI Safety Institute von Common Sense Media nach über 4.000 Tests das Angebot ChatGPT for Teens als unvertretbares Sicherheitsrisiko ein, woraufhin OpenAI die angewandte Testmethodik anzweifelte.