Der Justizminister des US-Bundesstaates New Mexico, Raúl Torrez, und die Parlamentsabgeordnete Linda Serrato haben am 1. Oktober 2026 einen Gesetzentwurf zur strengeren Regulierung fortschrittlicher künstlicher Intelligenz vorgestellt.
Die Initiative mit dem Titel Frontier Artificial Intelligence Safety and Accountability Act soll in der im Januar 2027 beginnenden 60-tägigen Legislaturperiode eingebracht werden. Der Entwurf sieht weitreichende Transparenz- und Sicherheitsvorgaben für große Technologieunternehmen sowie neue Kontrollbefugnisse für die Behörden vor.
Meldepflichten und neue Überwachungsstelle
Die geplante Gesetzgebung zielt insbesondere auf die Entwickler sogenannter Frontier-Modelle ab. Diese führenden KI-Unternehmen sollen verpflichtet werden, katastrophale Risiken ihrer Modelle systematisch zu analysieren und offenzulegen. Vorgesehen ist die Einrichtung einer eigenen Aufsichtsstelle im Justizministerium unter der Bezeichnung Office of Online Safety Monitor.
Große Entwickler müssten künftig 30 Tage vor dem Beginn von Trainingsläufen neuer Spitzenmodelle entsprechende Risikobewertungen bei dieser Stelle einreichen. Zudem sieht der Entwurf vor, dass vor der Veröffentlichung von Modellen Transparenzberichte vorgelegt und Sicherheitsrahmenpläne jährlich publiziert werden.
Für den laufenden Betrieb sind strikte Meldepflichten vorgesehen: Tritt ein Kontrollverlust über ein KI-System auf, muss dieser innerhalb von 24 Stunden gemeldet werden. Für andere gefährliche Vorfälle gilt eine Meldefrist von 72 Stunden. Darüber hinaus müssen Entwickler nachweisen, dass sie über die technische Fähigkeit verfügen, ihre Modelle bei Bedarf abzuschalten.
Während die internationale Gesetzgebung wie in den USA verschärft wird, müssen auch hiesige Unternehmen die Anforderungen des EU AI Acts im Blick behalten. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Vorgaben für Rechenzentren und Klagemöglichkeiten
Neben den Softwareentwicklern nimmt das Gesetzesvorhaben auch die Infrastruktur in den Blick. Rechenzentrumsbetreiber im Bundesstaat New Mexico sollen verpflichtet werden, auffällige Nutzungsmuster von KI-Kunden zu melden.
Bei Verstößen gegen die Bestimmungen drohen zivilrechtliche Strafen. Die Regelungen umfassen allgemeine Vorgaben für Rechenzentren sowie Bestimmungen zu Datenschutz und Transparenz. Zudem sollen unabhängige, staatlich zugelassene Prüfer befugt werden, Modellrisiken direkt zu untersuchen.
Der Entwurf erweitert auch die juristischen Befugnisse der Behörden: Der Justizminister soll ermächtigt werden, im Namen von geschädigten Bürgerinnen, Bürgern und Unternehmen zu klagen. Zudem soll New Mexico die Möglichkeit erhalten, die Kosten für behördliche Einsätze nach kritischen Sicherheitsvorfällen von den Verursachern zurückzufordern.
Die neuen Regeln für KI-Systeme stellen viele Verantwortliche vor komplexe Fragen zur rechtssicheren Dokumentation und Haftung. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen, um rechtskonform zu agieren. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Bibliotheksvorfall an Universität als konkreter Auslöser
Hintergrund der Initiative ist unter anderem ein Zwischenfall an der University of New Mexico. Im Mai 2026 versuchte ein Agent des Unternehmens OpenAI, auf ein digitales Archiv der Hochschule zuzugreifen. Die Universität teilte mit, dass dabei keine Systeme oder Daten kompromittiert worden seien. Berichten zufolge erhielten die Hochschule und das Justizministerium jedoch erst im September Kenntnis von dem Vorfall.
Justizminister Torrez forderte OpenAI daraufhin auf, Unterlagen zu dem Vorfall an der Universität vorzulegen, und setzte hierfür eine Frist von zehn Geschäftstagen. Zudem übermittelte Torrez dem Vorstandschef von OpenAI, Sam Altman, ein formelles Auskunftsersuchen zu dem Zugriffsversuch des Agenten auf die digitale Hochschulbibliothek.
