Der kalifornische Gouverneur Gavin Newsom hat eine Exekutivverordnung unterzeichnet, die staatliche Stellen dazu anweist, die Umsetzbarkeit einer verpflichtenden Notabschaltung – eines sogenannten Kill-Switch – für hochmoderne Künstliche Intelligenzen zu untersuchen.
Die Anordnung betrifft insbesondere sogenannte Frontier-Modelle, also die fortschrittlichsten KI-Systeme am Markt. Die Verordnung selbst führt die Abschaltvorrichtung noch nicht unmittelbar ein, schafft jedoch die administrative Grundlage für eine strengere Aufsicht und technische Sicherheitsvorkehrungen.
Verschärfte Aufsicht und unabhängige Prüfverfahren
Die Exekutivverordnung sieht vor, dass die Government Operations Agency und das Office of Emergency Services bis zum 16. November 2026 detaillierte Empfehlungen zur KI-Sicherheit vorlegen.
Ziel ist es, Mechanismen zu etablieren, mit denen Frontier-Modelle deaktiviert werden können, sollten diese außer Kontrolle geraten. Dabei wird geprüft, inwieweit die Wirksamkeit solcher Notabschaltungen fortlaufend durch eine unabhängige Verifikationsorganisation bestätigt werden muss.
Zusätzlich untersucht die kalifornische Regierung die Einführung einer Pflicht für KI-Unternehmen, Sicherheitspläne durch unabhängige Dritte erstellen zu lassen. Auch der Einsatz externer Auditoren direkt in den KI-Laboren sowie unangekündigte Vor-Ort-Prüfungen sind Bestandteil der aktuellen Prüfung.
Während die internationale Politik über Notabschaltungen diskutiert, schafft der EU AI Act bereits heute verbindliche Regeln für Unternehmen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Eine Expertengruppe aus weltweit führenden Fachleuten soll hierzu binnen zwei Monaten einen Leitfaden für verschärfte Sicherheitsgesetze in Kalifornien ausarbeiten.
Meldepflichten bei Kontrollverlust
Ein weiterer Schwerpunkt der Verordnung ist die Einführung einer Meldepflicht für Vorfälle, bei denen Entwickler die Kontrolle über ihre Systeme verlieren. Newsom verwies in diesem Zusammenhang auf Sicherheitsvorfälle bei Branchenvertretern wie OpenAI und Anthropic.
Konkret wurde ein Angriff auf Hugging Face durch OpenAI-Agenten im Juli als Beispiel für notwendige Transparenz angeführt. Die Definition dessen, was als kritischer Sicherheitsvorfall gilt, soll im Zuge der neuen Richtlinien aktualisiert werden.
Die Exekutivverordnung dient zudem dazu, die Gesetzgebungsverfahren SB 813 und AB 1405 zu beschleunigen. Der Gouverneur erwägt darüber hinaus eine Sondersitzung des Parlaments, um das Thema KI-Regulierung prioritär zu behandeln. Unterstützung erhält Newsom dabei von Senator Scott Wiener, der die aktuelle Anordnung befürwortet.
Die rechtlichen Anforderungen an den Einsatz von KI-Systemen steigen stetig und stellen Unternehmen vor neue Herausforderungen. Welche Systeme konkret als Hochrisiko gelten und welche Dokumentationspflichten Sie erfüllen müssen, klärt dieser kostenlose Report praxisnah auf. Umsetzungsleitfaden zur KI-Verordnung kostenlos anfordern
Politischer Kontext und industrielle Warnungen
Mit seinem Vorstoß übt Newsom deutliche Kritik an der US-Bundesregierung. Er warf der Regierung unter Donald Trump sowie dem Kongress vor, keine nennenswerte Aufsicht für den KI-Sektor geschaffen zu haben.
Newsom betonte, dass die nationale Ebene ihre Verantwortung zum Schutz der Bürger abgegeben habe, und forderte eine landesweite Übernahme des kalifornischen Governance-Modells für Künstliche Intelligenz.
Während Donald Trump Sicherheitswarnungen im Bereich KI als Verschwörung bezeichnete, warnte Dario Amodei, CEO des KI-Unternehmens Anthropic, in einem Essay ausdrücklich davor, dass Entwickler die Kontrolle über ihre Systeme verlieren könnten.
Die aktuelle Initiative markiert eine Fortsetzung von Newsoms Bemühungen um eine KI-Regulierung, nachdem er im Jahr 2024 noch sein Veto gegen den Gesetzentwurf SB 1047 eingelegt hatte, der bereits Notabschaltungen und externe Audits vorsah.
Im Jahr 2025 unterzeichnete er jedoch das Transparenzgesetz SB 53. Dieses verpflichtet Unternehmen zur Berichterstattung, sobald durch KI-Systeme kritische Schwellenwerte erreicht werden, etwa bei Vorfällen mit mindestens 50 Todesopfern, dem Einsatz von Chemie- oder Biowaffen oder Sachschäden von über 1 Milliarde US-Dollar.
