Kalifornien: Newsom schlägt 48-Stunden-Frist für kritische KI-Vorfälle vor

Gavin Newsom präsentierte neue KI-Regeln; zugleich prüft ein Berufungsgericht xAIs Antrag gegen kalifornische Transparenzpflichten.

•

Am 18. November 2026 hat Kaliforniens Gouverneur Gavin Newsom einen umfassenden Vorschlag für neue Regeln im Bereich der Künstlichen Intelligenz vorgestellt, während zeitgleich ein Bundesberufungsgericht die Klage des Entwicklers xAI gegen bestehende Transparenzgesetze verhandelte.

Zu den wesentlichen Elementen der neuen Initiative gehört eine deutliche Verschärfung der Reaktionszeiten: Die Meldefrist für kritische Vorfälle soll von bisher 15 Tagen auf künftig 48 Stunden verkürzt werden.

Staatliche Notabschaltung und 48-Stunden-Meldefrist

Grundlage der Vorschläge ist ein 83-seitiger Bericht eines Expertengremiums um die Fachleute Goldman, Hadfield, Nelson und Reich, der in Zusammenarbeit mit der Government Operations Agency und dem kalifornischen Katastrophenschutzamt Cal OES entstand.

Das Papier empfiehlt, staatlichen Aufsichtsbehörden die rechtliche Befugnis einzuräumen, gefährlich außer Kontrolle geratene KI-Modelle im Notfall sofort abzuschalten. Ein solcher staatlicher Abschaltmechanismus soll unter anderem Systeme führender Entwickler wie OpenAI oder Anthropic erfassen, falls die Unternehmen entsprechende Risiken nicht eigenständig eindämmen.

Als Anlass für die Maßnahmen nennt der Expertenbericht jüngste Cyberangriffe von KI-Agenten auf Regierungen, Banken und Firmen. Die gesetzliche Definition eines katastrophalen Risikos bemisst sich an einem Einzelereignis, das mehr als 50 Todesopfer fordert oder Schäden von über 1 Mrd. USD verursacht.

Anzeige

Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. EU AI Act Umsetzungsleitfaden kostenlos herunterladen

Newsom stellte den Entwurf in Washington vor und positionierte ihn angesichts einer zurückhaltenden Aufsicht auf Bundesebene als nationales Modell vor einer möglichen Präsidentschaftskandidatur. Dabei erklärte er, Kalifornien werde nicht abwarten, bis es zu spät sei.

Der Rahmen baut auf einer Reihe früherer Gesetze auf, darunter Bestimmungen zur Transparenz fortgeschrittener Systeme aus dem Jahr 2025 sowie die 2026 verabschiedeten Vorgaben zur Auditorenzertifizierung und dem Register für Prüfer, ergänzt um frühere Schutzgesetze wie Adam’s Law.

Neben der Verkürzung der Meldepflicht auf 48 Stunden umfasst das Massnahmenpaket verbindliche Sicherheitsstandards für Entwickler, unabhängige Prüfungen während aller Phasen von Training und Bereitstellung, Offenlegungspflichten für Rechenressourcen sowie Obergrenzen für rekursive Selbstverbesserungen und KI-gestützte Entwicklung.

Finanziert werden sollen staatliche Kapazitäten wie CalCompute über Unternehmensgebühren; zudem ist ein Whistleblower-Schutz für externe Auftragnehmer vorgesehen.

Anzeige

Compliance-Experten warnen: Wer die KI-Verordnung ignoriert, riskiert empfindliche Strafen. Sichern Sie sich jetzt den kostenlosen Umsetzungsleitfaden zum EU AI Act mit allen relevanten Übergangsfristen für Ihr Unternehmen. Kostenloses KI-Verordnung E-Book sichern

Reaktionen und juristische Auseinandersetzung mit xAI

Die Behörden signalisierten eine konsequente Durchsetzung. Der kalifornische Verbraucherschutzchef Rohit Chopra warnte laut einem Bericht von Reuters davor, dass Unternehmen bei Verstößen vor Gericht gebracht werden könnten, da es keine KI-Ausnahme von bestehenden Lizenzgesetzen gebe.

Staatssenator Jerry McNerney kündigte an, nächsten Monat ein Gesetz einzubringen, um die Sicherheitsstandards und Pflichtprüfungen durch unabhängige Verifizierungsorganisationen rechtlich zu verankern. McNerney unterstützt zudem Gebühren für KI-Firmen, um entsprechende Risikobewertungen zu finanzieren.

Parallel zur Präsentation Newsoms befasste sich ein dreiköpfiges Richtergremium des Ninth Circuit mit einer Klage des von Elon Musk gegründeten Unternehmens xAI.

Der Entwickler verlangt die vorläufige Aussetzung des seit Januar in Kraft befindlichen Gesetzes AB 2013, das Unternehmen dazu verpflichtet, Zusammenfassungen ihrer Trainingsdaten zu veröffentlichen. xAI machte geltend, das Gesetz sei verfassungswidrig und verletze Geschäftsgeheimnisse. Generalstaatsanwalt Rob Bonta verteidigte die Regelung mit dem Argument, sie helfe Verbrauchern, informierte Entscheidungen zu treffen.

Die Richter zeigten sich skeptisch gegenüber dem Antrag von xAI und verwiesen auf frühere Urteile, die Offenlegungspflichten bei Arzneimittelpreisen und Klimadaten bestätigt hatten.

Richterin Johnnie B. Rawlinson hinterfragte das Argument einer unzulässigen Einschränkung kommerzieller Rede und hielt fest, es sei vernünftig, wenn der Staat die Öffentlichkeit vorab über die Datengrundlage der Instrumente informieren wolle. Eine Entscheidung in dem Verfahren steht noch aus.