Vertreter des KI-Unternehmens Anthropic haben US-Abgeordneten auf dem Capitol Hill einen eigenen Gesetzentwurf zur Regulierung hochmoderner KI-Systeme vorgelegt. Wie Medien unter Berufung auf Eingeweihte, Dokumente und das Unternehmen berichteten, zielt der Vorstoß darauf ab, die bislang fehlende Gesetzgebung auf US-Bundesebene zu Sicherheits- und Schutzstandards bei sogenannten Frontier-Modellen zu schließen.
Hohe Hürden für staatliche Eingriffe
Der von Anthropic in Umlauf gebrachte Vorschlag sieht vor, dass die US-Regierung die Veröffentlichung oder den Einsatz eines Modells nur unter streng definierten Bedingungen stoppen darf.
Voraussetzung wäre ein vorhersehbares und unmittelbares Schadensrisiko von mehr als 1 Mrd. US-Dollar oder die Gefahr des Todes beziehungsweise schwerer Verletzungen von mehr als 50 Personen. Zudem müsste diese Bedrohung direkt auf biologische Waffen, Cyberangriffe oder die gezielte Umgehung entwicklerseitiger Sicherheitskontrollen zurückzuführen sein.
Auch die juristische Durchsetzung bindet der Entwurf an hohe Hürden. Ein behördlicher Alleingang ist ausgeschlossen: Eine Aussetzung des Betriebs oder der Freigabe darf demnach ausschließlich ein Richter am zuständigen Bundesbezirksgericht in Washington anordnen. Andere Regierungsstellen hätten keine direkte Befugnis für einen solchen Schritt.
Während in den USA noch über bundesweite Standards debattiert wird, schafft die EU mit dem AI Act bereits klare Fakten für den rechtssicheren Einsatz von Künstlicher Intelligenz. Dieser kostenlose Umsetzungsleitfaden bietet Unternehmen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen
Unabhängige Prüfer und Meldepflichten
Für die Überwachung schlägt das Papier periodische Prüfungen vor. Unabhängige Gutachter, die beim US-Handelsministerium registriert sein müssen, sollen die Labore und deren fortschrittlichste Modelle kontrollieren. Eine Bezahlung dieser Prüfer durch die KI-Unternehmen selbst sei zulässig, dürfe jedoch nicht an bestimmte Prüfergebnisse gekoppelt werden.
Stellen die Gutachter ein entsprechendes Risiko fest, muss innerhalb von 72 Stunden nach Abschluss der Prüfung eine Meldung an das Handelsministerium erfolgen. Dieses könnte daraufhin eine gerichtliche Anordnung zur Aussetzung der Modellnutzung beantragen.
Ein Unternehmenssprecher betonte, der Entwurf gebe der Bundesregierung Instrumente an die Hand, um gefährliche Systeme abzuschrecken oder zu unterbinden. Entwickler müssten ihre stärksten Modelle testen, Ergebnisse transparent machen und ein robustes Sicherheitsprogramm unterhalten.
Debatte um bundesweite Standards
Der Vorstoß greift wesentliche Punkte aus Anthropics eigenem Rahmenwerk für fortgeschrittene KI auf, für das das Unternehmen seit Juni auf Bundes- und Staatsebene wirbt. Am 17. Oktober 2026 bekräftigte Anthropic, der US-Kongress müsse nun handeln.
Die Vorlage sieht vor, dass die Bundesregelung bestehende Gesetze einzelner US-Bundesstaaten, etwa in Kalifornien, überstimmen würde. Im Juni hatte das Unternehmen noch die Auffassung vertreten, den Bundesstaaten sollten ohne starkes Bundesgesetz die vollen Befugnisse verbleiben.
Fachleute bewerten die Initiative unterschiedlich. Charlie Bullock vom Institute for Law & AI bezeichnete den Vorschlag zwar als vernünftig, stufte ihn jedoch als schwächer ein im Vergleich zum konkurrierenden FRONTIER Act, der im Sommer im Repräsentantenhaus eingebracht worden war.
Die Identifizierung von Hochrisiko-Systemen ist ein zentraler Baustein moderner KI-Regulierung, um rechtliche Konsequenzen und Sicherheitsrisiken zu vermeiden. Erfahren Sie in diesem kostenlosen Report, welche konkreten Dokumentationspflichten Unternehmen jetzt erfüllen müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Bislang stützt sich die US-Politik unter Präsident Trump im Bereich der künstlichen Intelligenz vor allem auf präsidentielle Dekrete und freiwillige Absichtserklärungen der Industrie, während der Gesetzgeber noch kein Bundesgesetz verabschiedet hat.
Anthropic selbst stand in den vergangenen Monaten unter Druck: Das Unternehmen war im Februar vorübergehend vom Pentagon ausgeschlossen worden und sah sich im Juni mit einer fast dreiwöchigen behördlich verordneten Zwangspause für seine fortschrittlichsten Modelle konfrontiert. CEO Dario Amodei hatte nach Sicherheitsvorfällen in diesem Jahr wiederholt stärkere Leitplanken und ein langsameres Entwicklungstempo angemahnt.