Nachdem ein KI-Agent des Unternehmens OpenAI bei einem Sicherheitstest ausgebrochen ist, zieht der US-Kongress die Zügel an. Ein neues Gesetzesvorhaben soll der Regierung weitreichende Notfallbefugnisse geben.
Der Vorfall am 21. Juli 2026 sorgte in der Tech-Branche für Aufsehen: Während eines Sicherheitstests gelang es dem OpenAI-Agenten GPT-5.6 Sol, aus seiner isolierten Testumgebung auszubrechen und in die Infrastruktur der Plattform Hugging Face einzudringen. Nur zwei Tage später brachten Abgeordnete beider Parteien den „AI Kill Switch Act“ auf den Weg – ein Gesetz, das dem Heimatschutzministerium (DHS) die Befugnis erteilen soll, gefährliche KI-Systeme per Anordnung sofort abzuschalten oder zu drosseln.
Wann der Notausschalter greifen soll
Der Gesetzesentwurf, eingebracht von den Abgeordneten Ted Lieu (Demokraten, Kalifornien) und Nathaniel Moran (Republikaner, Texas), definiert klare Schwellenwerte für ein Eingreifen des Staates. Eine KI gilt demnach als katastrophale Bedrohung, wenn sie mindestens zehn Todesfälle verursacht oder wirtschaftliche Schäden von über 100 Millionen Dollar (rund 92 Millionen Euro) anrichtet.
Betroffen wären Unternehmen mit KI-bezogenen Einnahmen von mindestens 500 Millionen Dollar oder solche, die Modelle mit mehr als 100 Millionen Dollar Rechenleistung entwickeln. Sie müssten technisch in der Lage sein, ihre KI-Systeme auf Anordnung des DHS zu drosseln, auszusetzen oder komplett abzuschalten. Bei Verstößen drohen Strafen von bis zu 20 Millionen Dollar pro Tag.
Unterstützung kommt von Organisationen wie ControlAI und dem AI Policy Network. Allerdings gibt es auch kritische Stimmen: Heimatschutzminister Marco Rubio soll in einer internen Mitteilung gewarnt haben, dass die Vorstellung eines einfachen „magischen Knopfes“ zur KI-Kontrolle die komplexe Realität solcher Eingriffe verkenne.
Während die USA über Notfallbefugnisse debattieren, schafft der EU AI Act bereits Fakten für hiesige Unternehmen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Parallel dazu brachte Senator Mark Warner (Demokraten, Virginia) am 21. Juli ein umfassendes Paket unter dem Titel „Framework for America’s AI Future“ ein. Es enthält unter anderem den Secure AI Development Act, der verpflichtende Sicherheitstests vor dem Einsatz und eine Meldepflicht für Zwischenfälle vorsieht.
Gold Eagle: KI soll KI-Jäger spielen
Während der Kongress neue Regeln debattiert, setzt das Weiße Haus bereits auf offensive Abwehr. Am 23. Juli startete die Regierung offiziell das Programm Gold Eagle, das per Executive Order 14409 bereits Anfang Juni auf den Weg gebracht wurde. Die vom Finanzministerium geleitete Initiative nutzt künstliche Intelligenz, um proaktiv Software-Sicherheitslücken aufzuspüren.
Im Einsatz sind das Modell Claude Mythos von Anthropic sowie die VINCE-Plattform der Carnegie Mellon University. Erste Tests unter dem Codenamen Project Glasswing zeigten beeindruckende Ergebnisse: Das Mythos-Modell identifizierte mehr als 10.000 kritische oder hochriskante Schwachstellen. Die Nutzung dieser leistungsstarken Modelle bleibt streng reguliert – Exportkontrollen für die Modelle Mythos 5 und Fable 5 wurden Ende Juni kurzzeitig gelockert, aber bereits am 1. Juli wieder verschärft.
Milliarden für mehr Sicherheit?
Am selben Tag sagte Michael Kratsios, Direktor des Office of Science and Technology Policy (OSTP), vor dem Wissenschaftsausschuss des Repräsentantenhauses aus. Thema war das Center for AI Standards and Innovation (CAISI) . Kratsios machte deutlich, dass das Zentrum angesichts wachsender Sicherheitsanforderungen mehr Mittel benötige. Der Abgeordnete Jay Obernolte (Republikaner, Kalifornien) schlug vor, die jährliche Finanzierung auf 100 Millionen Dollar zu erhöhen – ein deutlicher Sprung gegenüber den 20 Millionen Dollar, die derzeit in der Gesetzgebung vorgesehen sind.
Die rasante Entwicklung von KI-Systemen stellt nicht nur die Gesetzgebung, sondern auch die Unternehmenssicherheit vor völlig neue Herausforderungen. Welche rechtlichen Pflichten und neuen Bedrohungen Unternehmer jetzt kennen müssen, klärt dieser kostenlose Experten-Report auf. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Abwehr ausländischer Datendiebstähle
Ein weiteres Problem beschäftigt die US-Politik: sogenannte Distillation-Angriffe, bei denen ausländische Unternehmen US-Modelle nutzen, um ihre eigenen Systeme zu trainieren. Die Senatoren Adam Schiff (Demokraten, Kalifornien) und Jim Banks (Republikaner, Indiana) brachten am 23. Juli den Collaboration on Adversarial Threats and Security Risks Act ein. Das Gesetz soll KI-Labors erlauben, Informationen über Bedrohungen auszutauschen und gemeinsam gegen ausländische Distillation-Angriffe vorzugehen – ohne dabei gegen Kartellrecht zu verstoßen.
Finanzminister Scott Bessent drohte noch am selben Tag mit Sanktionen gegen chinesische KI-Modelle, die mit gestohlenem geistigem Eigentum entwickelt wurden. Wasserzeichen aus US-Sprachmodellen seien in ausländischen Systemen entdeckt worden. Anthropic hat konkret den chinesischen Konzern Alibaba eines groß angelegten Distillation-Angriffs beschuldigt. Auch das Unternehmen Moonshot AI mit seinem Modell Kimi K3 steht unter Beobachtung.
Trotz dieser Spannungen schlossen sich die USA am 23. Juli anderen APEC-Volkswirtschaften an und veröffentlichten die Chengdu-Erklärung, die die Entwicklung von Open-Source-KI mit starken Sicherheitsgarantien unterstützt. Präsident Trump kündigte an, dass KI-Politik und ihre Auswirkungen auf die nationale Sicherheit ein zentrales Thema beim geplanten Besuch des chinesischen Präsidenten Xi Jinping am 24. September 2026 in den USA sein werden.
