Das US-Handelsministerium hat am Freitag eine beispiellose Verfügung erlassen: Der KI-Konzern Anthropic muss zwei seiner leistungsstärksten Modelle weltweit abschalten. Der Schritt markiert eine Zäsur in der Regulierung Künstlicher Intelligenz.
Erstmals hat die US-Regierung die Abschaltung konkreter kommerzieller KI-Systeme angeordnet. Betroffen sind die Modelle Claude Fable 5 und Mythos 5 des Google- und Amazon-Backed-Unternehmens Anthropic. Die Verfügung trat am Freitag um 23:21 Uhr MEZ in Kraft.
Während die US-Regierung bei Hochleistungs-KI hart durchgreift, gelten auch in Europa seit August 2024 strikte Regeln für Unternehmen. Dieser kostenlose Leitfaden hilft Ihnen, die Anforderungen des EU AI Acts an Risikoklassen und Dokumentation rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Sicherheitsbedenken und „Jailbreak“-Vorwürfe
Die US-Regierung begründet den Schritt mit nationalen Sicherheitsrisiken. Ziel sei es, ausländische Staatsbürger vom Zugriff auf hochleistungsfähige KI-Fähigkeiten auszuschließen. Auslöser waren Berichte über eine mögliche Umgehung der Sicherheitsprotokolle – ein sogenannter Jailbreak.
Anthropic selbst bestritt die Schwere der Vorwürfe. Das Unternehmen erklärte, die identifizierte Sicherheitslücke sei eng begrenzt gewesen und habe keinen universellen Systemumgehungsweg dargestellt. Zwar behauptete ein Forscher namens Pliny the Liberator, die Schutzmechanismen erfolgreich überwunden zu haben, doch Anthropic betonte, dass die Sicherheitsfilter für die überwältigende Mehrheit der Anwendungsfälle robust geblieben seien.
Trotz der Einwände beugte sich das Unternehmen der Anordnung. Berichten zufolge half Amazon AWS bei der technischen Umsetzung der Dienstabschaltung. Während Fable 5 und Mythos 5 nicht mehr zugänglich sind, bleiben andere Anthropic-Modelle wie Claude Opus 4.8 weiterhin in Betrieb.
Die abgeschalteten Modelle: Hochleistung unter besonderer Beobachtung
Die Abschaltung erfolgte nur wenige Tage nach der öffentlichen Veröffentlichung von Fable 5 am 9. Juni 2026. Mythos 5, das bislang leistungsstärkste Modell des Unternehmens, befand sich seit Monaten in der Entwicklung – eine Vorschauversion war bereits im April 2026 vorgestellt worden.
Mythos 5 hatte beeindruckende Fähigkeiten bei der Identifizierung von Cybersicherheitslücken in allen gängigen Betriebssystemen und Legacy-Software gezeigt. Um diese Risiken zu managen, hatte Anthropic den Zugang zu dem Modell bereits zuvor über Project Glasswing eingeschränkt, eine Kooperation mit rund zwölf Technologieunternehmen, darunter Apple, Microsoft und Google.
Die Abschaltung von Mythos 5 unterstreicht die massiven Gefahren durch automatisierte Schwachstellen-Analysen. Wie Sie Ihr Unternehmen proaktiv vor modernen Cyberrisiken und KI-gestützten Angriffen schützen, erfahren Sie in diesem kostenlosen E-Book für IT-Verantwortliche. IT-Sicherheit stärken ohne teure Investitionen: So schützen clevere Unternehmer ihre Firma vor Cyberangriffen
Das britische KI-Sicherheitsinstitut (AISI) hatte bereits früher festgestellt, dass das Modell ein hohes Risiko für Systeme mit schwachem Schutz darstelle. Anthropic gab an, vor dem Eingreifen der Regierung mehr als 1.000 Stunden Red-Teaming – also gezielte Sicherheitstests – durchgeführt zu haben.
Regulatorischer Kontext: Verschärfte Gangart der US-Regierung
Die Durchsetzungsmaßnahme signalisiert eine deutliche Verschärfung der KI-Aufsicht durch die US-Regierung. Bereits am 2. Juni 2026 hatte die Administration eine Executive Order zur KI-Sicherheit erlassen, die einen 30-tägigen freiwilligen Vorab-Prüfprozess für Frontier-Modelle und die Einrichtung einer Cybersicherheits-Zentrale vorsah. Die Verfügung vom Freitag geht jedoch deutlich weiter: Sie nutzt Exportkontrollen als scharfes Schwert zur Regulierung der Branche.
Das Pentagon unterstützte die Abschaltung offenbar. Dies spiegelt wachsende Bedenken von Finanzaufsichtsbehörden und Zentralbanken hinsichtlich der systemischen Risiken wider, die von fortgeschrittener KI ausgehen.
Anthropic kritisierte die Maßnahme als unverhältnismäßig und warnte, dass solche Eingriffe zu einem Stillstand der Innovationskraft in der Branche führen könnten.
Brisanter Zeitpunkt: IPO-Pläne in Gefahr?
Das Eingreifen der Regierung kommt zu einem denkbar ungünstigen Zeitpunkt für Anthropic. Das Unternehmen bereitet sich auf einen Börsengang (IPO) vor. Der plötzliche Entzug seiner Flaggschiff-Produkte wirft bei Analysten nun grundlegende Fragen auf: Wie wird die Zukunft der KI-Regulierung aussehen? Und wie viel operative Autonomie bleibt Entwicklern von Hochleistungs-KI überhaupt noch?
Die Antworten darauf dürften nicht nur für Anthropic, sondern für die gesamte Branche richtungsweisend sein.
