Dario Amodei, der CEO des KI-Unternehmens Anthropic, hat sich für eine Ausnahme von den geltenden Kartellrechtsbestimmungen ausgesprochen. Er begründete diesen Vorstoß damit, dass eine engere Koordination und ein intensiverer Austausch über Sicherheitsfragen zwischen den führenden Entwicklern Künstlicher Intelligenz (KI) ermöglicht werden müssten. Damit positioniert sich Anthropic an der Spitze einer Bewegung innerhalb der Branche, die eine stärkere staatliche Aufsicht und eine bewusste Verlangsamung des Entwicklungstempos fordert.
In einem Essay vom 12. September 2026 skizzierte Amodei einen Drei-Stufen-Plan für den künftigen Umgang mit der Technologie. Dieser sieht den Einsatz externer Prüfer, die Etablierung demokratischer und globaler Standards sowie die Definition klarer Grenzen für den KI-Fortschritt vor. Anthropic kündigte in diesem Zusammenhang an, sich selbst für externe Auditoren zu öffnen.
Warnungen vor systemischen Risiken
Hintergrund der Forderungen sind massive Sicherheitsbedenken innerhalb des Unternehmens und der Fachwelt. Amodei warnte davor, dass KI-Agenten bereits in einem Zeitraum von sechs Monaten in der Lage sein könnten, die Infrastruktur des Internets lahmzulegen.
Diese Einschätzung wird von weiteren Experten gestützt: Der Wissenschaftler Hubinger bezifferte das Risiko schwerwiegender Zwischenfälle durch KI im kommenden Jahrzehnt auf über 10 %. Jack Clark von Anthropic bezeichnete den derzeitigen Zustand der unregulierten Branche als ein Spiel mit immensen Risiken.
Die Dringlichkeit der Debatte wurde durch personelle Konsequenzen unterstrichen. Der Forscher Jacob Coxon verließ Anthropic Mitte September 2026 und warnte bei seinem Rücktritt vor existenziellen Bedrohungen durch die Technologie bis zum Ende des laufenden Jahrzehnts.
Wer sich mit den regulatorischen Rahmenbedingungen von KI befasst, benötigt angesichts neuer Sicherheitsvorgaben einen präzisen Überblick. Dieser kostenlose Umsetzungsleitfaden erläutert alle relevanten Pflichten, Risikoklassen und Fristen für Unternehmen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Nvidia und FTC kritisieren Regulierungspläne
Widerspruch gegen den Vorstoß von Anthropic kommt vor allem von Nvidia. CEO Jensen Huang bezeichnete Forderungen nach Kartellrechts-Ausnahmen auf einer Konferenz in San Francisco als völlig unnötig. Er argumentierte, dass Sicherheit ein reines Ingenieursproblem sei, das technologisch gelöst werden müsse.
Huang betonte, dass der Markt bereits über die notwendigen Kräfte verfüge und neue Gesetze oder staatliche Eingriffe nicht erforderlich seien. Die Wahl zwischen Innovationstempo und Sicherheit sei laut dem Nvidia-Chef eine falsche Entscheidungsgrundlage; er lehne koordinierte Verzögerungen in der Forschung ab.
Auch die US-Handelsaufsicht FTC äußerte sich zurückhaltend. Der Vorsitzende Andrew Ferguson erklärte an der Georgetown University, man solle misstrauisch reagieren, wenn etablierte Marktteilnehmer gleichzeitig nach Ausnahmen vom Wettbewerbsrecht und neuen Regulierungen verlangen. Er sehe darin die Gefahr, dass künstliche Markteintrittsbarrieren für Wettbewerber geschaffen werden könnten.
Während die globale Debatte über Sicherheitsstandards anhält, müssen Organisationen bereits heute konkrete Anforderungen an die Dokumentation und Qualitätssicherung erfüllen. Erfahren Sie in diesem Experten-Report, welche KI-Systeme als Hochrisiko eingestuft werden und wie Sie Compliance-Risiken rechtzeitig minimieren. Jetzt kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Kooperationen im Schatten der Gesetzgebung
Trotz der Differenzen gibt es bereits erste Ansätze einer branchenweiten Zusammenarbeit. Ein Sprecher von OpenAI bestätigte, dass Gespräche mit Anthropic und Google über Sicherheitsstandards bereits seit Juli laufen. Damals hatte der Chef von Google DeepMind, Hassabis, die Einrichtung eines US-geführten Standardisierungsgremiums vorgeschlagen.
Sowohl Hassabis als auch OpenAI-Chef Sam Altman unterstützen grundsätzlich Amodeis Forderung nach einer drosselung des Entwicklungstempos. Chris Lehane, Cheflobbyist von OpenAI, betonte jedoch in Washington, dass für solche Gespräche keine formalen Ausnahmen vom Kartellrecht erforderlich seien.
Die politische Debatte nimmt unterdessen an Fahrt auf. Bereits am 23. Juli 2026 wurde mit dem Frontier Act ein entsprechender Gesetzesentwurf eingebracht. International bleiben die Fronten jedoch verhärtet: Während China Mitte September Vorwürfe der Panikmache zurückwies, bezeichnete Donald Trump die Warnungen vor den Gefahren der Künstlichen Intelligenz als Täuschung.
