In einem am 4. Juni veröffentlichten Bericht mit dem Titel „Wenn KI sich selbst baut“ fordert der Entwickler des Sprachmodells Claude eine koordinierte und überprüfbare Entwicklungspause für die leistungsfähigsten KI-Systeme.
Die Kernforderung: Ein gemeinsamer Stopp oder eine deutliche Verlangsamung der Entwicklung – und zwar unter Beteiligung aller großen KI-Labore und Nationen, insbesondere der USA und China. Einseitige Pausen einzelner Unternehmen seien wirkungslos, argumentiert Anthropic. Sie würden lediglich die Führungsrolle an andere Akteure verschieben. Die Branche habe zwar ein „Gaspedal“, aber keine Bremse.
Während Experten über globale Entwicklungspausen diskutieren, gelten für Unternehmen bereits heute strikte Regeln durch den EU AI Act. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
KI schreibt sich selbst – und das immer schneller
Die Warnung ist nicht theoretisch. Anthropic stützt sie auf interne Daten, die eine dramatische Beschleunigung belegen. Bereits im Mai 2026 stammten mehr als 80 Prozent des Codes in der Codebasis des Claude-Modells von der KI selbst. Die Produktivität der Ingenieure hat sich dadurch vervierfacht: Sie liefern heute achtmal mehr Code pro Quartal als zuvor.
Die technischen Benchmarks sprechen eine noch deutlichere Sprache. Die Vorschauversion Claude Mythos Preview zeigte eine 52-fache Verbesserung bei der Optimierung von KI-Trainingsprozessen. Die Zeit, die KI für komplexe Aufgaben benötigt, verdoppelt sich laut Anthropic alle vier Monate – von Minuten im Jahr 2024 auf zwölf Stunden Mitte 2026. Die Sorge: Rekursive Selbstverbesserung könnte bald Jahre technologischen Fortschritts auf wenige Monate komprimieren.
Ein Kontrollsystem wie für Atomwaffen?
Anthropic schwebt ein internationaler Mechanismus vor, ähnlich den Rüstungskontrollverträgen für Atomwaffen. Allerdings räumen die Verantwortlichen ein, dass KI-Trainingsläufe deutlich schwerer zu überwachen und zu verifizieren sind als militärische Anlagen wie Raketensilos.
Die rasante Entwicklung von KI-Systemen stellt nicht nur die Politik, sondern auch die IT-Sicherheit in Unternehmen vor völlig neue Herausforderungen. Erfahren Sie in diesem Gratis-Report, welche rechtlichen Pflichten und neuen Cyberrisiken Unternehmer jetzt kennen müssen, um proaktiv geschützt zu sein. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Das neu gegründete Anthropic Institute will nun formelle Gespräche mit Forschern, Branchenkollegen und Politikern aufnehmen, um überprüfbare Regeln zu entwickeln. Der Vorstoß fällt in eine Zeit regulatorischer Bewegung: In den USA wurde kürzlich eine Executive Order unterzeichnet, die eine 30-tägige Regierungsprüfung für leistungsstarke KI-Modelle vor ihrer Veröffentlichung vorschreibt. Zudem gibt es Signale, dass die US-Regierung eine mögliche KI-Sicherheitskooperation mit China erwägt, um globale Risiken zu adressieren.
Milliardenschweres Wachstum vor dem Börsengang
Die Forderung nach einer Entwicklungspause kommt zu einem Zeitpunkt, an dem Anthropic selbst rasant wächst. Die Bewertung des Unternehmens liegt bei rund 965 Milliarden Euro – die Schwelle zur Billion ist in greifbarer Nähe.
Die finanziellen Kennzahlen untermauern diesen Höhenflug: Die annualisierte Umsatzrate soll bis Ende Juni 2026 50 Milliarden Euro erreichen – ein gewaltiger Sprung von neun Milliarden Euro Ende 2025. In diesem Umfeld hat Anthropic Berichten zufolge einen vertraulichen Börsengang (IPO) angemeldet, nachdem das Unternehmen rund 65 Milliarden Euro an Kapital eingesammelt hat.
Anthropic ist mit seinen Bedenken nicht allein. Bereits im Dezember 2025 veröffentlichte der Branchenrivale OpenAI ähnliche Ergebnisse zu den Risiken rekursiver Selbstverbesserung in fortschrittlichen Modellen. Die Frage, wer die Kontrolle behält, wenn KI sich selbst optimiert, wird damit zur drängendsten der Branche.
