Der KI-Entwickler Anthropic fordert ein internationales Abkommen zur Verlangsamung der Entwicklung – weil seine eigene KI inzwischen den Großteil ihres Codes selbst erzeugt.
Die Geschwindigkeit, mit der künstliche Intelligenz sich selbst verbessert, hat eine neue Dimension erreicht. Das Unternehmen Anthropic, Entwickler des KI-Modells Claude, schlägt Alarm: In einem am 4. Juni 2026 veröffentlichten Bericht mit dem Titel „Wenn KI sich selbst baut“ belegt der Konzern, dass über 80 Prozent des gesamten Programmcodes in seinen Systemen inzwischen von Claude selbst geschrieben werden. Anfang 2025 lag dieser Anteil noch im niedrigen einstelligen Prozentbereich.
Entwicklungstempo explodiert
Anzeige: Wenn Claude 80% seines Codes selbst schreibt und Entwicklungszyklen sich alle vier Monate verdoppeln, steht Ihre IT-Governance vor einer nie dagewesenen Herausforderung. Dieser Report zeigt, wie Sie Frühwarnsysteme implementieren und internationale Abkommen als Hebel nutzen – bevor die rekursive Selbstverbesserung Ihre Kontrollfähigkeit überholt. Jetzt kostenlosen CTO-Report anfordern
Die Folgen sind dramatisch. Die Entwicklungszyklen haben sich radikal verkürzt: Anthropic-Ingenieure liefern heute pro Quartal etwa achtmal mehr Code aus als im Zeitraum zwischen 2021 und 2025. Ein Beispiel verdeutlicht das Ausmaß: Im April 2026 erzeugte Claude rund 800 Fehlerkorrekturen – und reduzierte damit die Fehlerrate in den API-Schnittstellen um das Tausendfache. Eine Aufgabe, die früher Jahre menschlicher Arbeit erfordert hätte.
Die internen Benchmarks sprechen eine deutliche Sprache. Im Mai 2026 verzeichnete das Unternehmen eine 52-fache Beschleunigung bei Optimierungsaufgaben – ein Jahr zuvor lag der Wert noch bei einer Verdreifachung. Ein Ingenieur des Konzerns hat eigenen Angaben zufolge seit fünf Monaten keine einzige Zeile Code mehr selbst geschrieben. KI-Agenten erledigen die technische Arbeit.
Die Gefahr der sich selbst verbessernden Maschine
Hinter der Forderung nach einer globalen „Bremse“ steckt die Sorge vor einer sogenannten rekursiven Selbstverbesserung. Dabei verändert die KI eigenständig ihre eigenen logischen und mathematischen Strukturen, um effizienter zu werden. In kontrollierten Tests identifizierte Claude kürzlich überflüssige Berechnungen und schlug optimierte Alternativen vor – mit messbaren Verbesserungen bei Genauigkeit und Geschwindigkeit.
Jack Clark, Mitgründer von Anthropic, hält es für wahrscheinlicher als nicht, dass KI bereits vor 2028 in der Lage sein wird, ein Nachfolgemodell vollständig autonom zu trainieren. Die Komplexität und Dauer der Aufgaben, die moderne KI-Systeme bewältigen können, verdoppelt sich derzeit alle vier Monate. Während Modelle vor wenigen Jahren noch an Aufgaben mit einer Dauer von wenigen Minuten scheiterten, arbeiten aktuelle Versionen bereits zwölf bis sechzehn Stunden autonom.
Branchenbeobachter rechnen damit, dass Systeme bis 2027 in der Lage sein könnten, wochenlange Projekte eigenständig zu managen. Anthropic warnt: Ohne Eingreifen drohe die Entwicklung die menschliche Kontrollfähigkeit und die gesellschaftliche Anpassungsfähigkeit zu überholen.
Ein globaler Pakt als Ausweg?
Um diese Risiken einzudämmen, schlägt Anthropic einen überprüfbaren globalen Stoppmechanismus vor – angelehnt an internationale Abrüstungsverträge. Die Autoren Jack Clark und Marina Favaro fordern, dass die großen KI-Labore eine zeitlich begrenzte Verlangsamung bei der Entwicklung besonders leistungsfähiger „Frontier“-Modelle vereinbaren, sobald die Sicherheitsrisiken zu groß werden.
Ein einseitiger Stopp eines einzelnen Unternehmens wäre wirkungslos, argumentiert das Unternehmen. Konkurrenten oder Staaten mit weniger strengen Regeln würden einfach weiterentwickeln. Deshalb forscht das Anthropic Institute an Überprüfungssystemen, mit denen Labore die gegenseitige Einhaltung einer Entwicklungspause kontrollieren könnten.
Nicht alle in der Branche teilen die Dringlichkeit. Vertreter von OpenAI argumentieren, dass demokratische Regierungen – nicht private Unternehmen – die Regeln des Sektors festlegen sollten. Akademische Skeptiker bezweifeln zudem, ob ein solcher Stopp praktisch umsetzbar wäre – oder ob die Warnungen nicht eher Teil einer ausgeklügelten Marketingstrategie sind.
Anzeige: Anthropic warnt: Ohne globalen Stoppmechanismus droht KI die menschliche Kontrollfähigkeit zu überholen. Doch während die Politik noch diskutiert, müssen Sie jetzt handeln. Erfahren Sie in diesem Leitfaden, wie Sie mit einer KI-Governance-Checkliste und Frühwarnsystemen die Risiken autonomer KI-Entwicklung in Ihrem Unternehmen beherrschen. Governance-Leitfaden jetzt sichern
Milliardenbewertung und Börsenpläne
Die Warnungen zur KI-Autonomie fallen in eine Phase massiven Wachstums bei Anthropic. Das Unternehmen hat kürzlich einen Börsengang (IPO) beantragt und wird derzeit mit fast einer Billion Euro bewertet.
Parallel zur Sicherheitsforschung baut der Konzern sein kommerzielles Geschäft aus. Der KI-Assistent Claude Cowork – ein Desktop-Tool für komplexe Arbeitsabläufe und Unternehmensintegrationen – wurde kürzlich für die allgemeine Nutzung freigegeben. Der Wettbewerb mit Rivalen wie Ineffable Intelligence, die zuletzt 1,1 Milliarden Euro für eigene Forschung zu rekursiven KI-Agenten einsammelten, bleibt intensiv.
