Der KI-Konzern Anthropic hat einen Meilenstein erreicht: Seine Modelle verfassen mittlerweile den Großteil der firmeneigenen Software. Das wirft Fragen nach Kontrolle und Sicherheit auf.
Im Mai 2026 stammten mehr als 80 Prozent des produktiven Codes von Anthropic aus der Feder der hauseigenen Claude-KI. Die Folge: Die Code-Produktion pro Entwickler und Quartal stieg im Vergleich zum Zeitraum 2021 bis 2025 um das Achtfache. Ein Tempo, das selbst die Macher beunruhigt.
Während KI-Systeme immer autonomer Software entwickeln, verschärft der Gesetzgeber die Regeln für ihren Einsatz in Unternehmen. Dieser kostenlose Umsetzungsleitfaden zeigt Ihnen die wichtigsten Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Sprunghafte Fortschritte bei Qualität und Komplexität
Die internen Daten des Unternehmens zeigen eine rasante Entwicklung. Claude erreichte im Mai 2026 bei komplexen Aufgaben eine Erfolgsquote von 76 Prozent – ein Anstieg um 50 Prozentpunkte innerhalb eines halben Jahres. Das Modell „Mythos Preview“ erzielt sogar eine 52-fache Code-Optimierung, während menschliche Entwickler im Schnitt nur auf das Vierfache kommen.
Auch die Zeitspanne, die die KI bewältigen kann, hat sich drastisch erhöht. War die Claude-Opus-Version vom März 2024 noch auf Vier-Minuten-Aufgaben beschränkt, arbeitet die aktuelle Version 4.6 nun zwölf Stunden am Stück. Die Mythos Preview schafft sogar über 16 Stunden.
Die Auswirkungen auf die Software-Zuverlässigkeit sind enorm. Im April 2026 lieferte das System über 800 Fehlerbehebungen, die API-Fehlerraten um den Faktor 1.000 senkten. Automatisierte Code-Reviews erkennen inzwischen rund ein Drittel aller Produktionsfehler. Die Qualität des KI-generierten Codes, die 2025 noch hinter menschlicher Arbeit zurücklag, hat Mitte 2026 Gleichstand erreicht. Noch vor Jahresende soll sie menschliche Standards übertreffen.
Warnung vor Kontrollverlust
Trotz der Produktivitätssprünge schlagen die Anthropic-Verantwortlichen Alarm. In einem am 4. Juni veröffentlichten Papier mit dem Titel „Wenn KI sich selbst baut“ warnen sie vor den Risiken der rekursiven Selbstverbesserung – also der Fähigkeit von KI-Systemen, autonom leistungsfähigere Versionen ihrer selbst zu entwickeln.
Die zunehmende Automatisierung durch KI birgt nicht nur Chancen, sondern auch neue rechtliche Risiken und Haftungsfragen für Firmen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und was Sie jetzt konkret tun müssen. Kostenlosen KI-Risiko-Check herunterladen
Anthropic-Mitgründer Jack Clark verglich die Lage der Branche in einem Interview mit der frühen Ölindustrie des 20. Jahrhunderts: „Wir haben einen Gaspedal, aber keine funktionierende Bremse.“ Clark prognostiziert, dass der KI-Anteil am firmeneigenen Code innerhalb von zwei Jahren auf 100 Prozent steigen könnte.
Die Forderung des Unternehmens: Ein koordinierter, überprüfbarer globaler Mechanismus, der die KI-Entwicklung verlangsamen oder pausieren kann, sobald Sicherheitsschwellen überschritten werden.
Branchenweite Sicherheitsinitiativen
Der Vorstoß von Anthropic reiht sich in eine Serie von Sicherheitsinitiativen ein. Am 4. Juni unterzeichnete CEO Dario Amodei gemeinsam mit Führungskräften von OpenAI, Google DeepMind und Microsoft AI einen offenen Brief. Darin fordern sie strengere Kontrollen für Biotechnologien – etwa die Pflicht zur Überprüfung synthetischer DNA- und RNA-Bestellungen.
Das Ausmaß der KI-Durchdringung zeigt sich auch in der gesamten Softwarelandschaft. Auf GitHub, der weltweit größten Entwicklerplattform, werden wöchentlich rund 275 Millionen Code-Änderungen erfasst. Claude Code ist für 4,5 Prozent aller öffentlichen Commits verantwortlich – etwa 2,6 Millionen pro Woche. Anthropic selbst erwirtschaftet inzwischen einen Jahresumsatz von 47 Milliarden Euro.
