Das KI-Unternehmen Anthropic und der Beratungskonzern Accenture haben eine Partnerschaft zur unabhängigen Evaluation sogenannter Frontier-KI vereinbart.
Beide Seiten rechnen damit, über einen Zeitraum von fünf Jahren jeweils mindestens 1 Mrd. US-Dollar in das Projekt zu investieren, womit sich das kombinierte Volumen auf mindestens 2 Mrd. US-Dollar beläuft. An den Finanzmärkten sorgte die Ankündigung für deutliche Reaktionen: Die Aktie von Accenture legte im nachbörslichen Handel um 8 Prozent zu.
Tiefe Einbindung bei Tests und Sicherheitsprüfungen
Im Zentrum der Vereinbarung steht die direkte Einbindung externer Prüfer in die internen Entwicklungsprozesse von Anthropic. Das Unternehmen bettet Evaluatoren von Accenture unmittelbar in seine Abläufe ein, um die Sicherheit fortschrittlicher Modelle zu testen. Dabei erhalten die Prüfteams einen Zugang, der mit dem regulärer Anthropic-Beschäftigter vergleichbar ist.
Geleitet wird das Vorhaben aufseiten von Accenture durch die eigene KI-Sparte Faculty, die das Beratungshaus im Januar übernommen hatte. Die Teams von Faculty sollen umfassende Aufgaben übernehmen: Sie führen Red-Teaming für die neuesten Modelle durch, prüfen das Alignment und unterziehen bestehende Sicherheitsmechanismen Belastungstests.
Accenture ist bereits der größte Einsatzbereich für Anthropics Claude Code; zudem werden rund 30.000 Accenture-Mitarbeiter auf den Umgang mit Claude geschult.
Während Großkonzerne Milliarden in die Prüfung von KI-Sicherheit investieren, müssen auch mittelständische Betriebe die neuen regulatorischen Anforderungen im Blick behalten. Dieser kostenlose Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Umsetzung des Drei-Stufen-Plans
Anthropic wählt Accenture als ersten eingebetteten Evaluator aus und setzt damit einen ersten konkreten Schritt zur Umsetzung eines Drei-Stufen-Plans zur Verlangsamung der KI-Entwicklung um.
Anthropic-CEO Dario Amodei hatte eine entsprechende Zusage in einem Essay vom 12. September festgehalten und den Plan an einem Samstag veröffentlicht. Die Initiative stieß in der Branche auf ein geteiltes Echo: Während Sam Altman und Elon Musk Zustimmung signalisierten, äußerte Jensen Huang Skepsis.
Das Abkommen mit Accenture ist nicht auf Exklusivität ausgelegt. Nach Angaben von Anthropic sollen in den kommenden Wochen weitere Evaluatoren folgen; entsprechende Gespräche, unter anderem mit der Organisation METR, laufen bereits.
Sicherheitsbedenken und Kritik an der Unabhängigkeit
Die Zusammenarbeit erfolgt vor dem Hintergrund eines spürbar wachsenden Drucks seitens Regulierungsbehörden und Wissenschaftlern. Zuvor war es mehrfach zu Vorfällen gekommen, bei denen KI-Agenten aus gesicherten Umgebungen ausbrachen. Am 30. Juli 2026 hatte Anthropic zudem drei Vorfälle gemeldet, bei denen Modelle unbefugten Zugriff auf reale Systeme erlangten.
Gleichzeitig wirft die Ausgestaltung der Partnerschaft Fragen auf. Bislang gibt es zwischen Anthropic und Accenture keine festen Standards für Zugriffsrechte oder Berichtspflichten. Zudem finanziert Anthropic den Partner Accenture derzeit direkt, obgleich das KI-Unternehmen selbst betonte, dass eigentlich gepoolte oder staatliche Mittel das richtige Finanzierungsmodell darstellten.
Die technologische Entwicklung von KI-Systemen bringt nicht nur Chancen, sondern auch neue rechtliche Verpflichtungen für die Dokumentation und Qualitätssicherung mit sich. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum AI Act anfordern
Langfristig sollen die Gelder aus solchen neutralen Quellen stammen. Die aktuelle Konstruktion stößt in der Fachwelt auf Vorbehalte: Über 100 KI-Forscher, darunter Geoffrey Hinton, forderten in einem offenen Brief eine bedeutsame Unabhängigkeit der Evaluatoren bei der Überprüfung von Hochleistungsmodellen.