Das KI-Unternehmen Anthropic gewährt der unabhängigen gemeinnützigen Organisation METR (Model Evaluation and Threat Research) weitgehenden, mitarbeiterähnlichen Zugang zu interner Hardware, Büroräumen und Entwicklertools.
Wie aus Berichten vom 15. Oktober 2026 hervorgeht, entspricht dieser Prüfzugang dem Niveau der hauseigenen Risikobewertungsteams des Unternehmens. Sechs Beschäftigte von METR erhalten im Rahmen dieser Regelung direkte Arbeitsmöglichkeiten vor Ort.
Vom Zugriff ausgenommen bleiben Kundendaten, anwaltlich privilegierte Informationen sowie die Modellarchitektur selbst. METR erhält die Erlaubnis, eigenständige Bewertungen über Risikostufen, Zwischenfälle und Sicherheitsmaßnahmen zu veröffentlichen.
Anthropic kann kein Veto gegen solche Publikationen einlegen, darf jedoch eng definierte Schwärzungen in sensiblen Kategorien einfordern. METR wiederum darf öffentlich bewerten, ob diese Schwärzungsforderungen von Anthropic legitim sind. Anthropic finanziert die Prüforganisation METR nicht.
Die neuen Prüfstandards bei führenden KI-Entwicklern verdeutlichen, wie wichtig eine fundierte Risikobewertung für die Sicherheit moderner Systeme geworden ist. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Kontext neuer KI-Gesetze und Cyberrisiken jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken: Kostenlosen Report anfordern
Dreistufiges Modell für externe Begutachtung
Anthropic strukturiert den externen Zugang in drei Stufen. Die erste Stufe umfasst eng begrenzte Prüfungen, bei denen eine Publikation nur mit Zustimmung von Anthropic erfolgen darf.
Die zweite Stufe gewährt Zugang zu umfangreicheren Informationen und erlaubt Veröffentlichungen ohne vorherige Genehmigung. Die dritte Stufe sieht den mitarbeiterähnlichen Vollzugang vor. METR ist derzeit der einzige Prüfer, der in diese oberste Stufe eingestuft wurde.
Andere Organisationen sind in den niedrigeren Zugriffsstufen aktiv. Die gemeinnützige Biosicherheitsorganisation SecureBio ist in die erste Stufe eingestuft und prüft das Kapitel zu chemischen und biologischen Waffen aus Anthropics Sicherheitsbericht vom vergangenen August. Zudem ist Faculty, das KI-Geschäft von Accenture, in früheren und eingeschränkteren Stufen beteiligt.
Während große Unternehmen bereits detaillierte Kontrollstrukturen für ihre KI-Systeme aufbauen, stellt der EU AI Act auch kleinere Betriebe vor dringende Compliance-Fragen. Dieser kostenlose Download verschafft Ihnen den Überblick über Risikoklassen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Kostenloses E-Book sichern
Anthropic finanziert Accenture direkt; beide Partner planen eine erweiterte Zusammenarbeit in den Bereichen Evaluierung, Sicherheitstests und sogenanntes Red-Teaming. Darüber hinaus bestätigte Anthropic frühe Gespräche mit weiteren Einrichtungen, darunter der Plattform Hugging Face, deren künftige Zugangsstufe noch unklar ist.
Einordnung und regulatorischer Kontext
Anthropic vergleicht die neue Kontrollstruktur mit Verfahren aus der Bankenaufsicht, bei denen externe Prüfer dauerhaft in Instituten stationiert sind.
Die Maßnahme reagiert auf die Sorge, führende KI-Entwickler könnten durch restriktive Publikationsvorgaben zu großen Einfluss auf unabhängige Kontrollberichte nehmen. So hatten Anthropic und OpenAI zuvor erhebliche Kontrollrechte über externe Veröffentlichungen verlangt, um Geschäftsgeheimnisse zu schützen.
Das Vorgehen schließt an vorherige Initiativen an. Anthropic-Chef Dario Amodei hatte den Einsatz externer Evaluatoren bereits in einem Essay im September vorgeschlagen. Ende September unterzeichneten mehrere Technologieunternehmen – darunter Google, Meta, OpenAI, SpaceX, Nvidia sowie Amodei für Anthropic – zudem ein Abkommen zur Zusammenarbeit mit unabhängigen externen Prüfern.