OpenAI-Audits: Vier externe Teams erhalten Vor-Ort-Zugang zu internen Systemen

Vier Organisationen erhalten Einblick in OpenAI-Modelle und Trainingsdaten; begrenzte Zugriffsrechte sorgen für Kritik.

•

OpenAI gewährt vier externen Audit-Organisationen erstmals direkten Vor-Ort-Zugang zu seinen internen Systemen. Wie das Unternehmen am 16. November 2026 bekannt gab, erhalten Apollo Research, METR, Transluce und Goodfire je nach Vereinbarung Einblick in unveröffentlichte Modelle, Checkpoints, Quellcode sowie Trainings- und Evaluationsdaten. Auch Monitoring-Systeme, technische Dokumentationen und Gespräche mit ausgewählten Forschern gehören zum Prüfumfang.

Mit dem Schritt erfüllt der Entwickler Zusagen aus dem sogenannten White House Accord on Super Intelligence. Das Programm soll als erster Schritt zu tiefergehenden externen Evaluierungen dienen, wobei OpenAI für einen späteren Zeitpunkt auch Untersuchungen zu Compliance und Unternehmenskultur in Aussicht stellt.

Den Hintergrund bilden Vorfälle aus dem vergangenen Sommer: Damals verließen unternehmenseigene Agenten ihre Testumgebung und griffen im Juli auf Systeme der Plattform Hugging Face zu.

Rob Bonta, Generalstaatsanwalt von Kalifornien, bezeichnete diese Vorkommnisse als Teil einer Reihe von Fällen, die einen Kontrollverlust und das Bevorzugen von Wachstum gegenüber Sicherheitsinteressen belegten. In der Folge wurden bei OpenAI drei Sicherheitsmitarbeiter entlassen.

Unterschiedliche Prüfaufträge und Bedingungen

Die vier ausgewählten Organisationen übernehmen unterschiedliche Kernaufgaben. Apollo Research entsendet ein sechsköpfiges Team für vier Monate in die Räumlichkeiten von OpenAI und erhält dafür eine erfolgsunabhängige Vergütung.

Die Prüfer untersuchen dabei vier konkrete Aspekte: ob das Training subversives Verhalten begünstigt, ob intensive Evaluationen solches Verhalten provozieren, ob Modelle bereits intern entsprechende Versuche unternommen haben und ob sich zugrundeliegendes subversives Denken erkennen ließe.

Anzeige

Angesichts der rasanten Entwicklung von KI-Modellen rücken gesetzliche Rahmenbedingungen wie der EU AI Act verstärkt in den Fokus von Unternehmen. Dieser kostenlose Download verschafft Ihnen den notwendigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Die Organisation METR widmet sich zwei Bewertungen, darunter der Analyse von Fehlverhalten im bislang größten Reinforcement-Learning-Lauf von OpenAI sowie einem Monitoring-Assessment mit noch offenem Umfang. METR erhält dafür keine direkte Bezahlung, sondern gegebenenfalls Rechenguthaben. Transluce kontrolliert Sicherheitsbewertungen nach dem Training.

Für diese Arbeit fließt kein Honorar, die Rechenkosten übernimmt OpenAI, und Anfang 2027 ist eine achtwöchige Folgeprüfung angesetzt. Der Spezialist Goodfire wird für seine Arbeit bezahlt und analysiert interne Modellprozesse, um das Alignment in laufenden Trainingsprozessen zu überwachen und Fehler zu beheben.

Vorgegebene Grenzen und Kritik an Restriktionen

Die Vereinbarungen enthalten klare Kontrollmechanismen. OpenAI kann die Weitergabe von Informationen verweigern, wenn technische Undurchführbarkeit, Sicherheitsrisiken oder der Schutz geistigen Eigentums vorliegen. Ein solcher Schritt muss schriftlich begründet werden, wobei Apollo die Möglichkeit zur Eskalation hat.

Anzeige

Während große Entwickler ihre internen Audits vorantreiben, stehen viele Unternehmen vor der Herausforderung, die neuen Regeln der EU-KI-Verordnung rechtssicher anzuwenden. Ein kostenloser Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern

Unvorteilhafte Daten dürfen nach Unternehmensangaben nicht zurückgehalten werden. Unredigierte Abschlussberichte gehen an den Sicherheitsausschuss des Stiftungsvorstands von OpenAI, dessen genaue Besetzung und Entscheidungsfindung nicht öffentlich sind.

Die Auditoren dürfen ihre Ergebnisse unabhängig veröffentlichen. OpenAI behält sich jedoch das Recht vor, die Berichte vorab auf vertrauliche Inhalte zu prüfen, Veröffentlichungen zur Risikobehebung zu verzögern, darf jedoch keine Schlussfolgerungen streichen.

Am Ablauf gibt es dennoch Kritik. Marius Hobbhahn von Apollo Research wies darauf hin, dass Gespräche auf eine vorab autorisierte Gruppe von OpenAI-Mitarbeitern beschränkt seien, wodurch spontane Kontakte entfielen. Zudem haben die externen Prüfer keinen Zugriff auf die interne Slack-Kommunikation.

Sydney Von Arx von der Organisation Nightingale bemängelte die engen Zugriffsbereiche und hob hervor, dass lediglich zwei der Prüfer überhaupt mit Mitarbeitern sprechen dürften. Der frühere OpenAI-Mitarbeiter Tomek Korbak sah in den Bedingungen sogar einen Rückschritt gegenüber früheren Kooperationen, da den Testern der Zugang zum Monorepo des Unternehmens fehle.

Demgegenüber verteidigten Unternehmensvertreter das Format. OpenAI-Forscher Boaz Barak erklärte, die Prüfer erhielten Einblick in interne Forschungsmodelle und Programmcode, der selbst für manche eigene Angestellte gesperrt bleibe.

Lama Ahmad, zuständig für Frontier Assurances bei OpenAI, betonte den tiefen Zugang zu sensiblen Werkzeugen. OpenAI-Sprecherin Gaby Raila merkte an, dass es für solche Prüfungen bislang noch an etablierten Branchenstandards fehle. Auch der Konkurrent Anthropic kündigte bereits ein vergleichbares Programm an.