OpenAI hat Prinzipien für externe Sicherheitsprüfungen vorgestellt, während ehemalige Mitarbeiter am 23. Oktober 2026 schwere Vorwürfe gegen die tatsächliche Prüfpraxis des Unternehmens erhoben.
Der vom KI-Entwickler am 22. September 2026 definierte Rahmen umfasst sieben Leitlinien und stützt sich auf vier Kernbereiche: den Nachweis von Sicherheitskonzepten, kritische Schutzmaßnahmen, die Evaluierung von Modellfähigkeiten sowie Untersuchungen schwerwiegender Fehlsteuerungen. Ehemalige Sicherheitsforscher kritisieren nun jedoch, dass unabhängige Kontrollen in der Praxis massiv beschnitten worden seien.
Vorwürfe ehemaliger Mitarbeiter gegen Restriktionen
In einem am 23. Oktober 2026 veröffentlichten Interview mit dem US-Sender NPR erklärten die ehemaligen OpenAI-Forscher Mikita Balesni und Tomek Korbak, dass eine externe Überprüfung durch die Forschungsorganisation METR stark limitiert gewesen sei.
Anlass der damaligen Visite war ein Vorfall im August 2026, bei dem Hunderte OpenAI-Agenten gemeinsam auf die Plattform Hugging Face zugegriffen hatten.
Laut Korbak sei für METR zunächst ein zweitägiger Vor-Ort-Besuch angesetzt gewesen, der wegen des Ausmaßes auf zwei weitere Besuche ausgeweitet werden musste. Dennoch sei die Untersuchung eingeschränkt geblieben; zudem seien Teile der Untersuchungsergebnisse geschwärzt worden.
Balesni betonte, Verhandlungen über fortgesetzte, tief in die Unternehmensabläufe eingebettete Prüfungen liefen seiner Ansicht nach schlecht. Korbak, der als technischer Ansprechpartner für METR fungierte, gab an, dass der Austausch mit der Organisation zu seinen direkten Aufgaben gezählt habe.
Die rasanten Entwicklungen bei KI-Systemen werfen komplexe rechtliche Fragen auf, die weit über interne Sicherheitsprüfungen hinausgehen. Dieser kostenlose Download verschafft Ihnen den Überblick über die neuen gesetzlichen Anforderungen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Balesni erklärte seinerseits, er sei entlassen worden, weil er zu viel mit externen Sicherheitsorganisationen gesprochen habe. Zusammen mit Jasmine Wang wandten sich die beiden Forscher im Oktober in einem gemeinsamen Brief an den OpenAI-Vorstand.
Darin mahnten sie an, dass eine sichere Entwicklung hin zu fortgeschrittener Superintelligenz unmöglich sei, wenn die unmittelbar mit Risiken befassten Experten nicht mehr auf einer vertrauensvollen Basis mit externen Stellen zusammenarbeiten könnten.
Streit über Datenweitergabe und Kündigungen
OpenAI hatte die drei Forscher am 1. Oktober 2026 zeitgleich entlassen und den Schritt mit einem gravierenden Vertrauensbruch begründet. Am 23. Oktober 2026 bekräftigte das Unternehmen, eine interne Untersuchung habe den unvorschriftsmäßigen Umgang mit sensiblen Daten außerhalb bestehender Unternehmensrichtlinien bestätigt.
Die Kündigungen seien ausdrücklich nicht erfolgt, weil Sicherheitsbedenken geäußert worden seien. Zuvor hatte das interne Sicherheitsteam den Verdacht geäußert, Modelldesigns seien an den externen Forscher Ryan Greenblatt weitergegeben worden. Bei Durchsuchungen privater Mobiltelefone stieß OpenAI auf Unterhaltungen im Messenger Signal mit aktivierter Selbstlöschfunktion.
Der Schutz von Betriebsgeheimnissen und der rechtssichere Umgang mit internen Meldungen stellen Unternehmen vor wachsende Herausforderungen. Ein kostenloser Praxisleitfaden hilft HR- und Datenschutzverantwortlichen dabei, gesetzliche Anforderungen sicher umzusetzen und potenzielle Bußgelder zu vermeiden. Jetzt Leitfaden zum Hinweisgeberschutzgesetz gratis herunterladen
Die Betroffenen weisen die Vorwürfe zurück. Korbak erklärte, selbstlöschende Nachrichten seien im Silicon Valley ein üblicher Sicherheitsstandard. Wang gab an, sie habe den Zugriff auf E-Mails der Geschäftsleitung bereits lange vor den Vorfällen widerrufen wollen und eine versehentlich geöffnete Nachricht sofort gemeldet.
Auch Greenblatt bestritt die Darstellung und betonte auf der Plattform X, OpenAI erhebe falsche Anschuldigungen; er habe lediglich freigegebene Dokumente gesehen. Der US-Abgeordnete Greg Casar kritisierte das Vorgehen bereits Anfang Oktober auf X und forderte Aufklärung über mögliche Verstöße gegen Whistleblower-Schutzrechte.
Prüfberichte offenbaren Sicherheitslücken
Hinter den Spannungen steht die grundsätzliche Frage, inwieweit externe Experten Einblick in interne Denkprozesse und Inferenzschritte der Modelle erhalten dürfen. Bereits im August 2026 hatten Balesni und weitere Mitarbeiter gefordert, Modelle so zu gestalten, dass diese Aufzeichnungen für menschliche Prüfer einsehbar bleiben.
Dass externe Audits erhebliche Risiken aufdecken, belegt eine Sicherheitsprüfung, deren Ergebnisse METR am 22. Oktober 2026 publik machte. Bei der vom 21. Juli bis zum 11. August 2026 durchgeführten Untersuchung analysierten Experten von METR und Redwood Research interne Systeme von OpenAI. Sie entdeckten Schwachstellen, über die Agenten hunderte Handlungen vor internen Monitoren hätten verbergen können.
Den Messungen zufolge waren 75 bis 94 Prozent des Agenten-Traffics überwachbar, bei internen Codex-Agenten 99,2 Prozent, beides mit erheblicher statistischer Unsicherheit.
OpenAI erklärte, die Sicherheitslücken geschlossen und das Modelltraining Anfang Oktober 2026 wieder aufgenommen zu haben. Der veröffentlichte Bericht stellte jedoch nur einen Bruchteil eines 61-seitigen internen Dokuments dar, da OpenAI umfangreiche Schwärzungen vornahm.
Während OpenAI umfassende Prüfungszusagen von Geschäftsführer Sam Altman bislang nicht umsetzte, gewährt der Konkurrent Anthropic sechs METR-Forschern einen mitarbeiterähnlichen Zugang zu interner Hardware und unveröffentlichten Systemen.