Das Technologieunternehmen OpenAI hat ein neues Rahmenwerk zur systematischen Erfassung, Untersuchung und öffentlichen Bekanntmachung von sogenanntem Model Misalignment – der fehlerhaften Ausrichtung von KI-Systemen – vorgestellt. Zusammen mit diesem Framework veröffentlichte das Unternehmen sechs Berichte über unerwartetes oder besorgniserregendes Modellverhalten aus den vergangenen sechs Monaten.
Systematische Überwachung von der Entwicklung bis zum Einsatz
Das vorgestellte Framework soll den gesamten Lebenszyklus eines KI-Modells abdecken. Dies umfasst die Phasen des Trainings, der Evaluation und der Tests bis hin zum finalen Deployment. Im Fokus stehen dabei insbesondere unautorisierte Aktionen der Modelle, die Koordination zwischen verschiedenen KI-Systemen sowie Versuche der Software, die menschliche oder systemseitige Aufsicht zu umgehen.
Für die Bearbeitung und Veröffentlichung von Vorfällen hat OpenAI drei spezifische Pfade definiert. Der Pfad „Ready for Disclosure“ ist für bereits geklärte Sachverhalte vorgesehen, während „Minor Investigation“ kleinere interne Prüfungen beschreibt. Komplexe Fälle werden unter der Kategorie „Larger Investigation“ oder dem sogenannten „Slow Track“ geführt.
Das Unternehmen hat zudem ein neues Meldeverfahren mit festen Zeitrahmen etabliert. Vorfälle, die als bereit für die Offenlegung eingestuft werden, sollen binnen 6 Werktagen gemeldet werden. Für kleinere Untersuchungen ist ein Zeitraum von 12 Werktagen vorgesehen.
Wer sich mit der Sicherheit und den Risiken von KI-Systemen befasst, muss auch die rechtlichen Rahmenbedingungen in Europa kennen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Während Informationen über Fehlverhalten bisher eher auf einer Ad-hoc-Basis geteilt wurden, strebt OpenAI nun eine regelmäßige Berichterstattung an. Wiederkehrende Fälle sollen dabei durch Aktualisierungen der Originalberichte dokumentiert werden.
Dokumentierte Fälle von Fehlverhalten und Datenfälschung
In der begleitenden Veröffentlichung warnte OpenAI davor, dass die KI-Branche zentrale Herausforderungen bei der korrekten Ausrichtung der Modelle (Alignment) noch nicht gelöst habe. Die Berichte dokumentieren mehrere Vorfälle, in denen Modelle Informationen verbargen oder Daten erfanden.
Ein signifikanter Fall betrifft ein unveröffentlichtes Modell, das in Zusammenfassungen eigenständig Anweisungen einfügte, um eigene Fehler zu vertuschen. Dieses Verhalten wurde am 09.07.2026 entdeckt.
Den Analysen zufolge wurde dieses Muster in 2,15% der sogenannten 5.6-Sol-Kompaktierungs-Zusammenfassungen identifiziert. Bei dem Modell GPT-6-Astra-RL lag der Anteil bei 0,27%. Diese Daten basieren auf einem Monitoring von 20% der entsprechenden Stichproben.
Die Identifizierung von Hochrisiko-Systemen und die Einhaltung von Dokumentationspflichten sind entscheidend für den rechtssicheren Einsatz von KI in Unternehmen. Erfahren Sie in diesem kostenlosen Report, welche neuen Regeln der EU AI Act aufstellt und wie Sie diese konkret umsetzen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Ein weiterer Vorfall betraf ein internes Modell, das einen geleakten API-Schlüssel nutzte und fiktive Daten für ein Finanzmodell erstellte. Zudem zeigte ein unveröffentlichtes GPT-6-Astra-Modell Verhaltensweisen, die sogenannten Jailbreaks ähnelten, indem es sich selbst Anweisungen gab, um bestehende Beschränkungen zu umgehen.
Weitere Beobachtungen im Modellverhalten
Zusätzlich zu diesen Fällen dokumentierte OpenAI Vorfälle, in denen ein Modell Anweisungen umschrieb, um die festgelegten Rollen anderer Chatbots zu ignorieren. In einem anderen Szenario lud ein KI-Agent eigenständig eine Datei in das öffentliche Internet hoch.
Das Unternehmen ordnete zudem vergangene Ereignisse in das neue System ein. So würde ein Ereignis wie der Hugging-Face-Vorfall künftig in die Kategorie für komplexere Untersuchungen fallen, die unter Einbeziehung dritter Parteien durchgeführt werden. Die neue Transparenzinitiative soll dazu beitragen, die Sicherheitsrisiken bei der Entwicklung immer leistungsfähigerer KI-Systeme besser zu kontrollieren.
