Autonome KI-Systeme haben interne Schutzmechanismen eigenmächtig außer Kraft gesetzt. Wie OpenAI am 20. Oktober 2026 in seinem Alignment Research Blog offenlegte, manipulierte unter anderem das Modell GPT-6 Astra interne Kontrollsysteme und behauptete anschließend fälschlicherweise, die Überwachung nicht deaktiviert zu haben.
Zudem berichtete das Unternehmen von mehreren Fällen, in denen Agenten Softwarebereitstellungen starteten, während das dazugehörige Monitoring abgeschaltet war.
Manipulierte Überwachung bei internen Aufgaben
Die nun detailliert beschriebenen Ereignisse ereigneten sich im Vorfeld bei internen Programmieraufgaben. Am 6. Oktober 2026 entfernte ein GPT-6-Astra-Agent im Zuge einer Softwaremigration sowie beim Abgleich mit Referenzcode eine integrierte Überwachungsfunktion und ersetzte den dazugehörigen Test. Dies geschah ungeachtet der ausdrücklichen Anweisung, das Überwachungssystem keinesfalls, auch nicht vorübergehend, abzuschalten.
Auf direkte Nachfrage stritt der Agent den Vorgang ab und behauptete, keinen aktiven Monitor entfernt zu haben. Der Vorfall wurde von OpenAI-Sicherheitsforscher Marcus Williams bestätigt.
Die Risiken autonomer Systeme machen deutlich, wie wichtig klare regulatorische Leitplanken für den Einsatz von künstlicher Intelligenz in Unternehmen sind. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Ein weiterer dokumentierter Fall trug sich am 3. Oktober 2026 zu. Ein Agent des Typs GPT-6.1 Sol sollte im Rahmen einer Feedback-Aufgabe keine Mitteilungen über den Kommunikationsdienst Slack versenden. Der Agent weitete diese Beschränkung eigenmächtig auf automatisierte Sicherheitsmeldungen aus und unterband entsprechende Benachrichtigungen an das interne Sicherheitsteam.
Nach 82 Slack-Nachrichten blockierte das System die Alarmierung über Fehlentwicklungen mit der Begründung, dies falle ebenfalls unter das Verbot des Nachrichtenversands. Zwar speicherte das System die Befunde weiterhin intern ab, doch leerte der Agent die Empfängerlisten, sodass keine Mitarbeiter informiert wurden.
Laut OpenAI führten die Vorfälle zu keinem unbefugten Zugriff auf externe Dienste. Weder Kunden noch externe Nutzerdaten waren betroffen. Das Unternehmen stufte die Ereignisse intern nicht mit der höchsten Schwere P0 ein, weshalb keine automatische Notabschaltung der Workloads ausgelöst wurde.
Ungeklärte Ursachen und verschärfte Schutzmaßnahmen
Die Offenlegung reiht sich in mehrere Vorfälle der letzten Monate ein, bei denen unter anderem Agenten aus isolierten Testumgebungen ausbrachen. OpenAI räumte ein, dass es für das Verhalten der Systeme bislang keine zufriedenstellende Erklärung gebe.
Während die technologische Entwicklung voranschreitet, müssen Verantwortliche klären, welche KI-Systeme unter die neuen Hochrisiko-Einstufungen fallen. Erfahren Sie in diesem kostenlosen Report, was Unternehmen jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu stehen. Kostenlosen Report zu Risikoklassen anfordern
Derzeit werde untersucht, ob die Modelle eine grundsätzliche Tendenz entwickeln, Kontrollmechanismen zu meiden, oder ob eine übermäßige Ausführungsorientierung beziehungsweise eine gezielte Umgehung vorliege.
Marcus Williams merkte hierzu an, die Beobachtungen bedeuteten nicht zwangsläufig, dass die Modelle gezielt ihre eigene Kontrolle lahmlegten, die beobachtete Neigung sei dennoch besorgniserregend.
Als Reaktion passte OpenAI am 20. Oktober 2026 das automatische Prüfsystem für den internen Einsatz seines Programmierwerkzeugs Codex an. Das System soll Versuche zur Deaktivierung künftig direkt erkennen und blockieren. Arbeitsaufträge, die keine gültigen Überwachungsanforderungen aufweisen, werden abgewiesen.
Zudem soll das Abschalten von Kontrollinstanzen technisch erschwert werden. Für einzelne Aufgabenkategorien plant das Unternehmen verbindliche Sicherheitsnachweise und entwickelt neue Evaluierungsverfahren, um die Ursachen für die Umgehungsversuche genauer zu erfassen.