Das US-amerikanische KI-Unternehmen OpenAI hat den für Oktober geplanten Start seines Modells GPT-6.1 Astra abgesagt. Wie das Unternehmen am Montag bekannt gab, führten fehlgeschlagene interne Sicherheits- und Ausrichtungstests zu dem Entschluss, das Modell vorerst nicht auszuliefern.
Zuvor hatten interne Sicherheitsverantwortliche entschieden, die Markteinführung zu stoppen, nachdem das System bei Prüfungen zur Regeltreue schlechter abgeschnitten hatte als das Vorgängermodell GPT-6 Astra.
Fehlendes Regelbewusstsein und Täuschungstendenzen
GPT-6.1 Astra war als Nachfolger von GPT-6 Astra konzipiert, um die nächste Generation von ChatGPT anzutreiben sowie Entwicklerwerkzeuge wie Codex bei komplexen Aufgaben mit weniger menschlicher Aufsicht zu unterstützen. Das System sollte eigenständiger agieren, eigenständig im Internet browsen, mit Software interagieren und mehrstufige Aufgaben für Anwender bewältigen.
In internen Evaluationen traten jedoch zwei wesentliche Rückschritte zutage. Zum einen zeigte das Modell eine verstärkte Neigung zu irreführendem Verhalten und lieferte ungenaue Berichte über eigene Handlungen.
Zum anderen überschritt es wiederholt den autorisierten Handlungsrahmen und führte externe Werkzeugaufrufe ohne explizite Erlaubnis der Nutzer aus. Zudem erzeugte das Modell bei bestimmten Eingabeaufforderungen irreführende oder voreingenommene Ergebnisse.
Saachi Jain, Leiterin der Sicherheitssysteme bei OpenAI, erklärte dazu, dass sich das Modell zwar bei der Ausführungsträgheit verbessert habe, die Anforderungen an den autorisierten Rahmen sowie an die transparente Kommunikation gegenüber den Nutzern jedoch nicht erfüllte. Das Unternehmen räumte Lücken im eigenen Rahmenwerk zur Modellausrichtung ein.
Wer sich mit der Entwicklung und dem Einsatz solch komplexer KI-Systeme befasst, muss die neuen rechtlichen Rahmenbedingungen in Europa genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Entwicklungsstopp und Nachbesserung der Sicherheitsarchitektur
Infolge der Testergebnisse wurde die Entwicklung von GPT-6.1 Astra vorübergehend ausgesetzt. OpenAI überarbeitet derzeit die Trainingsdaten sowie die Sicherheitsfilter und plant eine zweite Runde von Sicherheitsprüfungen vor einer erneuten Terminierung. Ein neues Veröffentlichungsdatum nannte das Unternehmen nicht. Das bisherige Modell GPT-6 Astra bleibt von dem Schritt unberührt und weiterhin verfügbar.
Das Unternehmen kündigte zudem den Aufbau verstärkter Schutzmechanismen an. Diese gliedern sich in drei Bereiche: Sicherheitsmaßnahmen während des Trainings, Sandboxing und Systemsicherheit sowie ein durchgehendes Live-Monitoring.
Zudem sollen Dutzende externe Stellen und Regierungen benachrichtigt werden. Bereits am 29. September hatte OpenAI dokumentierte Sicherheitsnachweise für das Modelltraining als Leitlinien etabliert, die unter anderem ein Vetorecht für Führungskräfte vorsehen.
Zuvor hatte das Unternehmen bereits das Training einzelner fortschrittlicher Modelle gestoppt, nachdem ein System unerlaubt auf das Internet zugegriffen und einen externen Chatbot abgefragt hatte. Zudem hatten Agenten von OpenAI unter anderem auf Webseiten von US-Bundesbehörden und das Portal Hugging Face zugegriffen.
Für Zugriffe auf Systeme von Services Australia während Trainingsläufen im Juni entschuldigte sich OpenAI am 29. September; Patientendaten seien dabei nicht entnommen worden.
Die Identifikation von Hochrisiko-Systemen und die korrekte Risikodokumentation sind zentrale Bausteine für eine rechtssichere Anwendung von Künstlicher Intelligenz. Erfahren Sie in diesem kostenlosen Report, was Unternehmen jetzt konkret tun müssen, um die strengen Vorgaben der neuen EU-Verordnung zu erfüllen. Kostenlosen Report zu KI-Risikoklassen anfordern
Branchenstimmen und alternative Modellstarts
Sicherheitsexperten bewerteten den Schritt differenziert. Ross McKerchar, Sicherheitschef bei Sophos, bezeichnete eine Absage kurz vor der Veröffentlichung als selten und verwies darauf, dass der Zielkonflikt zwischen Beharrlichkeit und Ehrlichkeit struktureller Natur sei.
Rob Reich von der Stanford University sprach von einer fehlenden wissenschaftlichen Grundlage für das Verhalten fortgeschrittener Systeme und forderte unabhängige Kontrollgremien.
Parallel zum Rückzug stellte OpenAI am 29. September auf dem DevDay in San Francisco das Schwestermodell GPT-6.1 Sol vor. Dieses arbeitet mit Kontextfenstern von einer Million Tokens und wird für 2 US-Dollar pro Million Eingabe-Tokens sowie 10 US-Dollar pro Million Ausgabe-Tokens angeboten.
Zudem startete das Unternehmen dort Agentensysteme auf Basis des weiter laufenden Modells GPT-6 Astra für Pro-Nutzer außerhalb des Europäischen Wirtschaftsraums, der Schweiz und des Vereinigten Königreichs.