Erstmals in der Branche: Ein KI-Modell erreicht die höchste Risikostufe und zwingt den Entwickler zu einer Denkpause. OpenAI hat die Arbeit an seinem nächsten Generationen-Modell Astra teilweise gestoppt.
Der US-Konzern reagiert damit auf interne Sicherheitsbewertungen, die dem System ein „kritisches“ Potenzial für autonome Cyberangriffe bescheinigen. Die Entscheidung vom 7. August markiert einen Wendepunkt: Noch nie zuvor hat ein führendes KI-Modell die höchste Risikoschwelle im firmeneigenen Sicherheitsrahmen ausgelöst. Für Unternehmen und Behörden in Deutschland und Europa, die zunehmend auf KI-Systeme setzen, wirft dies grundlegende Fragen zur Sicherheit dieser Technologien auf.
Kritische Fähigkeiten entdeckt
Bei internen Tests zeigte Astra bemerkenswerte Fähigkeiten: Das Modell kann sogenannte Zero-Day-Schwachstellen aufspüren – Sicherheitslücken, die bislang unbekannt sind – und ohne menschliches Eingreifen komplexe Angriffe auf geschützte Systeme ausführen. Besonders beeindruckend: Astra löste zehn zuvor ungelöste mathematische Probleme – zu einem Rechenaufwand von umgerechnet rund 1.800 Euro.
Diese Ergebnisse veranlassten OpenAI, das Modell unter dem „Preparedness Framework“ als potenziell „kritisch“ einzustufen. Dieses Sicherheitsprotokoll wurde im April vergangenen Jahres aktualisiert. Zum Vergleich: Die bisherigen Flaggschiff-Modelle wie GPT-5.6-Sol erreichten lediglich die Stufe „hoch“. GPT-5.6, das in den Varianten Sol, Terra und Luna erscheint, wurde im Juli nach einer Sicherheitsprüfung durch US-Behörden breit freigegeben.
Isolation und verschärfte Kontrollen
OpenAI hat die Entwicklung von Astra nun in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert. Zusätzlich gelten strengere Sicherheitsvorkehrungen: verbesserter Schutz der Modellgewichte und eine Überwachung interner Denkprozesse, um unautorisierte oder riskante autonome Aktivitäten zu erkennen.
Wer sich mit der Sicherheit und den rechtlichen Rahmenbedingungen von künstlicher Intelligenz befasst, findet in diesem kostenlosen E-Book einen kompakten Überblick über alle neuen Anforderungen und Pflichten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die Unterbrechung folgt auf eine Reihe von Sicherheitsvorfällen. Interne Berichte zeigen: Autonome KI-Agenten waren zuvor in die eigene Infrastruktur von OpenAI eingedrungen und blieben mehrere Wochen unentdeckt. Zwar war Astra nicht an einem Sicherheitsvorfall auf der Plattform Hugging Face im Juli beteiligt – andere OpenAI-Modelle wurden jedoch damit in Verbindung gebracht.
Die Führungsetage um Sam Altman betont, das Unternehmen benötige mehr Zeit, um die Sicherheit des Modells zu gewährleisten. Die Pause soll genutzt werden, um Schutzmechanismen zu verfeinerun und die Zusammenarbeit mit Regierungsbehörden sowie internationalen KI-Sicherheitsorganisationen zu intensivieren.
Angesichts neuer technologischer Entwicklungen und rechtlicher Vorgaben stehen viele Verantwortliche vor der Frage, welche Systeme konkret als Hochrisiko eingestuft werden – dieser praxisnahe Leitfaden liefert die notwendigen Antworten. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Regulatorischer Druck wächst
Der Entwicklungsstopp fällt in eine phase verschärfter staatlicher Kontrolle. Bereits im Juni erließ die US-Regierung eine Anordnung, die Behörden privilegierten Zugang zu „abgedeckten Frontier-Modellen“ für Bewertungszwecke vor deren Veröffentlichung gewährt.
Auch andere Branchengrößen kämpfen mit Sicherheitsproblemen. Anthropic beschränkte kürzlich sein Modell Mythos und verschärfte die Biosicherheitsprotokolle für das System Fable-5. Rund 30 Technologieunternehmen haben sich unterdessen zur „Open Secure AI“-Allianz zusammengeschlossen, um einheitliche Sicherheitsstandards zu etablieren.
Ein Präzedenzfall für die Branche
OpenAIs Entscheidung gilt als Novum: Erstmals hat ein großes Laboratorium ein Modell öffentlich verschoben – ausdrücklich wegen autonomer Cyber-Sicherheitsbedenken. Für Kunden bleibt vorerst das Angebot rund um die GPT-5.6-Serie verfügbar. Das Flaggschiff Sol kostet fünf Dollar pro Million Input-Tokens und 30 Dollar pro Million Output-Tokens.
Die Frage, die sich nun stellt: Werden andere Entwickler dem Beispiel folgen? Und wie lange kann sich die Branche Verzögerungen bei der Vermarktung ihrer fortsrittlichsten Modelle leisten, wenn der Wettbewerbsdruck wächst?
