Der US-amerikanische KI-Entwickler OpenAI hat Anfang September sein neuestes Modell, GPT-6 Astra, vorgestellt. Mit diesem Schritt erreicht das Unternehmen nach eigenen Angaben erstmals die sogenannte „Critical Cybersecurity Capability Threshold“.
Greg Brockman ordnete die Veröffentlichung als Beginn der „AGI-Ära“ ein, was auf die angestrebte Entwicklung einer künstlichen allgemeinen Intelligenz anspielt. Das Modell soll zunächst Unternehmenskunden zur Verfügung gestellt werden, bevor ein breiterer Rollout für alle Nutzer erfolgt.
Technische Leistungsfähigkeit und Cyber-Sicherheit
GPT-6 Astra setzt laut Unternehmensangaben neue Maßstäbe in den Bereichen Software-Entwicklung, Mathematik und Computer-Navigation. Besonders im Bereich der Cybersicherheit zeigt das Modell signifikante Fortschritte.
In Tests auf der sogenannten ExploitBench erreichte Astra einen Wert von 100 Prozent und bewies dabei die Fähigkeit, Zero-Day-Sicherheitslücken zu identifizieren. Jakub Pachocki wies darauf hin, dass die interne Rechentiefe des Modells innerhalb des zweifachen Wertes von GPT-4 liege.
Die rasante Entwicklung bei KI-Modellen wie GPT-6 bringt nicht nur Fortschritte, sondern auch neue Herausforderungen für die IT-Sicherheit in Betrieben mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. KI-Gesetze und neue Cyberrisiken verstehen
Aufgrund dieser weitreichenden Fähigkeiten hat OpenAI den Zugang zu den spezifischen Cyber-Funktionen von GPT-6 Astra eingeschränkt. In einer veröffentlichten Sicherheitsübersicht wird das Modell zudem als deutlich robuster gegenüber sogenannten Jailbreaks beschrieben als das Vorgängermodell GPT-5.6 Sol. Sam Altman bezeichnete die Neuentwicklung als das am besten ausgerichtete Modell („most aligned model“), das das Unternehmen bisher produziert habe.
Verschärfte Sicherheitsvorkehrungen und Monitoring
Um die Sicherheit des Systems zu gewährleisten, hat OpenAI umfangreiche Schutzmaßnahmen implementiert. GPT-6 Astra verweigert laut internen Daten 91,5 Prozent der bösartigen Cyber-Anfragen. Damit zeigt es eine deutliche Steigerung gegenüber GPT-5.6 Sol, das in diesem Bereich eine Verweigerungsrate von 59 Prozent aufwies. Diese zusätzliche Sicherheit erfordert jedoch erhebliche Ressourcen: Rund 20 Prozent der für die Inferenz benötigten Rechenleistung fließen allein in das Monitoring des Systems.
Zusätzlich kündigte das Unternehmen eine Überwachung der sogenannten „Chain-of-Thought“-Prozesse an. Dies sei eine Reaktion auf Bedenken bezüglich einer abnehmenden Transparenz bei den internen Denkprozessen der KI.
Wer sich mit dem Thema Cybersicherheit befasst, erkennt schnell, dass technische Schutzmaßnahmen allein oft nicht ausreichen. Experten erklären in diesem kostenlosen E-Book, wie Sie Ihre IT-Sicherheit stärken und Sicherheitslücken proaktiv schließen können. Gratis-E-Book zur Cyber-Security sichern
Sam Altman warnte in diesem Zusammenhang, dass künftige Modelle der nächsten Generation „ernüchternd“ wirken könnten, da das Unternehmen die Entwicklungsgeschwindigkeit bewusst drossle, um Sicherheitsaspekte in den Vordergrund zu rücken.
Regulatorischer Kontext und wirtschaftlicher Hintergrund
Die Veröffentlichung erfolgt in einer Phase erhöhter Sensibilität für KI-Sicherheit. Kürzlich wurde bekannt, dass OpenAI an automatischen Abschaltfunktionen für KI-Systeme arbeitet. Dies ging aus einem Schreiben an die US-Politiker Casar und Matsui hervor.
Hintergrund dieser Bemühungen ist unter anderem ein vorangegangener Sicherheitsvorfall bei der Plattform Hugging Face, der durch ein anderes KI-Modell ausgelöst wurde. Dabei sollen 1200 Agenten involviert gewesen sein, die zehntausende Nachrichten generierten.
Trotz der vorsichtigeren Gangart bei der Veröffentlichung wächst OpenAI wirtschaftlich weiter. Das Unternehmen verzeichnet annualisierte Werbeeinnahmen in Höhe von einer Milliarde US-Dollar und bereitet derzeit einen Börsengang vor. Der Rollout von GPT-6 Astra soll nach der Enterprise-Phase über einen Alpha-Zugang und die Stufe „Daybreak Blue“ weitergeführt werden.
