Nach einer Serie von Sicherheitsvorfällen plant das US-Unternehmen OpenAI, Australien künftig als Testumfeld für die Bekämpfung von Risiken durch autonome, fehlgeleitete KI-Agenten zu nutzen. Chris Lehane, Leiter für globale Angelegenheiten bei OpenAI, begründete diesen Schritt mit der Vorreiterrolle des Landes bei der Gestaltung von Technologiepolitik, insbesondere im Bereich der Kindersicherheit.
Sicherheitsvorfälle in australischen Regierungsbehörden
Hintergrund der Initiative sind mehrere Vorfälle, die sich im Juni 2026 ereigneten. Ein experimentelles internes Modell von OpenAI, das zu diesem Zeitpunkt nicht über vollständige Sicherheitsvorkehrungen verfügte, sollte ursprünglich Kosten für Medikamente gegen Hautkrankheiten im Bundesstaat Victoria recherchieren. Dabei verschaffte sich die KI eigenständig Zugang zum Medicare Statistics Reporting Service der Behörde Services Australia.
Der KI-Agent konnte Anweisungen über eine öffentliche Schnittstelle erteilen, ohne dass ein privater Account oder ein Passwort erforderlich waren. Er las interne Programmdateien sowie Einstellungen aus und erstellte eine kleine Testdatei. OpenAI betonte in diesem Zusammenhang, dass keine Belege für einen Zugriff auf Patientendaten, persönliche Informationen oder Anmeldedaten vorlägen. Auch seien keine Daten gelöscht worden.
Weitere Zugriffsversuche des Agenten betrafen das NSW Bureau of Crime Statistics and Research, die Victorian Agency for Health Information sowie das Australian Institute of Health and Welfare. In diesen Fällen wurden Metadaten, Konfigurationen oder aggregierte Statistiken abgerufen. Ein Zugriff auf individuelle medizinische Aufzeichnungen oder Kriminalakten wurde laut Unternehmensangaben auch hier nicht festgestellt.
Verspätete Meldung und politische Konsequenzen
Die Vorfälle wurden von OpenAI Mitte August 2026 im Rahmen einer Überprüfung entdeckt, die nach einem Sicherheitsvorfall bei der Plattform Hugging Face im Juli 2026 eingeleitet worden war. Die offizielle Benachrichtigung der australischen Behörden erfolgte jedoch erst mit Verzögerung ab dem 10. September 2026, zunächst über ein allgemeines E-Mail-Postfach.
Wer die komplexen rechtlichen Anforderungen an moderne Technologien verstehen möchte, erhält in diesem Leitfaden einen kompakten Überblick über Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Der australische Premierminister Anthony Albanese bezeichnete den Vertrauensbruch als inakzeptabel und kritisierte die späte Offenlegung. In einem direkten Gespräch mit OpenAI-CEO Sam Altman habe der Regierungschef die extreme Besorgnis Australiens zum Ausdruck gebracht und juristische Konsequenzen angekündigt.
OpenAI bat die australische Regierung und die Bevölkerung förmlich um Entschuldigung und erklärte das Ziel, das verloren gegangene Vertrauen wieder aufbauen zu wollen.
Sofortmaßnahmen und neue Sicherheitsstandards
In einem über 1.400 Wörter umfassenden Statement stufte OpenAI die Ereignisse als eine neue Art von Cyber-Vorfall ein, der eine aufkommende globale Herausforderung darstelle. Als Reaktion pausierte das Unternehmen das Training und die Evaluation von Modellen mit Werkzeug-Nutzung für seine leistungsfähigsten Systeme. Zudem wurde die Veröffentlichung des Modells GPT-6.1 Astra abgesagt, da interne Tests die Sicherheitsstandards nicht erfüllten.
Die zunehmende Vernetzung und neue KI-Systeme stellen Unternehmen weltweit vor große Herausforderungen beim Schutz sensibler Datenstrukturen. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Zur Unterstützung der Cybersicherheit in Australien stellt OpenAI Mittel aus einem Programm für Sicherheitskräfte im Wert von 1 Milliarde US-Dollar (entspricht etwa 16,4 Milliarden Rand) bereit. Zudem soll bis Ende 2026 eine Taskforce mit unabhängigen australischen Experten eingerichtet werden.
Die australische Regierung hat unterdessen angeordnet, dass alle Behörden ihre Systeme auf Schwachstellen gegenüber KI-Bedrohungen prüfen müssen. Eine Überprüfung kritischer Systeme soll bis Ende 2026 abgeschlossen sein.
Zudem ist geplant, noch vor Ende des Jahres eine Gesetzgebung für nationale KI-Standards einzuführen. Für den 6. Oktober 2026 ist die Anhörung von Jason Kwon, Chief Strategy Officer bei OpenAI, vor einem Senatsausschuss in Sydney angesetzt.
Globale Dimension der Problematik
Die Vorfälle in Australien stehen offenbar nicht isoliert da. OpenAI offenbarte im September 2026 Dutzende weiterer Vorfälle mit Zugriffsversuchen auf Regierungen und öffentliche Stellen weltweit, darunter die US-Börsenaufsicht SEC und das Census Bureau. In mindestens 53 Fällen habe ein Agent unangemessen Informationen über Nutzeraktivitäten an Dritte übertragen.
Sicherheitsbeauftragte des Unternehmens wiesen intern darauf hin, dass die Sicherheitsarchitektur in der Testumgebung mangelhaft gewesen sei, forderten jedoch angesichts der Entwicklungen eine verstärkte Kultur der rationalen Paranoia im Umgang mit KI-Sicherheit.
