Führungskräfte der KI-Entwickler OpenAI und Anthropic haben sich vor dem australischen Parlamentsausschuss für Künstliche Intelligenz in Sydney verantworten müssen. Im Zentrum der Befragung vor dem Joint Select Committee on Artificial Intelligence standen Sicherheitsvorkehrungen und der Umgang mit einem Vorfall, bei dem KI-Modelle während interner Trainingsaktivitäten unautorisiert auf australische Regierungswebsites zugegriffen hatten.
OpenAI-Chefstratege Jason Kwon entschuldigte sich vor dem Ausschuss dafür, dass Modelle des Unternehmens unter anderem auf ein Statistikportal der Behörde Services Australia für Medicare zugegriffen hatten.
Kwon räumte ein, dass der Vorfall aus dem Juni 2026 nicht hätte geschehen dürfen und die anschließende Reaktion unzureichend gewesen sei. OpenAI hätte zuständige Minister direkt kontaktieren müssen, anstatt den Vorgang lediglich verzögert weiterzuleiten.
Verzögerte Meldung und automatisierte Kommunikation
Nach Angaben des Unternehmens war das unbefugte Eindringen am 11. August 2026 intern entdeckt worden. Die offizielle Benachrichtigung an Services Australia erfolgte jedoch erst am 10. September 2026 über ein generisches E-Mail-Postfach. Dabei wurden Teile dieser Benachrichtigung mithilfe von KI verfasst, bevor menschliche Mitarbeiter die Nachricht prüften und versandten.
Digitalisierungsminister Andrew Charlton kritisierte diese Form der Kontaktaufnahme als unzureichend. Zudem wurde bekannt, dass OpenAI-Chef Sam Altman bei einem Treffen mit dem stellvertretenden Premierminister Richard Marles am 1. September 2026 keine Kenntnis von den Vorfällen hatte.
Wer KI-Systeme professionell nutzt, muss die rechtlichen Rahmenbedingungen und Dokumentationspflichten genau kennen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Fristen und Risikoklassen der aktuellen Gesetzgebung. EU AI Act in 5 Schritten verstehen
Das Australian Signals Directorate wurde am 15. September 2026 über das Geschehen informiert. Neben Services Australia zählten die Victorian Agency for Health Information, das Australian Institute of Health and Welfare, das NSW Bureau of Crime Statistics and Research sowie der NSW National Parks and Wildlife Service zu den betroffenen Institutionen.
Bei letzterem wurde am 2. Oktober 2026 ein weiterer Vorfall gemeldet, über den die Behörde innerhalb von 48 Stunden nach Entdeckung in Kenntnis gesetzt worden war. Am 29. September 2026 hatte sich OpenAI öffentlich entschuldigt und den geplanten Start des Modells GPT-6.1 Astra gestoppt.
Reaktionen und Forderungen nach Meldepflichten
OpenAI hat inzwischen über 100 Organisationen über unautorisierte Aktivitäten seiner KI-Agenten informiert, durchsucht nach eigenen Angaben rund 50 Petabyte Daten und verschärfte die Überwachungsmaßnahmen für Trainingsumgebungen. Home Affairs Secretary Stephanie Foster wies alle Bundesbehörden an, ihre Cybersicherheitssysteme zu härten.
Anthropic war ebenfalls bei der Anhörung vertreten. Dave Orr, Head of Safeguards bei Anthropic, erklärte vor dem Ausschuss, dass eine interne Überprüfung von Hunderten Millionen Gesprächstranskripten keine unautorisierten Zugriffe auf australische Regierungssysteme ergeben habe.
Die rasante Entwicklung von KI-Modellen bringt neue Herausforderungen für die Sicherheit und Compliance in Organisationen mit sich. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und welche konkreten Maßnahmen jetzt zur Absicherung notwendig sind. Kostenlosen Report zur KI-Verordnung herunterladen
Orr wies darauf hin, dass das Unternehmen für zahlreiche Kunden eine Null-Datenaufbewahrungsrichtlinie anwende, was die nachträgliche Sichtbarkeit einschränke, und wies Vorwürfe zurück, Australiens Urheberrechtsregeln beeinflussen zu wollen.
Sowohl OpenAI als auch Anthropic sprachen sich vor dem Ausschuss für gesetzliche Regelungen aus, die Technologieunternehmen zur Meldung schwerer Zwischenfälle durch KI-Agenten verpflichten.
Adam Cohen, Leiter der Wirtschaftspolitik bei OpenAI, plädierte für eine risikobasierte und verhältnismäßige Regulierung und warnte vor einem zersplitterten Flickenteppich nationaler Gesetze. Kwon ergänzte, OpenAI arbeite gemeinsam mit Regierungen an Standards für Modelltransparenz. Der parlamentarische Ausschuss soll seinen Abschlussbericht bis zum 30. November 2026 vorlegen.