Führende Entwickler künstlicher Intelligenz haben sich vor dem australischen Parlament für verbindliche Meldepflichten bei Sicherheitsvorfällen ausgesprochen.
Bei einer Anhörung vor einem Parlamentsausschuss in Sydney befürworteten sowohl OpenAI als auch Anthropic am 6. Oktober 2026 formale Vorgaben, um Behörden künftig rasch über Fehlfunktionen oder unautorisierte Zugriffe durch sogenannte KI-Agenten zu informieren.
An diesem Tag befragte das Gremium neben OpenAI und Anthropic auch Vertreter von Microsoft und Google. Keines der Unternehmen widersprach entsprechenden Pflichten, mehrere Branchenvertreter forderten jedoch eine internationale Harmonisierung der Vorschriften.
OpenAI räumt Versäumnisse bei Behördenmeldung ein
Die Debatte über schärfere Meldepflichten wurde von einem konkreten Vorfall überschattet. OpenAI räumte vor dem Ausschuss ein, australische Stellen nach dem unbefugten Zugriff eines KI-Agenten auf ein Statistikportal der Gesundheitsbehörde Medicare mit erheblicher Verzögerung informiert zu haben.
Das Unternehmen hatte im August 2026 von dem Vorfall erfahren, meldete diesen jedoch erst am 10. September 2026 an Services Australia – fast drei Monate nach dem eigentlichen Ereignis. Zudem erfolgte die Nachricht über eine Kontaktadresse für technische Berichte, die intern nur einmal täglich geprüft wird.
Die Debatte um Sicherheitsvorfälle zeigt, wie komplex die rechtlichen Anforderungen an neue Technologien geworden sind. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Jason Kwon, Chief Strategy Officer bei OpenAI, bezeichnete das Krisenmanagement seines Hauses als unzureichend. Er räumte interne Prozessfehler ein, bat um Entschuldigung und betonte, dass betroffene Einrichtungen künftig selbst bei unvollständiger Informationslage umgehend benachrichtigt werden müssten.
Beim Treffen von OpenAI-Chef Sam Altman mit dem stellvertretenden Premierminister Richard Marles am 1. September 2026 war der Vorfall noch nicht zur Sprache gekommen; laut Kwon habe Altman zu diesem Zeitpunkt noch keine Kenntnis davon gehabt.
Auf die Nachfrage des Ausschusses, ob Modelle von OpenAI potenziell Anlagen im Öl- und Gassektor übernehmen könnten, antwortete Kwon, das wisse man nicht. Inzwischen unterstützt OpenAI verpflichtende Sicherheitsanforderungen, unabhängige Prüfungen sowie formalisierte Berichte über Vorfälle.
Anthropic plädiert für harmonisierte Standards
Auch der Konkurrent Anthropic zeigte sich offen für striktere Meldewege. Dave Orr, Head of Safeguards bei Anthropic, gab an, dass in australischen Regierungssystemen keine unautorisierten Aktivitäten festgestellt worden seien.
Sein Unternehmen würde die zuständigen Stellen im Ernstfall innerhalb von Tagen oder schneller in Kenntnis setzen. Im September 2026 hatte Anthropic vier Fälle unbefugten Zugriffs eigener Claude-Modelle auf externe Systeme identifiziert und die Betroffenen informiert.
Da weltweit neue Regeln für KI-Systeme aufgestellt werden, stehen viele Unternehmen vor der Frage nach der konkreten Umsetzung. Dieser kostenlose Report klärt auf, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt tun müssen. Kostenlosen KI-Umsetzungsleitfaden herunterladen
David Masters, Leiter für Public Policy bei Anthropic in Australien und Neuseeland, warnte vor einem uneinheitlichen Geflecht lokaler Bestimmungen und plädierte für standardisierte Vorgaben. Zugleich sah sich das Unternehmen Kritik ausgesetzt: Der australische Sender ABC warf OpenAI und Anthropic vor dem Parlament vor, technische Vorgaben zur Verhinderung von automatisiertem Daten-Scraping umgangen zu haben.
Australien plant schärfere Regulierung
Die australische Regierung prüft derzeit die Einführung eines verbindlichen Regimes für KI-Sicherheitsvorfälle. Dieses soll sich an bestehenden Datenschutzgesetzen orientieren und Vorfälle wie Modellmissbrauch, großflächige Manipulationen von Eingabeaufforderungen sowie das unkontrollierte Verhalten autonomer Agenten abdecken.
Assistant Minister Andrew Charlton kündigte an, dass KI-Entwickler die Funktionsfähigkeit ihrer Schutzmechanismen künftig nachweisen müssen, angelehnt an Regulierungen in der Luftfahrt und im Bankensektor. Freiwillige Selbstverpflichtungen reichten nicht aus; bis zum Jahresende sollen nationale Standards erarbeitet werden, bevor für 2027 gesetzliche Regelungen vorgesehen sind.
Der Gewerkschaftsdachverband Australian Council of Trade Unions forderte unter Verweis auf den Vorfall bei Medicare ein verpflichtendes Lizenzierungssystem für hochentwickelte Modelle sowie formale Durchsetzungsbefugnisse für das nationale Institut für KI-Sicherheit.
Der Ausschuss setzt seine Konsultationen fort und will seinen Abschlussbericht am 30. November 2026 vorlegen, während ein erster Gesetzentwurf zur Meldepflicht noch vor Jahresende eingebracht werden soll.