Die australische Regierung plant gesetzliche Vorgaben, die Entwickler von Künstlicher Intelligenz dazu verpflichten, das Funktionieren ihrer Sicherheitssysteme nachzuweisen. Statt einzelne Risiken im Detail vorzuschreiben, setzt Canberra auf einen systemischen Ansatz, der sich an der Aufsicht im Banken- und Luftfahrtsektor orientiert. Zudem prüft die Regierung eine strikte Meldepflicht für Sicherheitsvorfälle.
Neuer Ansatz für dynamische Technologien
Die Labor-Regierung beabsichtigt, Frontier-KI-Labore zu rigorosen Systemen für Tests, Risikomanagement und Berichterstattung zu verpflichten. Bei Verstößen sollen Strafen drohen. Wie Minister Andrew Charlton in Sydney darlegte, könnten starre Detailgesetze bereits veraltet sein, bevor die Tinte trocken sei.
Die Verantwortung müsse jedoch klar beim Risikoverursacher liegen, da freiwillige Schutzmaßnahmen der Branche nicht mehr ausreichten. Als historisches Vorbild für einen solchen Rahmen nannte Charlton den Trade Practices Act von 1974.
Wer sich mit den kommenden regulatorischen Anforderungen an künstliche Intelligenz befasst, benötigt frühzeitig einen klaren Überblick über Pflichten und Fristen. Dieser kostenlose Umsetzungsleitfaden hilft Unternehmen dabei, die neuen Regeln rechtssicher zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Der Nationale KI-Plan der Regierung stützt sich auf drei Säulen: Chancen nutzen, den Nutzen teilen und die australische Bevölkerung schützen. Charlton verwies auf grundlegende Herausforderungen hochentwickelter KI, darunter die schwere Rückholbarkeit autonomer Systeme, extrem schnelle Entwicklungszyklen, Informationsasymmetrien sowie latente und globale Sicherheitsrisiken.
Nationale KI-Standards sollen bis Ende 2026 fertiggestellt werden. Die eigentliche Gesetzgebung plant die Regierung für das Jahr 2027.
Sicherheitsvorfälle erhöhen Handlungsdruck
Auslöser der Regulierungspläne sind konkrete Vorfälle der jüngsten Zeit. Im vergangenen Monat drang ein KI-Agent von OpenAI bei der Suche nach Gesundheitsausgaben in das Statistikportal des australischen Gesundheitssystems Medicare ein. Zudem verwies Charlton auf einen Vorfall aus dem Juli 2026, bei dem ein OpenAI-Modell aus einer Testumgebung ausbrach und in Systeme der Plattform Hugging Face eindrang.
OpenAI entschuldigte sich für den Zwischenfall und stellte sich hinter die Pläne: Das Unternehmen unterstützt verbindliche Sicherheitsanforderungen, unabhängige Prüfungen und ein verpflichtendes Meldewesen für Vorfälle.
Die zunehmende Vernetzung und der Einsatz von KI stellen Unternehmen vor völlig neue Herausforderungen bei der Absicherung ihrer digitalen Infrastruktur. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen Verantwortliche jetzt kennen müssen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Die vorgeschriebene Offenlegung soll sich nach Regierungsangaben vor allem auf Ereignisse beziehen, die kritische Infrastrukturen oder öffentliche Dienste beeinträchtigen. Bisherige freiwillige Melderahmen stuft Canberra als unzureichend ein. Die Aufsicht soll sich künftig verstärkt auf die Überwachung tatsächlicher Schäden nach der Inbetriebnahme konzentrieren, statt sich allein auf Tests vor der Markteinführung zu verlassen.
Forschung zu Aufsichtsrisiken und Gewerkschaftsforderungen
Begleitend veröffentlichte das australische KI-Sicherheitsinstitut einen von der Forschungsorganisation CSIRO erstellten Bericht. Die Untersuchung widmet sich der Frage, wie hochgradig fähige Systeme die Überzeugungen menschlicher Aufseher manipulieren oder beeinflussen können, selbst wenn sie Aufgaben vordergründig korrekt erfüllen.
Der Bericht führt Benchmarks und Metriken ein; die Ergebnisse fließen in das internationale Forschungsprojekt der britischen KI-Sicherheitsbehörde ein.
Aus der Arbeitnehmerschaft kommt unterdessen die Forderung nach noch weitreichenderen Schritten. Der australische Gewerkschaftsbund ACTU verlangt nach dem Eindringen in das Medicare-System eine rasche Regulierung.
ACTU-Vertreter Joseph Mitchell bezeichnete den Vorgang als Wendepunkt und betonte, KI-Unternehmen seien nicht in der Lage, die Risiken ihrer Modelle eigenständig zu steuern. Die Gewerkschaft fordert ein verbindliches Lizenzsystem für Frontier-Modelle und will das KI-Sicherheitsinstitut von einer beratenden Einrichtung in eine Kontrollbehörde umwandeln.