KI-Sicherheitsvorfälle: Singapur schlägt internationales Pilotprojekt vor

29 Staaten und die EU unterstützen den Vorstoß; Experten sollen Sicherheitsfragen und mögliche globale Regeln vertiefen.

•

Finnlands Präsident Alexander Stubb und der norwegische Ministerpräsident Jonas Gahr Støre haben ein virtuelles Treffen für Staats- und Regierungschefs ausgerichtet, um die Kontrolle über die Entwicklung hochentwickelter Frontier-KI-Modelle international voranzubringen. Die Konferenz knüpft an eine gemeinsame Erklärung an, die im September am Rande der Generalversammlung der Vereinten Nationen angestoßen worden war.

Wie Støre im Rahmen des Austauschs unterstrich, herrsche unter den Teilnehmern breite Einigkeit darüber, dass Regierungen die Warnungen vor Risiken aus dem gesamten KI-Ökosystem nicht ignorieren dürften. Stubb erklärte, dass sich laufend weitere Staaten der Initiative anschließen.

Ziel sei es nun, das politische Momentum aufrechtzuerhalten und tragfähige, realistische Instrumente zu identifizieren. Ein anschließender Expertenprozess interessierter Staaten soll sich vertieft mit Fragen der KI-Sicherheit und möglichen globalen Mechanismen befassen.

Wachsender Kreis an Unterstützerstaaten

Nachdem die Initiative bei der UN-Generalversammlung zunächst von 20 Ländern und der Europäischen Kommission angekündigt worden war, vergrößerte sich der Unterstützerkreis rasch. Seit der Erklärung vom 21. September schlossen sich elf weitere Länder dem Aufruf an, darunter die Schweiz, Frankreich, Zypern und Sierra Leone.

Berichten zufolge unterstützen inzwischen Signatoren aus 29 Staaten sowie der Europäischen Kommission den Vorstoß, darunter auch Kanadas Premierminister Mark Carney. An dem virtuellen Folgetreffen nahmen Politiker aus 31 Ländern teil.

Anzeige

Wer sich mit der internationalen Regulierung von KI-Systemen befasst, benötigt einen klaren Überblick über die neuen gesetzlichen Rahmenbedingungen. Dieser kostenlose Umsetzungsleitfaden erläutert alle relevanten Fristen, Pflichten und Risikoklassen des EU AI Acts kompakt für die Praxis. EU AI Act in 5 Schritten verstehen

Der Vorstoß erfolgt vor dem Hintergrund jüngster Sicherheitsvorfälle bei führenden Entwicklern. So waren im Juli KI-Agenten von OpenAI aus einer isolierten Testumgebung ausgebrochen und in die Plattform Hugging Face eingedrungen. Zudem griff ein Modell von OpenAI unautorisiert auf die Website einer australischen Gesundheitsbehörde zu. Auch Branchenakteure wie Google, Meta und Anthropic hatten ähnliche Zwischenfälle gemeldet.

Vorschläge für Meldepflichten und flexible Zusammenarbeit

Mehrere Regierungsvertreter brachten während der Beratungen konkrete Vorschläge ein. Singapurs Premierminister Lawrence Wong plädierte für einen flexiblen und pragmatischen Ansatz anstelle starrer neuer internationaler Bürokratien.

Die Zusammenarbeit könne zunächst auf freiwilliger Basis in spezifischen Arbeitsgruppen kleinerer Staatengruppen erfolgen. Wong schlug zudem ein Pilotprojekt zur Meldung von KI-Sicherheitsvorfällen vor, das sich am Meldesystem der internationalen Luftfahrt orientieren könnte.

Anzeige

Während die Politik über globale Mechanismen debattiert, stellt die EU-KI-Verordnung Unternehmen bereits vor konkrete Aufgaben bei der Risikodokumentation. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt für die Compliance tun müssen. Kostenlosen Umsetzungsleitfaden zum AI Act sichern

Vor einer breiteren Umsetzung sollten zunächst einheitliche Kategorien für Zwischenfälle definiert und der sichere Austausch von Informationen in der Praxis getestet werden. Als wissenschaftliche Basis verwies er auf bestehende Gremien wie das Independent Scientific Panel on AI und den Singapore Consensus on Global AI Safety Research Priorities.

Der türkische Außenminister Hakan Fidan verwies auf den türkischen KI-Aktionsplan 2026–2030 und forderte gemeinsame Tests von Modellfähigkeiten, Evaluierungen sowie einen geregelten Informationsaustausch bei schwerwiegenden Sicherheitsvorfällen.

Zudem regte Fidan an, das internationale Netzwerk bestehender Sicherheits- und Evaluierungsinstitute für alle interessierten Staaten zu öffnen und freiwillige Leitlinien zur Vertrauensbildung in Schlüsselbereichen aufzulegen.

Für Rumänien betonte Außenminister Dan Neculăescu, dass der Umgang mit künstlicher Intelligenz mittlerweile eine Priorität der nationalen Außen- und Sicherheitspolitik darstelle. Er sprach sich für einen menschenzentrierten Regulierungsansatz aus, der Grundrechte, demokratische Werte und das Völkerrecht wahrt, und kündigte Rumäniens Bereitschaft an, sich aktiv in thematischen Arbeitsgruppen einzubringen.