Eine Staatengruppe hat bei den Vereinten Nationen eine weitreichende Initiative zur internationalen Regulierung von Spitzenmodellen der künstlichen Intelligenz gestartet. Insgesamt 20 Länder sowie die Europäische Kommission unterzeichneten im Rahmen der UN-Generaldebatte eine Erklärung unter dem Titel „Aufruf zur Kontrolle von Frontier-KI-Modellen“.
Das Bündnis fordert verbindliche Prüfregeln sowie die Einrichtung einer weltweiten Aufsichtsbehörde nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEO). Die beiden führenden KI-Nationen USA und China schlossen sich dem Vorstoß jedoch nicht an.
Kernforderungen nach IAEO-Vorbild
Die Initiative wurde von Finnlands Präsident Alexander Stubb und dem norwegischen Premierminister Jonas Gahr Støre angestoßen. Zu den Unterzeichnern zählen neben Deutschland, den Niederlanden, Finnland und Norwegen unter anderem auch Australien, Kanada, Singapur, die Türkei und die Vereinigten Arabischen Emirate.
Das Papier benennt drei zentrale Forderungen für den Umgang mit hochleistungsfähigen KI-Systemen:
– Verpflichtende Tests vor Veröffentlichung: Frontier-Modelle sollen vor ihrem Einsatz zwingend auf Gefahren bezüglich Cyberangriffen, biologischen Waffen sowie Risiken durch autonome Fähigkeiten überprüft werden.
Unabhängige Prüfer müssen hierfür direkten Zugang erhalten.
– Meldepflichten und Sicherheitsstandards: Die Staaten verlangen einheitliche Kriterien sowie verpflichtende grenzüberschreitende Meldungen von Sicherheitsvorfällen im Zusammenhang mit KI.
– Globale Aufsichtsbehörde: Vorgeschlagen wird eine UN-Rahmenkonvention für KI-Sicherheit.
Zudem soll eine neue, IAEO-ähnliche Institution geschaffen werden, die über Verifikationsbefugnisse verfügt, sobald Systeme definierte Risikoschwellen überschreiten.
Singapurs Außenminister Vivian Balakrishnan unterstrich dieses Anliegen am 26. September 2026 vor der UN-Generalversammlung und warb für multilaterale Regeln im Rahmen einer solchen UN-Sicherheitskonvention.
Während die Weltpolitik über globale Kontrollen debattiert, gelten für hiesige Unternehmen bereits konkrete Regeln durch den EU AI Act. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Widerstand aus Washington und Peking
Dass die Initiative schnell völkerrechtliche Bindung entfaltet, gilt angesichts der Vorbehalte der beiden weltgrößten Technologiemächte als unwahrscheinlich. US-Präsident Donald Trump wies Vorstöße für eine globalisierte KI-Kontrolle zurück.
Michael Kratsios, Technologieberater im Weißen Haus, betonte wiederholt, dass multilaterale Dialoge nicht in eine bindende Weltaufsicht münden dürften, da die Vereinigten Staaten ihre technologische Handlungsfreiheit wahren müssten. Washington setzt stattdessen auf das Ende September 2026 vorgestellte „Washington Model“, einen freiwilligen Pakt mit großen US-Entwicklern.
China signalisierte zwar Offenheit für koordinierende Dialogformate innerhalb der Vereinten Nationen, lehnt jedoch Eingriffe in nationale Kernmodelle sowie die Herausgabe sensibler Systemkomponenten an internationale Prüfgremien ab.
Sorge vor Kontrollverlust wächst
Die Forderungen der Staatengruppe spiegeln wachsende Warnungen wider. UN-Generalsekretär António Guterres warnte im September 2026 vor einem Wettlauf nach unten bei Sicherheitsstandards und zählte unregulierte künstliche Intelligenz neben der Klimakrise und globalen Ungleichheiten zu den größten Bedrohungen weltweit.
Wer sich professionell mit dem Einsatz von Algorithmen befasst, muss heute genau wissen, welche Systeme als Hochrisiko eingestuft werden. Dieser kostenlose Report klärt auf, was Unternehmen jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu stehen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Bereits am 23. September 2026 hatten auch Branchenvertreter wie Sam Altman von OpenAI und Dario Amodei von Anthropic vor dem UN-Sicherheitsrat gemeinsame Standards und demokratische Aufsichtsstrukturen für KI angemahnt. Altman erklärte, entscheidende Weichenstellungen dürften nicht allein den Entwicklerlaboren in den USA überlassen bleiben.
Die Vereinten Nationen hatten im Juli 2026 in Genf den ersten globalen Dialog zur KI-Governance abgehalten; ein Folgeformat ist für Mai 2027 in New York angesetzt. Ob der Vorstoß der 22-Parteien-Koalition bis dahin die Basis für verbindliche Verhandlungen liefern kann, hängt maßgeblich von der Kompromissbereitschaft der führenden Tech-Mächte ab.