Die Europäische Kommission und 20 Staaten fordern in einer gemeinsamen Erklärung weitreichende Sicherheitsmaßnahmen für besonders leistungsfähige Künstliche Intelligenz. Der Vorstoß zielt vor allem auf sogenannte Frontier-KI ab und verlangt verbindliche Tests vor der Bereitstellung, Begutachtungen durch unabhängige Fachleute sowie koordinierte Sicherheitsstandards.
Zudem sprechen sich die Unterzeichner für einen systematischen Informationsaustausch bei schwerwiegenden Sicherheitsvorfällen aus, wie aus einem Bericht vom 22. September 2026 hervorgeht.
Allianz fordert UN-gestützte Aufsichtsstrukturen
Ein zentraler Bestandteil des Papiers ist der Vorschlag, eine internationale Institution unter dem Dach der Vereinten Nationen zu prüfen. Diese Einrichtung könnte künftig Standards festlegen und die Einhaltung regulatorischer Vorgaben verifizieren.
Bei dem Dokument handelt es sich allerdings nicht um ein völkerrechtlich bindendes Gesetz, und es wird durch den Text kein globaler Regulator geschaffen. Die Initiative bleibt jedoch offen für weitere Staaten, die sich den Leitlinien anschließen möchten.
Getragen wird der Aufruf von führenden Spitzenpolitikern. Zu den Unterzeichnern zählen unter anderem Bundeskanzler Friedrich Merz, EU-Kommissionspräsidentin Ursula von der Leyen, Kanadas Premierminister Mark Carney, Norwegens Ministerpräsident Jonas Gahr Støre und der finnische Präsident Alexander Stubb. Zu den weiteren Partnern der Erklärung gehören Australien, die Niederlande, Spanien, Singapur, Südafrika und Moldau.
Auffällig ist indessen das Fehlen einflussreicher Staaten aus dem globalen Technologiesektor. Schwergewichte wie die USA, China, das Vereinigte Königreich, Frankreich, Japan und Indien haben sich der Erklärung bislang nicht angeschlossen.
Steigender Druck auf Entwickler und bestehende Regulierung
Die Initiative fügt sich in eine Debatte ein, die auch innerhalb der Entwicklerbranche geführt wird. Führende Vertreter der Branche, darunter Dario Amodei von Anthropic und Sam Altman von OpenAI, hatten sich für eine Verlangsamung des KI-Entwicklungstempos ausgesprochen.
Wer sich mit den neuen regulatorischen Anforderungen für künstliche Intelligenz befasst, benötigt einen klaren Überblick über die geltenden Regeln. Dieser kostenlose Umsetzungsleitfaden erklärt kompakt die verschiedenen Risikoklassen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen
Auf staatlicher Ebene mahnte auch Australiens Premierminister Anthony Albanese im September 2026 globale KI-Regeln an, um die menschliche Kontrolle zu wahren, während ein nationales Konsultationspapier dortige Standards und Meldepflichten für Zwischenfälle ins Spiel brachte.
Gleichzeitig verschärfen sich die gesetzlichen Vorgaben im europäischen Wirtschaftsraum bereits schrittweise. Nach Artikel 55 des EU AI Act sind Entwickler von Allzweck-KI-Modellen mit systemischem Risiko dazu verpflichtet, offensive Sicherheitstests – sogenanntes Adversarial Testing – durchzuführen.
Die rechtlichen Rahmenbedingungen für KI-Systeme stellen viele Unternehmen vor große Herausforderungen bei der Dokumentation und Qualitätssicherung. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und wie Sie die Compliance-Anforderungen rechtzeitig erfüllen. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Die Anbieter selbst reagieren mit unterschiedlichen Modellen auf die wachsende Skepsis bezüglich der Modellsicherheit. OpenAI kündigte an, externen Organisationen künftig während der gesamten Entwicklungsphase – vom Training über die Evaluation bis zum Rollout – technische Prüfungen zu gestatten, anstatt diese auf den Zeitraum vor der Markteinführung zu beschränken.
Hierzu liefen Gespräche mit METR und Redwood Research, wobei vorerst weder Zugangsbedingungen festgelegt noch Partner offiziell benannt wurden. Anthropic wiederum ernannte Accenture zum eingebetteten Evaluator und wendet dafür über eine Laufzeit von fünf Jahren mindestens 1 Milliarde US-Dollar auf.
Die gemeinsame Erklärung der Staatengruppe verdeutlicht jedoch, dass freiwillige Vereinbarungen und unternehmenseigene Maßnahmen vielen Regierungen im Hinblick auf fundamentale Risiken hochentwickelter KI künftig nicht mehr ausreichen.
