Am Rande der 81. UN-Generalversammlung in New York haben mehr als 20 Länder und die Europäische Kommission am 21. September 2026 eine gemeinsame Erklärung verabschiedet, die verbindliche Sicherheitsstandards für besonders leistungsfähige Systeme künstlicher Intelligenz verlangt.
Die Initiative fordert, fortschrittliche Modelle unter strikter menschlicher Leitung, Aufsicht und Kontrolle zu halten sowie deren Entwicklung am Völkerrecht auszurichten.
Ausgearbeitet wurde der Vorstoß von Finnlands Präsident Alexander Stubb und dem norwegischen Ministerpräsidenten Jonas Gahr Støre. Zu den Erstunterzeichnern gehören 22 Führungskräfte aus 20 Staaten, darunter Bundeskanzler Friedrich Merz, EU-Kommissionspräsidentin Ursula von der Leyen, Österreich, Kanadas Premier Mark Carney, Australiens Premier Anthony Albanese sowie die Staats- und Regierungschefs von Spanien, den Niederlanden, Kenia und Südafrika.
Auch Bahrain, Dänemark, Estland, Irland, Island, Kasachstan, Lettland, Moldau, Singapur und die Vereinigten Arabischen Emirate tragen den Aufruf mit, der für weitere Staaten offenbleibt. Schwergewichte der KI-Branche fehlen jedoch auf der Liste: Weder die USA noch China, Großbritannien, Frankreich, Japan, Indien, Südkorea oder Italien haben das Dokument am Montag unterzeichnet.
Tests vor dem Marktstart und Ruf nach einer Atomenergie-Behörde für KI
Die Erklärung verlangt von Entwicklern transparentere Sicherheitsprotokolle und verbindliche Risikotests vor der Markteinführung. Unabhängigen Prüfern müsse dazu ausreichender Zugang zu den Systemen gewährt werden. Zudem sollen Staaten gemeinsame Standards koordinieren und schwere Sicherheitsvorfälle gegenseitig melden.
Während auf internationaler Ebene über globale Sicherheitsstandards debattiert wird, müssen Unternehmen bereits heute konkrete gesetzliche Anforderungen beim Einsatz von KI-Systemen erfüllen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle Fristen, Pflichten und Risikoklassen der aktuellen Regulierung. EU AI Act in 5 Schritten verstehen
Die Unterzeichner rufen die UN-Mitglieder dazu auf, die Schaffung einer neuen internationalen Institution zu prüfen, die Standards setzt, Verifizierungen ermöglicht und bei Überschreitung kritischer Leistungsschwellen Beratungen einberufen kann.
Stubb brachte diesbezüglich persönlich eine Organisation nach dem Vorbild der Internationalen Atomenergie-Organisation ins Spiel, hielt das genaue Format jedoch offen.
Der Aufruf plädiert ausdrücklich nicht für eine Verlangsamung oder Pause der technologischen Entwicklung, sondern fokussiert auf Risikomanagement. Als Auslöser gelten Fälle, in denen Modelle Schutzmechanismen überwanden und Schwachstellen ausnutzten, darunter ein Sicherheitsvorfall auf der Entwicklerplattform Hugging Face im Juli 2026 durch Test-Agenten von OpenAI.
Die Identifizierung von Hochrisiko-Systemen und die Einhaltung von Dokumentationspflichten stellen viele Organisationen vor große Herausforderungen. Erfahren Sie in diesem kostenlosen Praxis-Report, welche neuen Regeln für KI-Systeme gelten und wie Sie die rechtliche Compliance sicherstellen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Uneinigkeit unter den Großmächten und in der Industrie
Dass die global führenden Technologie-Nationen dem Bündnis fernblieben, verdeutlicht die geopolitischen Differenzen. Am Donnerstag ist ein Treffen von US-Präsident Donald Trump und Chinas Staatschef Xi Jinping im Weißen Haus angesetzt, bei dem KI im Fokus steht.
Trump erklärte im Vorfeld, im weltweiten Wettbewerb liege die USA vorn, weshalb er das Wachstum der Branche nicht bremsen wolle. US-Finanzminister Scott Bessent betonte, Haftung und rechtliche Verantwortung der Betreiber seien der beste Schutz, und lehnte Schutzschilde für KI-Konzerne ab.
Aus den Unternehmen selbst kommen gegensätzliche Signale: Nvidia-Chef Jensen Huang sprach sich gegen neue Regulierung aus und verwies auf funktionierende Marktkräfte.
Dagegen legte OpenAI-Chefwissenschaftler Jakub Pachocki Regierungen eine internationale Koordinierung nahe, während Anthropic-Chef Dario Amodei im Vormonat für eine Tempomäßigung und Ausnahmen für gemeinsame Sicherheitsabsprachen geworben hatte.
UN-Generalsekretär António Guterres warnte unterdessen eindringlich vor autonomen Waffensystemen und forderte völkerrechtliche Verbote für Maschinen, die ohne menschliche Aufsicht über Leben und Tod entscheiden.
