Der erste UN-Weltgipfel zur KI-Governance ist am Mittwoch in Genf zu Ende gegangen. 108 Mitgliedsstaaten, Technologiekonzerne und internationale Organisationen einigten sich auf einen Fahrplan: Bis 2027 sollen die hochtrabenden Prinzipien in verbindliche Regeln übersetzt werden. Die dreitägige Konferenz stand unter dem Eindruck einer sich rasant beschleunigenden technologischen Entwicklung.
UN-Generalsekretär António Guterres hatte die Dringlichkeit gleich zu Beginn deutlich gemacht. Die KI entwickle sich mit „rasender Geschwindigkeit“, warnte er. Die internationale Gemeinschaft stehe an einem Scheideweg: Entweder man gestalte die Technologie aktiv oder lasse sie treiben. Eine Warnung, die in Genf auf offene Ohren stieß.
Vier Säulen für eine sichere KI-Zukunft
Die UN-Führung definierte vier zentrale Handlungsfelder: Sicherheit, Menschenrechte, Kapazitätsaufbau und Transparenz. Ein vorläufiger Bericht des neu geschaffenen UN-Wissenschaftsgremiums für KI machte deutlich: Die aktuellen Regulierungsrahmen hinken der Entwicklung der leistungsfähigsten KI-Modelle massiv hinterher.
Besonders brisant: die Forderung nach einem globalen Verbot autonomer Waffensysteme. Guterres sprach sich zudem für verpflichtende internationale Sicherheitstests für neue KI-Systeme aus. Der renommierte KI-Forscher Yoshua Bengio warnte, dass fortgeschrittene Systeme menschliche Bediener täuschen könnten – menschliche Kontrolle sei daher in jeder Phase zwingend erforderlich.
Deepfakes als neue Bedrohung für Kinder und Frauen
Die Menschenrechtsdimension nahm breiten Raum ein. UN-Hochkommissar Volker Türk forderte, dass Regulierungen von Beginn an mit Menschenrechtsstandards verwoben sein müssten – insbesondere im Kampf gegen Deepfakes und Desinformation. Die Zahlen, die in Genf präsentiert wurden, sind alarmierend: In elf Ländern des Globalen Südens ist bereits jedes Kind in einer durchschnittlichen Schulklasse von KI-generierten Deepfakes betroffen.
Noch drastischer die Lage bei Frauenrechtlerinnen: Laut UN Women hat jede vierte Menschenrechtsverteidigerin bereits KI-gestützte Online-Gewalt erlebt. Ein Alarmzeichen, das die Dringlichkeit menschenrechtlicher Leitplanken unterstreicht.
Während die UN über globale Leitplanken debattiert, müssen Unternehmen bereits heute konkrete Anforderungen des EU AI Acts erfüllen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
„Schatten-KI“ in Behörden – ein unterschätztes Problem
Das UN-Entwicklungsprogramm (UNDP) veröffentlichte am Mittwoch einen Bericht mit einer alarmierenden Erkenntnis: Die Einführung von KI in Regierungsbehörden läuft der Fähigkeit der Staaten, sie zu regulieren, davon. Besonders problematisch: die sogenannte „Schatten-KI“ – der Einsatz nicht genehmigter KI-Tools durch öffentliche Bedienstete.
Die Forscher, die zwischen November 2025 und März 2026 Daten erhoben, empfehlen den Regierungen, ihre Auftragsvergabe als Steuerungsinstrument zu nutzen. Wer Transparenz, Prüfrechte und menschliche Aufsicht in Verträgen festschreibe, könne auch private Anbieter in die Pflicht nehmen. Ein weiterer Punkt: Die Entwicklung von Datensätzen in lokalen Sprachen sei überlebenswichtig für inklusive KI-Dienste.
Indonesien zeigt, wie es geht – „Small AI“ für Entwicklungsländer
Die indonesische Ministerin Meutya Hafid plädierte für einen menschenzentrierten Ansatz, der auf Zusammenarbeit statt erzwungener Einheitlichkeit setzt. Ihr Land konnte Erfolge vorweisen: Die im März 2025 gestartete Initiative PP TUNAS hat bereits rund fünf Millionen Konten von Kindern bearbeitet, um die digitale Sicherheit zu verbessern. Eine Präsidialverordnung für eine ethische KI-Roadmap steht kurz vor der Verabschiedung.
Die neuen Regeln zur künstlichen Intelligenz stellen viele Unternehmen vor große Herausforderungen bei der Risikodokumentation. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und welche rechtlichen Pflichten Sie jetzt kennen müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Für die wirtschaftliche Integration von Entwicklungsländern schlug Weltbank-Manager Paschal Donohoe „Small AI„-Lösungen vor – maßgeschneiderte, ressourcenschonende Anwendungen. Erfolgreiche Beispiele gebe es bereits in Mosambik und Südafrika. Der Hintergrund: Bis 2035 werden 1,2 Milliarden junge Menschen in Schwellenländern ins erwerbsfähige Alter kommen – aber nur 400 Millionen Arbeitsplätze sind derzeit in Sicht.
Infrastruktur und Umwelt: Die Kehrseite des KI-Booms
Die Konferenz thematisierte auch die enormen Ressourcen, die KI verschlingt. Die Internationale Fernmeldeunion (ITU) wies darauf hin, dass 2,2 Milliarden Menschen weltweit noch immer keinen Internetzugang haben – die digitale Kluft droht sich weiter zu öffnen. Microsoft-Manager Brad Smith berichtete, dass KI bereits von 27 Prozent der erwerbsfähigen Bevölkerung genutzt werde.
Die Umweltbilanz geriet ebenfalls in den Fokus. Die UN fordern, dass KI-Rechenzentren bis 2030 vollständig mit erneuerbaren Energien betrieben werden müssen. Der Stromverbrauch großer Rechencluster ist enorm – ein Problem, das mit der weiteren Verbreitung der Technologie exponentiell wachsen dürfte.
Der Genfer Gipfel markiert den Auftakt einer koordinierten Kraftanstrengung. Ein gemeinsamer KI-Ausschuss von UN und ITU soll nun die Arbeit aufnehmen. Der nächste große Gipfel ist für 2027 in New York geplant – dann soll aus Prinzipien längst konkrete Politik geworden sein.
