Die Staatengemeinschaft kommt bei der Regulierung von KI nicht hinterher – das wurde beim ersten UN-Weltgipfel zur KI-Governance in Genf mehr als deutlich. UN-Generalsekretär António Guterres eröffnete die Konferenz am 6. Juli 2026 mit einem eindringlichen Appell: Freiwillige Selbstverpflichtungen der Tech-Konzerne reichen nicht mehr. Nötig seien verbindliche internationale Leitplanken.
Schutz für Kinder und Jugendliche
Guterres brachte einen „KI-Kindersicherheitspakt“ ins Spiel. Die Idee: Technologieunternehmen sollen verpflichtet werden, Sicherheitstests durchzuführen, eine Null-Toleranz-Politik gegenüber Missbrauch einzuführen und Krisenunterstützung für junge Nutzer bereitzustellen. Der Vorstoß kommt nicht von ungefähr – UN-Daten zufolge nutzen bereits mehr als eine Milliarde Menschen wöchentlich KI-gestützte Chat-Systeme. Die Schere zwischen Industrie- und Entwicklungsländern wird dabei immer größer.
Die Konzentration der KI-Ressourcen ist alarmierend: Rund 75 Prozent der Rechenleistung der 500 leistungsstärksten KI-Supercomputer entfallen auf die USA, China kommt auf etwa 15 Prozent. Ganze 80 Prozent der Forschung und Entwicklung finden in nur sechs Ländern statt.
Deepfakes und tödliche Waffen
Besonders brisant: die Sicherheits- und Menschenrechtslage. Offiziellen Angaben zufolge sind 99 Prozent aller Deepfakes im Netz sexueller Natur – 96 Prozent davon richten sich gegen Frauen und Mädchen. Guterres forderte deshalb nicht nur, dass KI-Rechenzentren bis 2030 mit erneuerbaren Energien betrieben werden müssen, sondern auch ein globales Verbot tödlicher autonomer Waffen.
Ein zweiter KI-Governance-Dialog ist für Mai 2027 in New York geplant.
Während die Weltgemeinschaft über globale Leitplanken diskutiert, müssen Unternehmen bereits heute konkrete Anforderungen wie Risikodokumentation und Kennzeichnungspflichten umsetzen. Dieser kostenlose Umsetzungsleitfaden verschafft Ihnen den notwendigen Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Illinois geht voran – mit harten Strafen
Während die Weltgemeinschaft noch diskutiert, handeln einzelne US-Bundesstaaten. Der Gouverneur von Illinois, JB Pritzker, unterzeichnete am selben Tag den „Artificial Intelligence Safety Measures Act“ (SB 315). Das Gesetz verlangt von Unternehmen mit KI-Modellen, die mehr als 500 Millionen US-Dollar (rund 460 Millionen Euro) Umsatz generieren, jährliche unabhängige Sicherheitsaudits.
Die Regeln sind streng: Kritische Sicherheitsvorfälle müssen binnen 72 Stunden gemeldet werden – bei unmittelbarer Lebensgefahr sogar innerhalb von 24 Stunden. Bei Verstößen drohen Strafen von bis zu einer Million Dollar für das erste Vergehen, bei Wiederholung bis zu drei Millionen. Illinois reiht sich damit in eine wachsende Liste von Bundesstaaten wie New York und Kalifornien ein, die eigene KI-Gesetze vorantreiben.
Transparenz durch offene Plattformen
Parallel zu den politischen Initiativen arbeiten Forscher an technischen Lösungen. Das Software Engineering Institute der Carnegie Mellon University hat mit FLARE-AI eine offene Plattform vorgestellt, die Sicherheitslücken in KI-Systemen standardisiert erfassen soll. Entwickelt mit rund 50 Experten aus 32 Organisationen, ermöglicht FLARE-AI die Meldung von Schwachstellen an Hersteller und Behörden – inklusive der Zuweisung von CVE-Identifikatoren, den internationalen Kennungen für Sicherheitslücken.
Ebenfalls am 6. Juli kündigte die „Partnership on AI“ neue Initiativen an. Ein „Global AI Progress Hub“ und ein jährlicher Bericht mit dem Titel „Global Responsible AI: Measures of Progress“ sollen ab Frühjahr 2027 öffentlich zugänglich sein und dokumentieren, wie Entwickler Sicherheitsstandards einhalten.
Die rechtlichen Anforderungen an den Einsatz von KI verschärfen sich rasant und wer die neuen Verordnungen ignoriert, riskiert empfindliche Strafen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret für ihre Compliance tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Britische Außenministerin zieht historische Vergleiche
Die Dringlichkeit der Lage unterstrich auch die britische Außenministerin Yvette Cooper. Am 5. Juli 2026 verglich sie die Risiken unregulierter KI mit historischen Katastrophen und forderte verbindliche internationale Schutzmaßnahmen. Besonders wichtig sei eine verstärkte Zusammenarbeit zwischen den USA und China in Sicherheitsfragen. Großbritannien sieht sich nach eigenen Angaben in einer Vermittlerrolle – nicht zuletzt aufgrund seiner Führung bei früheren Sicherheitsgipfeln.
Ein von der UN vorgeschlagener KI-Fonds soll Entwicklungsländern den Zugang zur Technologie ermöglichen. Die Finanzierung soll während der 81. UN-Generalversammlung ab September 2026 auf den Weg gebracht werden. Ziel: Auch ärmere Staaten sollen von den wirtschaftlichen Vorteilen der KI profitieren können – ohne Abstriche bei der Sicherheit.
