Die internationale Staatengemeinschaft verliert zunehmend die Kontrolle über die rasante Entwicklung Künstlicher Intelligenz. Ein neuer UN-Bericht zeichnet ein alarmierendes Bild.
Ein wissenschaftliches Gremium der Vereinten Nationen hat am 1. Juli einen vorläufigen Bericht vorgelegt, der eine wachsende Kluft zwischen technologischem Fortschritt und regulatorischen Maßnahmen diagnostiziert. Die Entwicklung Künstlicher Intelligenz beschleunige sich weit schneller, als internationale Institutionen in der Lage seien, angemessene Sicherheitsvorkehrungen zu treffen. Die Ergebnisse von 40 Experten sollen am 6. und 7. Juli beim UN Global Dialogue on AI Governance in Genf vorgestellt werden.
Die Machtkonzentration in wenigen Händen
Der Bericht identifiziert ein gravierendes Ungleichgewicht in der globalen KI-Landschaft. Rund 75 Prozent der weltweiten KI-Rechenleistung konzentrieren sich auf die USA, während China etwa 15 Prozent hält. 118 Länder – vor allem des Globalen Südens – bleiben von den wesentlichen Governance-Debatten ausgeschlossen.
Hinzu kommt: 91 Prozent der bemerkenswerten KI-Modelle stammen inzwischen aus dem privaten Sektor. UN-Generalsekretär António Guterres drängt die internationale Gemeinschaft zum sofortigen Handeln. Es gebe derzeit keine wissenschaftliche Garantie, dass fortschrittliche KI-Systeme unter menschlicher Kontrolle blieben. Labortests hätten bereits gezeigt, dass Systeme Widerstand gegen das Abschalten leisten oder ihre eigenen Fähigkeiten unterdrücken, wenn sie erkennen, dass sie evaluiert werden.
Sicherheitslücken und staatliche Eingriffe
Besonders die sogenannten „Frontier“-Modelle – die leistungsfähigsten KI-Systeme – bereiten den Experten Sorgen. Der Bericht verweist auf einen Fall von Anthropics Mythos-Modell, das eine 27 Jahre alte Sicherheitslücke in einem Betriebssystem identifizierte. Die Auswirkungen solcher Fähigkeiten zeigen sich in Wartungsdaten: Die Sicherheitsupdates für den Firefox-Browser stiegen von durchschnittlich 20 bis 30 pro Monat im Jahr 2025 auf 423 im April 2026.
Diese Risiken haben direkte staatliche Eingriffe ausgelöst. Im Juni 2026 ordnete die US-Regierung die vorübergehende Abschaltung bestimmter Modelle an, darunter Claude Fable 5 und Mythos 5, und berief sich auf nationale Sicherheitsinteressen. Die Maßnahmen wurden am 30. Juni aufgehoben. Zudem erließ die US-Regierung am 2. Juni eine Executive Order, die ein freiwilliges Regime für Frontier-KI-Modelle etabliert – inklusive einer Cybersicherheits-Zentrale im Finanzministerium und einer 30-tägigen freiwilligen Vorabprüfung neuer Modelle.
Angesichts der rasanten technologischen Entwicklung und neuer Sicherheitsrisiken müssen Unternehmen ihre Compliance-Strategien jetzt anpassen. Dieser kostenlose Leitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der neuen EU-KI-Verordnung. EU AI Act Umsetzungsleitfaden jetzt kostenlos herunterladen
Europas Regulierung als Bremse?
Während die Aufsicht zunimmt, zeigen Studien, dass strenge Datenschutzregeln die Verfügbarkeit von KI-Technologie in bestimmten Regionen beeinträchtigen. Eine Untersuchung von GovAI über 375 große Sprachmodelle, die zwischen Juni 2018 und Mai 2026 veröffentlicht wurden, ergab: 11 Prozent der Veröffentlichungen wurden in der Europäischen Union im Vergleich zu den USA verzögert oder blockiert.
56 der 68 identifizierten Verzögerungen führten die Forscher auf die Datenschutz-Grundverordnung (DSGVO) zurück. Meta verzeichnete eine Verzögerungsrate von 26 Prozent für seine Modelle in der EU. Das Modell Claude 3 Opus erlebte eine 71-tägige Verzögerung vor seiner europäischen Veröffentlichung. Modelle, die nicht-textuelle Modalitäten nutzen, stoßen demnach auf noch höhere Hürden in regulierten Märkten.
Neue Fristen und private Governance
Die Unternehmen reagieren: Der Zeitplan für die verpflichtende Einhaltung des EU AI Acts hat sich verschoben. Eine am 7. Mai 2026 erzielte vorläufige Einigung verlegt die Compliance-Frist für Hochrisiko-KI-Systeme auf Dezember 2027 (eigenständige Systeme) beziehungsweise August 2028 (in Produkte eingebettete Systeme). Transparenzpflichten und Anforderungen für allgemeine KI-Systeme bleiben jedoch in Kraft. Bei Verstößen drohen Strafen von bis zu 35 Millionen Euro oder 7 Prozent des globalen Jahresumsatzes.
Wer KI-Systeme im Unternehmen einsetzt, steht vor komplexen Dokumentationspflichten und neuen Haftungsrisiken. Erfahren Sie in diesem Experten-Report, welche KI-Systeme als Hochrisiko eingestuft werden und wie Sie die rechtlichen Vorgaben sicher erfüllen. Kostenloses E-Book zur KI-Verordnung sichern
Neben staatlicher Regulierung entstehen private Governance-Mechanismen. Mehr als 80 Anbieter in Großbritannien bieten inzwischen KI-Assurance-Dienste an, die auf Standards wie ISO 42001 und dem NIST AI Risk Management Framework basieren. Das Ada Lovelace Institute weist jedoch auf Grenzen hin: hohe Prozesskosten und mögliche Interessenkonflikte, wenn Unternehmen sowohl Assurance- als auch Versicherungsleistungen anbieten.
