Ein neuer UN-Bericht schlägt Alarm: Die Sicherheitsvorkehrungen für Künstliche Intelligenz hinken der Entwicklung dramatisch hinterher. Weltweit reagieren Regierungen und Aufsichtsbehörden nun mit neuen Gesetzen und Kontrollmechanismen.
UN-Panel: Sicherheitslücken wachsen schneller als gedacht
Das unabhängige internationale Wissenschaftsgremium der Vereinten Nationen für KI legte am 1. Juli 2026 einen ersten Zwischenbericht vor. Die Ergebnisse sind alarmierend: KI-Systeme identifizieren inzwischen selbst jahrzehntealte Software-Schwachstellen – darunter einen 27 Jahre alten Fehler in einem Betriebssystem und einen 16 Jahre alten Bug in einem Videotool.
Besonders deutlich wird das Problem bei der schieren Menge der nötigen Sicherheitsupdates. Bei Firefox etwa stieg die Zahl der erforderlichen Patches von rund 20 bis 30 pro Monat im Jahr 2025 auf 423 im April 2026 – ein Anstieg um mehr als das Zehnfache.
Der Bericht soll die Grundlage für den Globalen Dialog zur KI-Governance bilden, der am 6. und 7. Juli in Genf stattfindet. Ein weiteres Problem: Die Ressourcen sind extrem ungleich verteilt. Die USA verfügen über 75 Prozent der Rechenleistung der 500 leistungsstärksten KI-Supercomputer, China kommt auf gerade einmal 15 Prozent.
Indien plant eigenes KI-Gesetz
Indien zieht Konsequenzen aus der Entwicklung. IT-Sekretär S. Krishnan erklärte am heutigen Freitag, die Regierung erwäge ein separates KI-Gesetz. Die bestehenden IT-Regulierungen reichten für die ausgereifte Technologie nicht mehr aus.
Die rasante Entwicklung der Künstlichen Intelligenz erfordert neue Regeln, die viele Unternehmen noch nicht vollständig überblicken. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer im Kontext neuer KI-Gesetze jetzt kennen müssen. Hier über aktuelle Cyberrisiken und KI-Gesetze informieren
Erst kürzlich hatte Neu-Delhi seine IT-Regeln verschärft – vor allem gegen Deepfakes. Plattformen müssen entsprechende Inhalte nun innerhalb von drei Stunden entfernen. Doch das ist nur ein erster Schritt. Krishnan zufolge wird bereits an einem Entwurf für ein eigenständiges Gesetz gearbeitet.
Hintergrund: Die IndiaAI Mission fördert die Entwicklung von 20 einheimischen KI-Modellen. Der indische Startup-Sektor mit über 240.000 registrierten Unternehmen sieht in KI das am schnellsten wachsende Segment.
EZB warnt vor Systemrisiken für Finanzmärkte
Die europäischen Finanzaufseher schlugen am heutigen Freitag ebenfalls Alarm. EZB-Präsidentin Christine Lagarde bezeichnete KI als erhebliches Risiko für die Marktstabilität. Sie kritisierte vor allem die mangelnde Finanzierung von Schutzmaßnahmen bei gleichzeitig rasanter Verbreitung der Technologie.
Noch einen Schritt weiter gehen die Regulierer der Bank of England und der Finanzaufsicht FCA. Ihre Einschätzung: Herkömmliche Regeln könnten bei autonomer „agentischer“ KI wirkungslos sein. Diese Systeme hätten das Potenzial, Marktvolatilität und Konzentration massiv zu verstärken.
Die Behörden prüfen daher verschiedene Schutzmechanismen – darunter „Kill-Switches“ für KI-gesteuerte Handelssysteme. Der Finanzstabilitätsrat hatte bereits im Juni 2026 eine Konsultation zu diesen Fragen gestartet. Auch das britische Finanzministerium will sich zu Zahlungen mit KI-Agenten äußern.
Globale Kommission und Industrie-Vorstöße
Um die weltweiten Ungleichgewichte anzugehen, wurde am heutigen Freitag die „AI for Good Global Commission“ ins Leben gerufen. An der Spitze: Salesforce-CEO Marc Benioff und Ruandas Präsident Paul Kagame. Die 44 Gründungsmitglieder lesen sich wie ein Who’s who der globalen Wirtschaft – darunter Reliance-Chef Mukesh Ambani und Bharti-Enterprises-Vorsitzender Sunil Bharti Mittal.
Während die Politik über globale Standards debattiert, müssen Betriebe den EU AI Act bereits heute konkret umsetzen. Ein kostenloser Download verschafft Ihnen den nötigen Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Die Kommission tagt erstmals beim Weltgipfel in Genf vom 7. bis 10. Juli.
Parallel dazu mischt sich auch die Industrie ein. OpenAI-CEO Sam Altman forderte in einem Gastbeitrag ein von den USA geführtes internationales Forum für globale KI-Sicherheitsstandards. Sein Vorschlag: Das Gremium solle ähnlich strukturiert sein wie die Internationale Atomenergiebehörde.
Niederlande startet eigene Strategie
Die Niederlande wiederum setzen auf Unabhängigkeit. Am 3. Juli startete Den Haag eine internationale KI-Strategie mit dem Ziel, strategische Abhängigkeiten zu reduzieren.
In einer weiteren Entwicklung wurden die Exportkontrollen für Anthropics Modell „Mythos 5″ am 30. Juni aufgehoben. Allerdings bleiben Beschränkungen für andere Modelle der nächsten Generation bestehen. Das Unternehmen will seinen Zugang auf 15 Länder ausweiten, darunter Indien – vorausgesetzt, die US-Behörden stimmen zu.
