Die internationale Gemeinschaft fordert nach einer Serie von Deepfake-Skandalen und Automatisierungspannen schärfere Regeln für Künstliche Intelligenz.
Beim AI for Good Global Summit in Genf warnte das UN-Flüchtlingshilfswerk (UNHCR) am Dienstag vor den realen Gefahren KI-generierter Desinformation. „Feindselige Narrative und Deepfake-Videos gegen Flüchtlinge und humanitäre Helfer nehmen dramatisch zu“, sagte UNHCR-Seniorberaterin Gisella Lomax. Die Warnung kommt vor dem Hintergrund einer Rekordzahl von 117,8 Millionen vertriebenen Menschen weltweit – mit Schwerpunkten in Syrien, Afghanistan und der Ukraine. Lomax rief Technologiekonzerne auf, mit Hilfsorganisationen zusammenzuarbeit, um die Risiken generativer KI für schutzbedürftige Gruppen zu minimieren.
Medienvertrauen auf historischem Tiefstand
Parallel dazu präsentierte die Europäische Rundunion (EBU) beim UN-Dialog zur KI-Governance ein Rahmenwerk für den Einsatz der Technologie. Die EBU betont: Öffentlich-rechtliche Medien müssten als Vertrauensanker in der zunehmend fragmentierten Informationslandschaft gestärkt werden. Der Reuters Institute Digital News Report 2026 zeigt alarmierende Zahlen: Das Vertrauen in Nachrichten sank auf 37 Prozent – der niedrigste Wert seit 2015. Gleichzeitig nutzen bereits rund zehn Prozent der Befragten KI-Chatbots für ihren Nachrichtenkonsum.
Eine interne Studie von EBU und BBC aus dem Jahr 2025 offenbarte zudem massive technische Mängel: 45 Prozent der KI-Assistenten-Antworten enthielten erhebliche Fehler – von Ungenauigkeiten bis hin zu schlecht recherchierten Quellenangaben.
Automatisierungspanne bei Coinbase sorgt für Chaos
Dass KI-Automation auch im Finanz- und Sportbereich gefährlich schiefgehen kann, zeigte ein Vorfall vom vergangenen Sonntag. Das Nachrichtensystem der Kryptobörse Coinbase verschickte eine Push-Mitteilung mit der Behauptung, Norwegen habe Brasilien im WM-Spiel mit 3:2 besiegt – obwohl die Partie noch gar nicht angepfiffen war. Der KI-generierte Bericht erfand sogar zwei Tore von Erling Haaland. Norwegen gewann das tatsächliche Spiel zwar mit 2:1, doch der verfrühte und falsche Bericht wirft ein Schlaglicht auf die Risiken für Prognosemärkte, deren monatliches Volumen im Juni bei 44,8 Milliarden Euro lag.
Angesichts der zunehmenden Fehltritte automatisierter Systeme rückt der rechtliche Rahmen für künstliche Intelligenz in den Fokus von Unternehmen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, die neuen Pflichten und Risikoklassen der KI-Verordnung rechtzeitig zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
In Australien sorgt derweil das Phänomen des „Pink-Slime“-Journalismus für Unruhe. Immer mehr KI-generierte Nachrichtenseiten wie The Bunbury Guardian schaben Inhalte von etablierten Sendern wie der ABC, um Werbeeinnahmen zu generieren – oft ohne Transparenz über ihre automatisierte Natur.
Plattformen in der Kritik: YouTube verteidigt Verschwörungsvideo
Die Moderation KI-manipulierter Inhalte bleibt ein heißes Eisen. Im Juli verteidigte Google-Managerin Rachel Lord YouTubes Entscheidung, ein Video online zu lassen, das einen Überlebenden des Bondi-Beach-Angriffs von 2025 als „Krisenschauspieler“ bezeichnete. Das Opfer, Arsen Ostrovsky, der bei dem Vorfall im Dezember 2024 verletzt wurde, kritisierte die Plattform scharf.
Auch Metas Aufsichtsrat forderte eine proaktivere Kennzeichnung KI-generierter Inhalte. Er verwies auf ein Video über Konfliktschäden in Haifa, das trotz fast einer Million Aufrufe nicht als KI-generiert markiert war. Auf der Plattform X bestätigte der Chatbot Grok kürzlich fälschlicherweise KI-generierte Konfliktvideos als authentisches Material.
Die neuen EU-Regeln stellen klare Anforderungen an die Kennzeichnung und Dokumentation von KI-Systemen, um Manipulationen wie Deepfakes entgegenzuwirken. Welche Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen, klärt dieser kostenlose Experten-Report auf. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Justiz schreitet ein: Tiefen fake-Verbot und Millionenbetrug
Die Justiz wird härter. Der Bombay High Court ordnete am Mittwoch die Löschung von Deepfake-Inhalten der Schauspielerin Preity Zinta auf 275 Websites an – wegen Verletzung von Verfassungsrechten.
In Deutschland erstattete eine Frau aus Chemnitz am 4. Juli Anzeige, nachdem sie durch ein Deepfake-Video eines bekannten ZDF-Talkmasters um über eine Million Euro betrogen worden war – der Täter hatte sie in eine Kryptowährungsfalle gelockt. Die Staatsanwaltschaft Hannover erwirkte zudem einen Strafbefehl gegen eine Person, die ein sexualisiertes KI-Video in einer politischen Parteien-Chatgruppe verbreitet hatte.
Auch Regierungen ziehen Konsequenzen. Bangladeschs Informationsminister Zahir Uddin Swapon kündigte am Mittwoch im Parlament neue Maßnahmen gegen KI-generierte Gerüchte an. Die staatliche Faktencheck-Initiative BanglaFact hat bereits über 860 Überprüfungen abgeschlossen. Ein neues Handbuch für Medienprofis befindet sich in der finalen Entwicklungsphase.
