Die Zahl der KI-generierten Bildmanipulationen steigt rasant – und die Folgen sind gravierend. Von betrügerischen Finanzangeboten mit dem Konterfei irischer Spitzenpolitiker bis hin zu gefälschten Nacktaufnahmen von K-Pop-Stars: Die Justiz in Europa und Asien geht zunehmend gegen die Täter vor. Gleichzeitig versuchen die großen Tech-Konzerne, mit neuen Schutzmechanismen gegenzusteuern.
Die steigende Zahl an KI-Manipulationen zeigt, wie wichtig klare Regeln für den Einsatz künstlicher Intelligenz sind. Dieser kostenlose Leitfaden zum EU AI Act erklärt Ihnen kompakt alle neuen Pflichten und Risikoklassen. EU AI Act in 5 Schritten verstehen
Irland: Gefälschte Videos locken mit schnellem Geld
Ein besonders dreister Fall erschüttert derzeit Irland. Der irische Premierminister Micheál Martin warnte die Öffentlichkeit vor Deepfake-Videos, in denen sein Abbild für ein betrügerisches Investment wirbt. Die Fälschung verspricht einen Gewinn von 40.000 Euro – bei einer angeblichen Anfangsinvestition von nur 250 Euro. Martin sprach von einer „massiven Verzerrung“ und forderte die Plattformbetreiber auf, solche Inhalte umgehend zu löschen.
Der Fall ist kein Einzelfall. Auch andere prominente irische Politiker wie Simon Harris und Paschal Donohoe sollen betroffen sein. Das Timing ist brisant: Im August 2026 tritt in der EU das neue KI-Gesetz in Kraft. In Irland drohen Tätern bei solchen Betrugsmaschen bis zu sieben Jahre Haft.
Indien und Südkorea: Prominente wehren sich
In Asien macht die Justiz ebenfalls Druck. Ein Gericht in Mumbai gab der Schauspielerin Preity Zinta grünes Licht für eine Klage gegen Google und Meta. Der Vorwurf: Die Tech-Riesen hätten KI-generierte Deepfakes und Chatbot-Profile der Schauspielerin nicht unterbunden. Zintas Anwälte argumentieren, dies verletze ihre Persönlichkeitsrechte und das Urheberrecht.
Noch härter fiel das Urteil in Südkorea aus. Ein Gericht in Daegu verurteilte einen Mann zu zweieinhalb Jahren Haft, weil er Deepfake-Videos von Mitgliedern der K-Pop-Gruppe Aespa erstellte und verbreitete. Zusätzlich zur Haftstrafe ordnete das Gericht 80 Stunden Sexualtherapie an und belegte den Täter mit einem siebenjährigen Berufsverbot in Einrichtungen für Kinder und Jugendliche. Die Agentur SM Entertainment kündigte weitere rechtliche Schritte an.
Neue KI-Gesetze und technologische Bedrohungen stellen Unternehmen vor völlig neue Herausforderungen in der IT-Sicherheit. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Cyberrisiken Unternehmer jetzt kennen müssen. Gratis-E-Book zu Cyber Security und KI-Gesetzen sichern
WM wird zum Nährboden für Fälschungen
Die laufende Fußball-Weltmeisterschaft entpuppt sich als neuer Hotspot für KI-Manipulationen. Ein deutscher Fan namens Jan Weitzel hat sowohl in Deutschland als auch in den USA Klage eingereicht. Der Grund: Ein manipuliertes Bild von ihm, das ihn als historische politische Figur zeigt, ging während des Spiels Deutschland gegen Curaçao in Houston viral – mit über fünf Millionen Aufrufen. Ermittler, darunter das FBI, sollen auf dem Bild einen Wasserzeichen-Stempel von OpenAIs SynthID entdeckt haben.
Weitere Vorfälle:
– Ein argentinischer Fan erstattete Anzeige, nachdem ein KI-Tool ein Foto von ihm mit einem brasilianischen Trikot bearbeitet hatte.
– Ein vermeintliches Foto einer weiblichen Fans im Bikini beim Spiel USA gegen Paraguay entpuppte sich als vollständig KI-generiert.
– Ein manipuliertes Bild eines iranischen Fußballers mit einer rosa Schultasche wurde als KI-Fälschung enttarnt.
OpenAI zieht Konsequenzen
Die Tech-Branche reagiert. Erst am Mittwoch führte OpenAI neue Sicherheitsprotokolle für sein Modell GPT-5.4 ein. Der Schritt erfolgte, nachdem Forscher des Unternehmens Mindgard nachgewiesen hatten, dass sich das Tool mit relativ einfachen Befehlen dazu bringen ließ, sexualisierte oder gewalttätige Bilder zu erzeugen.
Doch die Experten warnen: Die KI-Entwicklung ist rasant. Selbst mit Wasserzeichen wie SynthID bleibt die Erkennung realistischer Deepfakes eine enorme Herausforderung. Der Kampf gegen die Bilderflut hat gerade erst begonnen.
