Die sozialdemokratische S&D-Fraktion im Europäischen Parlament dringt auf ein umfassendes Gesetz auf EU-Ebene, um schädliche, nicht-einvernehmliche und täuschende Deepfakes zu verbieten. Digitale Plattformen und Anbieter von Systemen mit künstlicher Intelligenz sollen nach den Vorstellungen der Fraktion proaktiv die Verbreitung solcher Inhalte verhindern, anstatt erst auf Beschwerden von Betroffenen zu reagieren.
Lücken bei Eigentumsrechten an digitalen Abbildern
Zwar verlangen bestehende europäische Regelungen Transparenz bei synthetisch erzeugten Inhalten, Eigentumsrechte an digitalen Abbildern sind auf EU-Ebene bislang jedoch nicht einheitlich geregelt.
Einzelne Mitgliedstaaten ergreifen daher bereits eigene Initiativen: Dänemark plant Urheberrechtsregeln für Gesichter und Stimmen, während Zypern sein Gesetz bereits geändert hat. Die Europäische Kommission führt parallel dazu bis zum 3. November eine Konsultation zu Urheberrechtsreformen durch.
Auch aus anderen Teilen des EU-Parlaments wächst der Druck. Die Abgeordneten Lena Schilling und Terry Reintke von den Grünen initiierten ein Schreiben von 119 Parlamentariern, das unter anderem ein wirksames Verbot von sogenannten Auszieh-Apps, vorbereitete nationale Behörden und ein Durchgreifen gegen Plattformen fordert.
Schilling berichtete in diesem Zusammenhang über erhebliche Hürden bei dem Versuch, gefälschte Sexualbilder löschen zu lassen. Meri Disoski verlangte eine gemeinsame parlamentarische Kontrolle von Online-Plattformen, nachdem eine Untersuchung 138 weibliche Abgeordnete aus nationalen Parlamenten der EU mit entsprechenden Websites in Verbindung gebracht hatte.
Henna Virkkunen von der Europäischen Kommission bezeichnete sexuelle Deepfakes von Frauen und Kindern als eine gewaltsame und unannehmbare Form der Herabwürdigung.
Zunehmende Regulierung durch EU-Vorgaben
Die legislative Debatte schließt an bereits verabschiedete Bestimmungen an. Im Rahmen des Digital Omnibus für KI (Verordnung (EU) 2026/1744), der seit dem 27. Juli 2026 in Kraft ist, verständigten sich die EU-Institutionen auf Erleichterungen für Start-ups sowie auf ein explizites Verbot KI-gestützter Nudification-Apps und der Erzeugung nicht-einvernehmlicher sexueller Bilder.
Wer sich mit der neuen Gesetzeslage rund um künstliche Intelligenz befasst, benötigt einen klaren Überblick über alle geltenden Fristen und Pflichten. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Unternehmen dabei, die neuen Anforderungen schnell und rechtssicher zu verstehen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Während Transparenzpflichten seit dem 2. August 2026 gelten, greift die Kennzeichnungspflicht für zuvor marktübliche Systeme ab dem 2. Dezember 2026. Weitere Fristen für Stand-alone-Hochrisikosysteme folgen ab Dezember 2027 und für regulierte Produkte ab August 2028.
Das AI Office der EU überwacht die Einhaltung dieser Vorgaben für Chatbots, biometrische Systeme und Deepfake-Generatoren. Bei Verstößen gegen die Kennzeichnungspflichten drohen Strafen von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Auf nationaler Ebene bereiten Aufsichtsbehörden wie die estnische TTJA entsprechende Kontrollverfahren vor.
Die neuen KI-Gesetze bringen für viele Organisationen weitreichende Dokumentationspflichten und Risikoklassen mit sich. Dieser kostenlose Report liefert Compliance-Verantwortlichen das nötige Wissen, um KI-Systeme rechtssicher zu betreiben und hohe Bußgelder zu vermeiden. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Rasantes Wachstum nicht-einvernehmlicher Intimaufnahmen
Wie dringend der Handlungsbedarf ist, unterstreicht die wissenschaftliche Untersuchung „The Backbone of Abuse“ von Sarah Morgan, Sophie Nightingale und Hany Farid.
Der Studie zufolge stieg die Zahl KI-generierter, nicht-einvernehmlicher Intimaufnahmen im Internet von geschätzt 500.000 Videos im Jahr 2023 auf geschätzt acht Millionen im Jahr 2025 – ganz überwiegend zum Nachteil von Frauen und Mädchen.
Eine Recherche von Channel 4 News aus dem Jahr 2024 identifizierte fast 4.000 Prominente auf fünf großen Deepfake-Portalen; 40 der meistbesuchten Seiten verzeichneten mehr als vier Milliarden Aufrufe. Die Forscher machten 88 Plattformen aus, die solches Material hosten, wobei fünf Infrastrukturanbieter dominieren und 93 Prozent der Seiten problemlos über Online-Suchmaschinen auffindbar waren.