Deepfakes boomen in 2025

Deepfake-Vorfälle, bei denen Prominente missbraucht werden, entwickeln sich in einem alarmierenden Tempo. Im ersten Quartal 2025 wurden bereits 179 Vorfälle gemeldet. Das ist ein Anstieg um 19 % gegenüber 2024, wie eine Analyse von Surfshark zeigt. Hier ein kurzer Überblick über diese Entwicklung.

Kürzlich kam meine Frau und erzählte mir, dass der Arzt und TV-Mann Eckart von Hirschhausen für ein Wundermedikament werbe. Hatte sie auf einer Nachrichtenseite in einer Anzeige gesehen. Ein typischer Fall von Deepfake – der Name des Arztes Eckart von Hirschhausen war missbraucht und die Videos von KI generiert worden.

In der Vergangenheit sind auch in Deutschland bekannte Persönlichkeiten Opfer von Deepfake-Vorfällen geworden. Zum Beispiel gefälschte Videos von "bald" CDU-Kanzler Friedrich Merz oder "noch Kanzler" Olaf Scholz während der Bundestagswahl. Aber auch Prominente wie der bereits erwähnte Arzt, Talkshow-Moderator und Autor Eckart von Hirschhausen oder die Schauspielerin Uschi Glas sind Opfer von Deepfake-Betrügereien geworden.

Zu den bemerkenswerten Fakes gehören Taylor Swift in kompromittierenden Situationen, Trump, der die Kleidung von Zelenskyy kritisiert, und Elon Musk, der China-freundliche Ansichten vertritt. Allein Prominente wurden in diesem Zeitraum 47 Mal ins Visier genommen, ein Anstieg von 81 % im Vergleich zum gesamten Jahr 2024.

Insgesamt erwirtschaftete der deutsche Deepfake-KI-Markt im Jahr 2024 einen Umsatz von 49,5 Millionen US-Dollar und wird bis 2030 voraussichtlich 433,4 Millionen US-Dollar erreichen.

"Die Deepfake-Technologie entwickelt sich in einem alarmierenden Tempo weiter, und mit ihr wächst die Fähigkeit zu Fehlinformationen und böswilligen Absichten. Das Schadenspotenzial reicht von der Schädigung des persönlichen Rufs bis hin zur Bedrohung der nationalen Sicherheit. Die Menschen müssen vorsichtig sein, da der Verlust des Vertrauens in die Informationen, die wir hören und sehen, erhebliche Auswirkungen auf die Privatsphäre, Institutionen und sogar die Demokratie haben kann", sagt Monika Sackute, Country Manager DACH beim Cybersicherheitsunternehmen Surfshark.

Die beliebtesten Arten von Deepfake-Vorfällen

Surfshark kategorisiert Deepfake-Vorfälle in vier Kategorien: Explizite Inhaltserstellung, Betrug, politisch brisante Inhalte und sonstige Inhalte. Im ersten Quartal 2025 ergeben sich folgende Kennzahlen:

• Die Zahl der Vorfälle mit expliziten Inhalten stieg auf 53 und übertraf damit die 26 aus dem Vorjahr;
• Betrug meldete 48 Vorfälle und erreichte damit fast die Gesamtzahl von 56 aus dem Jahr 2024;
• Politische Vorfälle erreichten 40 und näherten sich damit der Zahl von 50 aus dem Jahr 2024;
• Verschiedene Inhalte stiegen auf 38 Vorfälle und übertrafen damit die Gesamtzahl von 18 aus dem Vorjahr.

Rückblickend auf das Jahr 2017 ist das beliebteste Format für Deepfake-Vorfälle das Video mit 260 gemeldeten Fällen. Das zweitbeliebteste Format ist Bild mit 132 gemeldeten Vorfällen. Die letzte Kategorie ist Audio, wo 117 Vorfälle registriert wurden.

Wer sind die Hauptziele?

Politiker wurden 56 Mal angegriffen, womit die Gesamtzahl von 62 im Jahr 2024 fast erreicht wurde. Auch wenn in Deutschland 2025 Wahlen anstanden, war 2024 das Wahljahr für viele Länder wie die USA, Frankreich und Österreich. Das trug viel zu diesen Zielen bei. Auch in der Öffentlichkeit gab es im ersten Quartal 2025 mehr Angriffe, ein Anstieg von 23 % im Vergleich zu 2024. Am stärksten betroffen waren jedoch Prominente mit einem Anstieg von 81 % im Vergleich zum gesamten Jahr 2024.

Seit 2017 wurden Prominente in 21 % der Vorfälle zur Zielscheibe von Deepfakes, das sind insgesamt 84 Fälle. Elon Musk wurde 20 Mal angegriffen, was 24 % der Vorfälle mit Prominenten entspricht. Taylor Swift folgt mit 11 Vorfällen, Tom Hanks mit 3. Kanye West, Emma Watson und Brad Pitt wurden jeweils 2 Mal zur Zielscheibe.

Politiker waren in 36 % aller Deepfake-Vorfälle verwickelt, insgesamt 143 Fälle seit 2017. Diese Aktivität, die oft in Wahlkampfzeiten zunimmt, wird genutzt, um politische Agenda durchzusetzen. Donald Trump ist mit 25 Vorfällen, die 18 % der Deepfakes im Zusammenhang mit Politikern ausmachen, am häufigsten betroffen. Joe Biden folgt mit 20 Vorfällen, hauptsächlich während der Wahlen, bei denen seine Stimme in Robocalls verwendet wurde. Kamala Harris und Volodymyr Zelenskyy hatten mit 6 bzw. 4 Vorfällen zu kämpfen.

Mit 166 Deepfake-Vorfällen war die Öffentlichkeit in 43 % der Fälle das Ziel. Davon entfielen 41 % auf Vorfälle im Zusammenhang mit verschiedenen Arten von Betrug, und 39 % dieser Fälle führten zur Erstellung expliziter Medien, d. h. es wurden keine autorisierten Bilder oder Videos von Personen erstellt.

Wie erkennt man einen Deepfake?

Laut Monika Sackute, Country Manager DACH beim Cybersicherheitsunternehmen Surfshark, wird die Erkennung von Deepfakes aufgrund ihrer weiten Verbreitung und ihres erhöhten Realismus immer schwieriger. Die Technologie, mit der Deepfakes erzeugt werden, übersteigt oft die Fähigkeiten der Erkennungsinstrumente. Die große Menge dieser Art von Online-Inhalten erschwert auch die Unterscheidung zwischen echten und unechten Inhalten. Es gibt jedoch einige Dinge, auf die Sie achten können, um ein Deepfake zu erkennen, darunter:

• Unnatürliche Bewegungen;
• Farbunterschiede;
• Inkonsistente Beleuchtung;
• Schlechte Lippensynchronität (Audio passt nicht zu den Lippenbewegungen);
• Unscharfe oder verzerrte Hintergründe;
• Verbreitungskanäle (es kann von einem Bot geteilt werden).

Frau Sackute weist auch darauf hin, dass illegale Deepfakes wie Missbrauch von Intimbildern oder „Rachepornos", Material über sexuellen Kindesmissbrauch, Hassverbrechen, Betrug, falsche Mitteilungen, terroristische Aktivitäten, Stalking und Belästigung oder Erpressung bei der Polizei angezeigt werden sollten. Darüber hinaus wird dringend empfohlen, Vorsichtsmaßnahmen zu ergreifen, wie z. B. eine geheime Passphrase mit den Angehörigen, insbesondere mit Kindern und älteren Menschen, für den Fall eines falschen Anrufs zu vereinbaren.

Hintergrundinformationen

Für diese Studie wurden Daten von Resemble.AI und der AI Incident Database verwendet, um einen kombinierten Datensatz mit Deepfake-Vorfällen seit 2017 zu erstellen. Berücksichtigt wurden Vorfälle, bei denen gefälschte Videos, Bilder oder Audios erzeugt wurden und über die in den Medien berichtet wurde.

Diese Vorfälle wurden in die Kategorien Betrug, Erzeugung expliziter Inhalte, politisch brisante Inhalte und Sonstiges eingeteilt. Außerdem wurden die Zielgruppen kategorisiert: Politiker, Prominente und die allgemeine Öffentlichkeit. Wir führten Analysen durch, um die Prävalenz der einzelnen Kategorien zu ermitteln und zu untersuchen, welche Art von Vorfällen diese Kategorien abdecken. Das vollständige Forschungsmaterial zu dieser Studie finden sich hier. Surfshark ist ein Cybersecurityunternehmen, das sich auf die Entwicklung von humanisierten Datenschutz- und Sicherheitslösungen konzentriert.