TikTok Likeness Detection: Neues Tool spürt KI-Deepfakes von Personen auf

Betroffene können KI-Videos mit ihrem Abbild melden; ein neues Prüfwerkzeug erkennt zudem Inhalte aus TikTok- und ByteDance-Anwendungen.

•

Die Kurzvideo-Plattform TikTok hat den weltweiten, schrittweisen Rollout einer Erkennungsfunktion für Personenabbildungen begonnen. Mit der sogenannten Likeness Detection erhalten berechtigte Personen des öffentlichen Lebens, Politiker, Regierungs- und Parteikonten sowie reichweitenstarke Creator die Möglichkeit, mithilfe von künstlicher Intelligenz erstellte Inhalte mit ihrem Abbild ohne Einwilligung aufzuspüren und zu melden.

Die Neuerung wurde am 19. November auf dem dritten Safety and Innovation Forum des Unternehmens in London vorgestellt. Ziel des Rollouts ist unter anderem der Schutz vor Desinformation und Identitätsmissbrauch im Vorfeld der Wahlen in Europa im Jahr 2027, darunter Urnengänge in Italien, Frankreich und Griechenland.

Francesca Scapolo, zuständig für Regierungsbeziehungen im Bereich europäische Wahlen bei TikTok, bezeichnete die Integrität von Wahlen während der Veranstaltung als eine der kritischsten Verantwortungen des Unternehmens.

Ablauf der Erkennung und Meldeprozess

Für die Nutzung des Dienstes ist eine Registrierung über eine Identitätsverifizierung durch externe Partner erforderlich. TikTok betont dabei, keine Ausweisdokumente der Nutzer zu speichern. Nach der Erfassung von Gesichts- und Stimmmerkmalen werden berechtigte Kontoinhaber automatisch über verdächtige KI-Videos benachrichtigt.

Eine Löschung erfolgt allerdings nicht vollautomatisch: Die betroffenen Personen müssen den Inhalt aktiv melden, woraufhin die Prüfung durch die Sicherheitsteams von TikTok eingeleitet wird.

Tom Varghese, globaler Leiter für den Bereich AI Public Policy bei TikTok, verwies darauf, dass Verstöße gegen die Community-Richtlinien in Bezug auf schädliche, irreführende oder nicht einvernehmliche Darstellungen von der Plattform entfernt werden.

Eine bestimmte Mindestzahl an Followern für den Zugang zu der Funktion nannte das Unternehmen bisher nicht. Auch andere Plattformen wie YouTube verfügen bereits über vergleichbare Mechanismen zur Erkennung von Personenabbildungen.

Neues Prüfwerkzeug im Transparenzzentrum

Anzeige

Wer KI-Systeme professionell einsetzt oder entwickelt, muss die neuen gesetzlichen Rahmenbedingungen genau kennen, um rechtliche Risiken zu vermeiden. Dieser praxisnahe Leitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen

Parallel dazu hat TikTok ein öffentlich zugängliches Werkzeug in seinem Transparency Centre freigeschaltet. Dieses erlaubt es jedem Nutzer – auch ohne eigenes Konto –, Bild- und Videodateien daraufhin zu untersuchen, ob sie mit KI-Werkzeugen von TikTok erstellt oder bearbeitet wurden.

Das Prüfsystem analysiert C2PA Content Credentials sowie das proprietäre, unsichtbare Wasserzeichen VeraDura von TikTok. Das Unternehmen ist seit 2024 Mitglied der Standardisierungsinitiative C2PA.

Das Werkzeug verarbeitet Dateiformate wie JPEG, PNG und MP4 mit einer maximalen Dateigröße von 20 Megabyte für Bilder sowie 100 Megabyte für Video- und Audiodateien. Hochgeladene Dateien werden nach Unternehmensangaben unmittelbar nach der Überprüfung gelöscht und nicht für das Training von KI-Modellen verwendet.

Anzeige

Die rasante Entwicklung von Deepfakes stellt Unternehmen vor völlig neue Herausforderungen bei der Risikodokumentation und Qualitätssicherung. Erfahren Sie in diesem kostenlosen E-Book, welche KI-Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen

Das Tool weist jedoch technische Grenzen auf: Es liest ausschließlich Metadaten und Markierungen aus Anwendungen des Mutterkonzerns ByteDance aus, zu denen neben TikTok auch CapCut, Dreamina, Hypic und Pippit gehören. Wasserzeichen externer KI-Generatoren wie Grok oder Midjourney werden nicht erfasst.

Strengere Transparenzvorgaben in der Europäischen Union

TikTok gibt an, bereits über 5 Milliarden KI-generierte Videos auf der Plattform mit entsprechenden Kennzeichnungen versehen zu haben. Das Unternehmen verlangt seit mehreren Jahren die Deklaration realistischer synthetischer Medien und ging im Juli gegen reine KI-Video-Konten vor.

Im Jahr 2025 hatte das Unternehmen zudem angekündigt, die Moderation durch Technik weltweit zu reduzieren. Um Inhalte zu prüfen, arbeitet die Plattform mit über einem Dutzend bezahlter Fact-Checking-Organisationen zusammen, darunter AFP.

Der Vorstoß erfolgt vor dem Hintergrund regulatorischer Verschärfungen: Seit dem 2. August gelten die Transparenzvorschriften des EU-KI-Gesetzes, die unter anderem eine verbindliche Kennzeichnungspflicht für Deepfakes vorsehen.

Im Rahmen der Veranstaltung in London kündigte TikTok zudem Neuerungen bei den Jugendschutzeinstellungen, einen Leitfaden für Lehrkräfte sowie einen technischen Test der europäischen Brieftasche für digitale Identität zur Altersverifikation an.