Der KI-Entwickler Anthropic hat die Einführung eines globalen Systems zur Kennzeichnung von Inhalten bekannt gegeben, die durch die KI-Modelle der Claude-Serie erstellt wurden.
Durch den Einsatz digitaler Wasserzeichen und spezieller Metadaten sollen künftig sowohl Texte als auch Bilder eindeutig als maschinengeneriert identifizierbar sein. Diese Maßnahme erfolgt vor dem Hintergrund verschärfter regulatorischer Anforderungen, insbesondere innerhalb der Europäischen Union.
Statistische Muster und Metadaten zur Identifizierung
Die technische Umsetzung der Kennzeichnung unterscheidet sich je nach Medientyp. Für Texte nutzt Anthropic das Verfahren SynthID-Text, bei dem ein statistisches Muster in die Wortwahl integriert wird.
Dieses Wasserzeichen verzichtet auf versteckte Zeichen und basiert stattdessen auf der Wahrscheinlichkeitsverteilung der generierten Begriffe. Laut Unternehmensangaben bleibt die Markierung auch bei leichten Bearbeitungen des Textes erhalten, könne jedoch durch ein vollständiges Umschreiben der Inhalte entfernt werden.
Wer sich mit den rechtlichen Anforderungen an die Kennzeichnung von KI-Inhalten befasst, findet in diesem kostenlosen E-Book einen kompakten Überblick über alle neuen Pflichten des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Für generierte Bilder setzt das Unternehmen auf Metadaten, die nach dem C2PA-Standard (Coalition for Content Provenance and Authenticity) signiert sind. Diese digitalen Herkunftsnachweise sollen die Rückverfolgbarkeit der visuellen Inhalte sicherstellen.
Die neuen Kennzeichnungspflichten gelten für alle Modelle des Unternehmens, die nach dem 2. August 2026 veröffentlicht wurden. Um die Überprüfung der Markierungen zu ermöglichen, kündigte Anthropic zudem die Bereitstellung einer speziellen Erkennungs-API an.
Konformität mit dem EU AI Act
Mit der globalen Einführung dieser Wasserzeichen reagiert Anthropic direkt auf die rechtlichen Rahmenbedingungen des EU AI Acts. Artikel 50(2) dieses Gesetzes schreibt vor, dass KI-generierte Inhalte mit maschinenlesbaren Markierungen versehen werden müssen.
Das Unternehmen gehört zudem zu den rund 190 Organisationen, die den EU-Verhaltenskodex (EU Code of Practice) unterzeichnet haben, um die Sicherheit und Transparenz von KI-Systemen zu fördern.
Die neuen Regeln zur Risikodokumentation und Qualitätssicherung stellen viele Unternehmen vor große Herausforderungen – dieser kostenlose Report klärt auf, was jetzt konkret zu tun ist. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Die Einhaltung dieser Vorschriften ist für Anbieter von KI-Modellen von hoher wirtschaftlicher Bedeutung. Bei Verstößen gegen die Bestimmungen des EU AI Acts drohen Bußgelder in Höhe von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes. Die Implementierung der Wasserzeichen dient somit auch der Absicherung gegen rechtliche Risiken im europäischen Markt.
Herausforderungen bei der Erkennungsgenauigkeit
Trotz der Einführung herstellereigener Kennzeichnungen bleibt die Zuverlässigkeit externer Detektoren ein Thema in der Branche. Branchenbeobachter weisen darauf hin, dass die Wasserzeichen von Claude für verbreitete Erkennungswerkzeuge wie Turnitin derzeit nicht lesbar seien.
Andere Detektoren wie GPTZero erreichen bei der Identifizierung von Claude-Inhalten eine Genauigkeit zwischen 71 % und 83 %. Zum Vergleich liegt die Erkennungsrate bei Inhalten von ChatGPT mit 87 % bis 93 % etwas höher.
Zudem verdeutlichen wissenschaftliche Untersuchungen die Problematik automatisierter Erkennungssysteme. Eine Studie der Stanford University zeigte auf, dass bei der Analyse von Aufsätzen, die von Nicht-Muttersprachlern verfasst wurden, eine Fehlalarmquote von 61,3 % auftrat. Dies unterstreicht die Schwierigkeit, zuverlässig zwischen menschlicher und maschineller Textproduktion zu unterscheiden, insbesondere wenn statistische Merkmale als Grundlage dienen.
Anthropic positioniert sich mit der Einführung der eigenen Wasserzeichen-Technologie als Akteur, der proaktiv an einer Standardisierung der Herkunftsnachweise arbeitet.
