Das US-amerikanische KI-Unternehmen Anthropic hat ein Verfahren zur unsichtbaren Kennzeichnung von Texten eingeführt, die durch das Sprachmodell Claude generiert wurden. Diese Wasserzeichen sollen die Beteiligung künstlicher Intelligenz bei der Erstellung von Inhalten nachweisbar machen, ohne dabei eine qualitative Bewertung der Texte vorzunehmen.
Die neue Technologie ist so konzipiert, dass sie weder die Bedeutung noch die Qualität oder die Lesbarkeit der generierten Texte beeinträchtigt. Laut Unternehmensangaben ist das Wasserzeichen robust gegenüber nachträglichen Änderungen; es soll auch nach Bearbeitungen des Textes weiterhin auslesbar bleiben. Ziel dieser Maßnahme ist es, die Transparenz über den Ursprung von Inhalten zu erhöhen.
Technische Standards und Detektions-API
Parallel zur Kennzeichnung von Texten integriert Anthropic nun auch C2PA-Provenienz-Metadaten für Dateien. Bei Bildern kommen dabei Metadaten zum Einsatz, die mit einer digitalen Signatur versehen sind, um deren Ursprung zweifelsfrei dokumentieren zu können.
Wie aus Berichten von Anfang September hervorgeht, ist die Identifizierung dieser Wasserzeichen jedoch ein probabilistischer Prozess. Eine Erkennung liefert demnach keinen absoluten Beweis, sondern weist eine hohe Wahrscheinlichkeit für die Beteiligung einer KI aus.
Für berechtigte Organisationen stellt das Unternehmen eine private API zur Detektion bereit. Damit können Institutionen prüfen, ob vorliegende Inhalte mit den Systemen von Anthropic erstellt wurden. Diese technische Infrastruktur ist Teil der Bemühungen, den Missbrauch von KI-generierten Inhalten zu erschweren und die Herkunft digitaler Erzeugnisse besser nachvollziehbar zu machen.
Wer sich mit der Kennzeichnung von Inhalten befasst, muss auch die rechtlichen Rahmenbedingungen der neuen EU-Gesetzgebung kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Rechtlicher Rahmen und europäische Vorgaben
Die Einführung der Wasserzeichen erfolgt vor dem Hintergrund strengerer regulatorischer Anforderungen, insbesondere durch den EU AI Act. Gemäß Artikel 50(2) der Verordnung müssen KI-Anbieter sicherstellen, dass ihre Systeme generierte Inhalte so kennzeichnen, dass sie als solche erkennbar sind. Seit dem 2. August 2026 gilt in der Europäischen Union die Pflicht zur Kennzeichnung von KI-generierten Inhalten.
Anthropic setzt mit diesem Schritt zudem Verpflichtungen aus einem EU-Verhaltenskodex um, den das Unternehmen im Juli 2026 unterzeichnet hat. Damit passt das Unternehmen seine technische Entwicklung an die globalen Bestrebungen an, Standards für die Sicherheit und Transparenz von künstlicher Intelligenz zu etablieren.
Grenzen der automatisierten Erkennung
Trotz der technischen Neuerungen mahnen Experten zur Vorsicht bei der Bewertung der Erkennungssicherheit. Karolina Rudnicka, Linguistin an der Universität Gdańsk, wies darauf hin, dass derzeit kein Algorithmus in der Lage sei, KI-Texte mit einer Sicherheit von 100 Prozent zu identifizieren. Jedes KI-Modell entwickle einen eigenen sprachlichen Stil, den die Forscherin als „Chatolect“ bezeichnet.
Die neuen Regeln zur Transparenz stellen viele Unternehmen vor große Herausforderungen bei der Dokumentation ihrer KI-Systeme. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und was jetzt konkret zu tun ist. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Interessanterweise deuten Beobachtungen darauf hin, dass Menschen oft eine höhere Sensibilität für die Erkennung von KI-Inhalten besitzen als rein automatisierte Systeme. Die probabilistische Natur der Wasserzeichen unterstreicht die Komplexität der Unterscheidung zwischen menschlichen und maschinellen Erzeugnissen in einer zunehmend digitalisierten Informationslandschaft.
