Es ist eine spannende Entwicklung: Nachdem in der europäischen Union der AI Act gilt (siehe Der EU AI Act ist veröffentlicht -tritt am 1. August 2024 in Kraft), reagiert Anthropic. Deren Modell Claude wird KI-Erzeugnisse für Nutzer in der EU durch Einfügungen eindeutig als KI-generiert kennzeichnen.
Seit dem 2. August 2026 gilt die erste Stufe der AI-Transparenzverordnung. Diese verpflichtet Anbieter, die KI generierte Inhalte veröffentlichen, zu kennzeichnen. Ich hatte im Blog-Beitrag Ab dem 2. August 2026 gelten die EU AI-Transparenzregeln berichtet.
Nun hat Anthropic bereits bei seinem Produkt Claude reagiert. Christophe Boutry weist in einem Tweet darauf hin, was Anthropic in seiner Hilfeseite How Claude marks AI-generated content mit Stand 11. August 2026 erklärt hat.
Anthropic hat als Anbieter sowohl von generativen KI-Modellen als auch von generativen KI-Systemen den Verhaltenskodex gemäß Artikel 50 Absatz 2 des EU-KI-Gesetzes zur Transparenz von KI-generierten Inhalten unterzeichnet. In der Anthropic-Hilfeseite wird beschrieben, wie der Anbieter diese Verpflichtungen in die Praxis umsetzen willen, wie die Kennzeichnung funktioniert und welche Einschränkungen dabei bestehen.
- Neue Modelle werden KI-generierte Inhalte vom ersten Tag an kennzeichnen. Claude-Modelle, die am oder nach dem 2. August 2026 in der EU eingeführt werden, werden bereits bei ihrer Einführung maschinenlesbare Kennzeichnungen unterstützen. Generierte Texte werden eingebettete Wasserzeichen enthalten, und generierte Dateien werden, sofern unterstützt, digital signierte Metadaten zur Herkunft enthalten.
- Die Kennzeichnung funktioniert überall dort, wo Claude verwendet wird. Die Kennzeichnungen gelten für die Ausgaben von unterstützten Claude-Modellen auf der gesamten Claude-Plattform (API), in Claude, Claude Code, Claude Cowork und Claude Tag sowie überall dort, wo Claude weltweit angeboten wird. Einige Plattformen oder Funktionen unterstützen möglicherweise bestimmte Kennzeichnungstypen nicht.
- Anthropic will dabei helfen, die Kennzeichnungen von Claude zu erkennen. Das Unternehmen wird Nutzer und andere Dritte dabei unterstützen, die Kennzeichnungen von Claude gemäß den Anforderungen des EU AI Acts zu erkennen. Einzelheiten sollten noch veröffentlicht werden.
Bei bestehenden Modellen wird derzeit daran gearbeitet. Der EU AI Ac sieht eine Übergangsfrist für Anthropic-Modelle (bis Dezember 2026) vor, die vor dem 2. August 2026 eingeführt wurden. Anthropic arbeitet daran, die Unterstützung für die Kennzeichnung hinzuzufügen.
Christophe Boutry schreibt, dass es sich nicht um einfache Metadaten oder ein verstecktes Tag handelt, das man einfach entfernen könnte. Die Kennzeichnung wird direkt in die Generierung des Textes integriert, auf Modell-Ebene. Wenn Claude die Wörter/Tokens auswählt, die seine Antwort bilden, fügt er ein statistisches Signal ein, das für den Leser unmerklich ist. In einem ausreichend langen Text kann ein Detektionstool dann dieses Signal suchen und feststellen, ob der Inhalt wahrscheinlich von Claude verarbeitet wurde.
Ein einfaches Kopieren und Einfügen in Word, Notizen, eine Webseite oder eine Textdatei sollte die Kennzeichnung nicht entfernen, da sie vom Text selbst getragen wird. Hingegen kann eine umfangreiche Umarbeitung, eine Paraphrase, eine Übersetzung oder das Mischen mit anderen Texten das Signal ausreichend degradieren, um es unerkennbar zu machen. Anthropic gibt das auch explizit zu.
Für Bilder und bestimmte Dateien (.PNG, .JPG, .SVG…) wird Claude ebenfalls Provenienz-Metadaten nach dem C2PA-Standard verwenden. Diese ermöglichen insbesondere die Überprüfung, ob eine Datei von Claude verarbeitet wurde, und die Kontrolle der Integrität dieser Provenienz.
Ähnliche Artikel:
Der EU AI Act ist veröffentlicht -tritt am 1. August 2024 in Kraft
Ab dem 2. August 2026 gelten die EU AI-Transparenzregeln
MVP: 2013 – 2016
