Es ist eine spannende Entwicklung: Nachdem in der europäischen Union der AI Act gilt (siehe Der EU AI Act ist veröffentlicht -tritt am 1. August 2024 in Kraft), reagiert Anthropic. Deren Modell Claude wird KI-Erzeugnisse für Nutzer in der EU durch Einfügungen eindeutig als KI-generiert kennzeichnen.
Seit dem 2. August 2026 gilt die erste Stufe der AI-Transparenzverordnung. Diese verpflichtet Anbieter, die KI generierte Inhalte veröffentlichen, zu kennzeichnen. Ich hatte im Blog-Beitrag Ab dem 2. August 2026 gelten die EU AI-Transparenzregeln berichtet.
Nun hat Anthropic bereits bei seinem Produkt Claude reagiert. Christophe Boutry weist in einem Tweet darauf hin, was Anthropic in seiner Hilfeseite How Claude marks AI-generated content mit Stand 11. August 2026 erklärt hat.
Anthropic hat als Anbieter sowohl von generativen KI-Modellen als auch von generativen KI-Systemen den Verhaltenskodex gemäß Artikel 50 Absatz 2 des EU-KI-Gesetzes zur Transparenz von KI-generierten Inhalten unterzeichnet. In der Anthropic-Hilfeseite wird beschrieben, wie der Anbieter diese Verpflichtungen in die Praxis umsetzen willen, wie die Kennzeichnung funktioniert und welche Einschränkungen dabei bestehen.
- Neue Modelle werden KI-generierte Inhalte vom ersten Tag an kennzeichnen. Claude-Modelle, die am oder nach dem 2. August 2026 in der EU eingeführt werden, werden bereits bei ihrer Einführung maschinenlesbare Kennzeichnungen unterstützen. Generierte Texte werden eingebettete Wasserzeichen enthalten, und generierte Dateien werden, sofern unterstützt, digital signierte Metadaten zur Herkunft enthalten.
- Die Kennzeichnung funktioniert überall dort, wo Claude verwendet wird. Die Kennzeichnungen gelten für die Ausgaben von unterstützten Claude-Modellen auf der gesamten Claude-Plattform (API), in Claude, Claude Code, Claude Cowork und Claude Tag sowie überall dort, wo Claude weltweit angeboten wird. Einige Plattformen oder Funktionen unterstützen möglicherweise bestimmte Kennzeichnungstypen nicht.
- Anthropic will dabei helfen, die Kennzeichnungen von Claude zu erkennen. Das Unternehmen wird Nutzer und andere Dritte dabei unterstützen, die Kennzeichnungen von Claude gemäß den Anforderungen des EU AI Acts zu erkennen. Einzelheiten sollten noch veröffentlicht werden.
Bei bestehenden Modellen wird derzeit daran gearbeitet. Der EU AI Ac sieht eine Übergangsfrist für Anthropic-Modelle (bis Dezember 2026) vor, die vor dem 2. August 2026 eingeführt wurden. Anthropic arbeitet daran, die Unterstützung für die Kennzeichnung hinzuzufügen.
Christophe Boutry schreibt, dass es sich nicht um einfache Metadaten oder ein verstecktes Tag handelt, das man einfach entfernen könnte. Die Kennzeichnung wird direkt in die Generierung des Textes integriert, auf Modell-Ebene. Wenn Claude die Wörter/Tokens auswählt, die seine Antwort bilden, fügt er ein statistisches Signal ein, das für den Leser unmerklich ist. In einem ausreichend langen Text kann ein Detektionstool dann dieses Signal suchen und feststellen, ob der Inhalt wahrscheinlich von Claude verarbeitet wurde.
Ein einfaches Kopieren und Einfügen in Word, Notizen, eine Webseite oder eine Textdatei sollte die Kennzeichnung nicht entfernen, da sie vom Text selbst getragen wird. Hingegen kann eine umfangreiche Umarbeitung, eine Paraphrase, eine Übersetzung oder das Mischen mit anderen Texten das Signal ausreichend degradieren, um es unerkennbar zu machen. Anthropic gibt das auch explizit zu.
Für Bilder und bestimmte Dateien (.PNG, .JPG, .SVG…) wird Claude ebenfalls Provenienz-Metadaten nach dem C2PA-Standard verwenden. Diese ermöglichen insbesondere die Überprüfung, ob eine Datei von Claude verarbeitet wurde, und die Kontrolle der Integrität dieser Provenienz.
Gab auf X auch einen Tweet, der die Botschaft "dann nehme ich ein Script und entferne die Anthropic Claude-Markierung" zum Thema hatte und auf "die Idioten von der EU" schimpfte. Ist mir ein wenig zu einfach gestrickt. Natürlich könnte ich das so tun (ich kann auch andere Systeme über Schwachstellen hacken). Aber der EU AI Act ist eine Rechtsvorschrift, die nun gilt. Wenn ich jetzt eine Kennzeichnung entferne, obwohl ich kennzeichnen müsste, ist dies ein Verstoß gegen diese Rechtsvorschrift. Fällt die Manipulation auf (und KI-Texte sind bislang noch meist erkennbar), gäbe es Sanktionsmöglichkeiten.
Ähnliche Artikel:
Der EU AI Act ist veröffentlicht -tritt am 1. August 2024 in Kraft
Ab dem 2. August 2026 gelten die EU AI-Transparenzregeln
MVP: 2013 – 2016
Etwas wissenschaftlicher Hintergrund – wie könnte das gehen? "Watermark for Large Language Models" bei Kirchenbauer etal auf Arxiv (PDF). Z.B. via Warscheinlichkeit p und z-score.
Problem welches sich imho ergibt: Bei bekannter Systematik der Erkennung gibt es umgehend mögliche Verhinderung. Egal ob via Statistik oder "unvisible encoded chars". Dies scriptet man selbst mit 'ner Schleife, cat und sed auf Konsole weg. Damit ist fast jede Diskussion die derzeit zur "sicheren Erkennung" propagiert wird terminiert. Simples Umformulieren sollte jedoch bei statistischen Verfahren wirksam sein. Tja, zumindest bis zu einer "sicheren" Beurteilung nach irgendeinem empirischen Quantil, ob 80, 95 oder 99% – jedoch eben nicht 100%.
Auch der o.g. Standard C2PA hat Haken – will man z.B. die inherente Kommunikation im "Trust Modell" und unnötig Nutzung offenlegen und versenden? JSON ist nebenbei nun wirklich nicht un-editable…
Die vage Qualität und Validität der Aussage belegt m.E. Claude per obiger Aussage in Section "Limitations" ebenso selbst. Wenn derzeit KI-Content ohne Existenz der Referenz von Gerichten in DE genutzt wird (Heise) haben wir 'eh weitere Probleme: Der Ersteller hat im verlinkten Beschluss nicht einmal die URL in amtlichen Dokumenten für den EuGH bereinigt: "utm_source=chatgpt.com" (STRG+F – S. 14,15).
Interessanter Artikel; danke.
Erwartungsgemäß wirkt sich das vorgeschlagene Verfahren stark auf den KI-generierten Output aus. Bei den gegebenen "Aufsatz-artigen" Beispielen mag das kein Problem sein. Ich frage mich aber, ob das im Fall von präziseren erwarteten Informationen, insbesondere etwa bei der Code-Generierung, auch noch funktionieren würde?
Das PDF von Kirchenbauer ist sehr interessant, aber auch schwer zu verarbeiten/verstehen. Ich habe mir das daher mal per KI verständlich erklären lassen: Im Grunde geht es darum, dass die KI einen "Schlüssel" nutzt, um zu entscheiden, welche (im jeweiligen Kontext) synonyme Worte (z.B. Haus/Gebäude, laufen/gehen, bike/bycicle) in den Text eingebaut werden. Je nach Schlüssel werden dann "grün" (Haus) oder "rot" (Gebäude) markierte Worte im Text verwendet. Wenn der Schlüssel bekannt ist, kann dann ein Prüfalgorythmus ein Verhältnis zwischen "grünen" und "roten" Wörtern bilden und somit ermitteln, ob die KI mit ihrem Schlüssel den Text generiert hat. Je mehr "rote" Wörter verwendet werden, um so wahrscheinlicher ist, dass "diese" KI mit diesem KI das erzeugt hat. Meiner Meinung nach funktioniert das aber nicht, und die von mir verwendete KI bestätigt meine Überlegung. Denn da ist der Haken an der Sache, denn jemand kann den Text durch einen relativ dummen Thesaurus rennen lassen und dabei "rote" durch "grüne" Synonym-Worte ersetzen, ohne dass der Sinn des Textes verändert wird, aber damit ist die Erkennung ausgetrickst. Oder man liefert den Schlüssel nicht mit, er ist nicht öffentlich – oder es gibt keinen weil tasächlich durch eine Person geschrieben. Wenn aber der Schlüssel unbekannt ist, wird der Aufwand noch höher, denn dann müsste die erzeugende KI selbst bestätigen, dass der Text mit ihrem (geheimen) Schlüssel erzeugt wurde. Wenn man dann nicht weiß, welche KI den Text generiert hat, wirds noch aufwendiger, denn dann müsste man alle erreichbaren KIs befragen, ob sie den Text erzeugt haben. Der Aufwand wird immens und führt zu nichts, wenn jemand ein privates LLM verwendet hat, oder das LLM Zeit- oder benutzerabhängige Schlüssel zur Texterzeugung verwendet. Oder man würde in dem Fall annehmen, dass der Text tatsächlich von einer Person geschrieben wurde, was aber dann auch nur erraten ist. Nichtmal das Ablegen des Schlüssels in den Meta-Daten eines Dokuments (vergleiche EXIF-Daten bei einer Bilddatei oder MP3-Tags, oder eingebettete Kommentare) würde helfen, denn das alles ist manipulierbar und reine ASCII-Texte unterstützen so etwas nicht.
Andere Möglichkeit ist, dass die KI in Texte bestimmte Unicode Zeichen einschleust (die man entweder nicht sieht, oder genauso aussehen wie die üblichen Zeichen, aber anderen Unicode haben) Dazu gabs doch auch mal einen Artikel.
Hier noch etwas zu Claude Code:
Zitat aus Heise:
Anthropic macht Auto-Modus bei Claude Code zum Standard
Anthropic stellt sein Coding-Tool Claude Code ab dem 14. August auf den Auto-Modus als Standard um. Das Werkzeug arbeitet dann eigenständig und wartet nicht mehr bei jedem Schritt auf eine manuelle Freigabe. Ein Klassifikator prüft, ob eine Aktion gefährlich ist, und fragt nur dann nach…
https://www.heise.de/news/KI-Update-kompakt-KI-Robotik-DiffusionGemma-Google-DeepMind-Bakteriophagen-11406292.html
Da wird dann wieder eine Welle mit kleinen und größeren Katastrophen losgelöst, wenn die Entwickler erwarten, es wird nachgefragt und Claude löscht dann von selber…
>> Andere Möglichkeit ist, dass die KI in Texte bestimmte Unicode Zeichen einschleust
Das könnte man dann aber mit einem kleinen Progrämmchen ganz einfach entfernen.
Ja klar. Aber selbst die Sperren innerhalb von KI Modellen lassen sich angeblich leicht entfernen. Ich habe da keine Erfahrung, aber so gesehen ist das wie mit jedem Schutz…
@Viebrix; Ja, diverse Quellen gab es. Meine Bibliothek kennt z.B. Unicode in GPT-o3 und o4 bei Golem. Dies wären oben im Text die "unvisible encoded chars". Oder durch Dich genannte Nutzung "ähnlicher Zeichen" deren Verwendung schon Jahre auch zum Faking von URLs (bspw. Heise) genutzt wird.
@Bernd; Deine Frage "präziseren erwarteten Informationen [..] bei der Code-Generierung" ist absolut berechtigt. Spontan sehe ich keine tragbare Lösung. Es kann, sollte und darf imho wohl "im Code"(im Sinne von inline) keine beweissichere oder zuverlässige Kennzeichnung geben. Man denke an notwendige strukturelle Umstellung von Syntax oder Semantik bis zu Sicherheit oder Sinnhaftigkeit versteckter Unicode beim Parsing… Allgemein ersetzen wir "sichere Aussagen" dabei allenfalls durch Wahrscheinlichkeit p = xy.
Darf ich fragen was Du beruflich machst (also nicht genau welches Unternehmen und welche Position.. Datenschutz ;) ) Aber Deine Interessen und die Bandbreite Deines Know Hows ist schon bemerkenswert.
Ist lächerlich, die stellen den fertigen Text in ein bestimmtes "Online-Übersetzungsprgram" (DE-EN) und dann (EN-DE) und das Wasserzeichen ist futsch. Ergo, alles ohne echten Nutzen.
Da spricht der reine Theoretiker.
Schon mal selber ein Text in ein andere Sprache und wieder zurück übersetzen lassen mit einem der Übersetzungsprogramme? Da bekommt man nicht den Ursprungstext zurück (würde dann zum vertuschen auch kein Sinn machen), aber höchstwahrscheinlich ist der Inhalt danach auch Fehlerhaft und muss per Hand überarbeitet werden. Noch lustiger wird es wenn man das ganze 3-4 Mal macht, taugt inhaltlich dann nur noch zur Belustigung. Und noch besser wird es wenn das Übersetzungstool selber KI nutzt, dann hat man danach das nächste Wasserzeichen drin ;-)
Man kann ein kleines lokales Modell nehmen, welches kein Watermark hat und damit dann den Text verändern lassen.
Allerdings erkennt man KI Texte sowieso oft an der sehr selbstbewussten Art und Weise.
3, 2, 1, neue Marktlücke wird erschlossen mit KI-Skills oder Agenten oder wie man das nennen mag, die solche Markierungen entfernen.
Ich formuliere es mal so – ist oben ja bereits angedeutet: Wenn jemand so blöde ist, die AI-Content-Markierungen, die Claude ihm generiert, per Agent oder Script entfernen zu lassen, obwohl er das Ergebnis laut EU AI Act kennzeichnen muss, werden sich Abmahnanwälte und Konkurrenten die Hände reiben.
Ich finde vor allem die Denke (ist mir auch auf X untergekommen) einfach unglaublich: Da gibt es eine Regelung, die Kennzeichnung vorschreibt – ist auch kein großer Akt und tut nicht weh. Jetzt macht Claude das automatisch. Das Einzigste, was dann das Denken der Leute anregt: "Wie kriege ich diese Markierung weg". Kannst Du dir nicht ausdenken …
Das ist tatsächlich pauschal nicht ganz richtig!
Kennzeichnungspflichtig wäre z.B nur ein unkontrolliert veröffentlichter KI Text. Nicht kennzeichnungspflichtig ist ein Text der von einer KI erstellt, aber von einem Menschen kontrolliert und dann veröffentlich wurde.
Claude schießt mit der Kennzeichnung aller Vorgänge vorsorglich über das Ziel hinaus, da Claude natürlich nicht nachvollziehen kann in welcher Form das Ergebnis genutzt wird. Das entfernen einer Kennzeichnung kann also im Einklang mit dem EU AI Act sein bzw. verstößt nicht gegen die Richtlinie.
https://digital-strategy.ec.europa.eu/de/policies/eu-icons-labelling-ai-generated-content
Gruß
Wenn ich an die ganzen Plagiatsaffären denke, dann wundert mich das überhaupt nicht. Die Hörsäle, insbesondere (aber nicht nur) in den Geisteswissenschaften, sind voll von solchen Leuten.
Das gravierendere Problem ist, dass die damit durchkommen und Karriere machen. Bis in den Plenarsaal.
Finde den Fehler.
Bis in den Plenarsaal kommt man auch mit Hauptschulabschluss und ohne eine berufliche Ausbildung, dafür benötigt man keine KI generierten Arbeiten.
Ich bin der persönlichen Meinung das das bekleiden eines Ministerpostens mind. einen gewissen schulischen Grad erfordert, oder eine Ausbildung und/oder entsprechende Jahre Erfahrung in einem Bereich das den Aufgabengebiet des Ministerpostens im einem Minimalansatz entspricht. Ich kann einfach nicht nachvollziehen wie man Fachfremde Personen auf Ministerposten setzen kann und sich dann wundert das nix funktioniert.
Ein Ministerposten sollte vor allem ein für den jeweiligen Posten relevante Ausbildung/Können vorraussetzen!
Sonst bleiben wir beim Stand heute: Absolute Pfeifen ohne Ahnung auf dem Posten!
Ein Posten dürfte von fachfremden Personen überhaupt nicht besetzt werden.
Das Problem dabei? Ein Haufen arbeitsloser Politiker, da man sie nirgends einsetzen könnte!
keine relevante Ausbildung, Pfeifen ohne Ahnung, fachfremd, …
Hast du in den Spiegel geschaut und die Wahrheit endlich erkannt?
Ganz schön finstere Beiträge hier, dabei ist der Mond noch garnicht vor der Sonne!
So einige wollen vermutlich lieber nicht aufdecken, dass sie ihre tollen teueren Agentur- oder Marketing- oder Ghostwriting- o.ä. Dienstleitungen mit KI erstellen, die suchen jetzt garantiert solche Lösungen, das ist so unglaublich nicht.
@GB
Ich denke, Schüler haben sicherlich ein Interesse das zu entfernen und man versteht auch warum. Das es natürlich nicht richtig ist und ihnen selbst schadet – ist eine andere Sache.
Aber wenn dann in Mailprogrammen irgendwann eine Anzeige aufleuchten wird: Vorsicht das ist ein KI generierter Text…
….und die mama dann ganz böse auf die Tochter den Sohn ist, weil das Mail von der KI formuliert war … Dann werden sich Dramen abspielen …
Muss nicht die Mama sein, kann auch die Freundin oder das Date sein … (Filme spielen sich in meinem Kopf ab)
Update zur Cloud-Watermark:
https://www.anthropic.com/news/claude-text-watermark
https://www.golem.de/news/umsetzung-der-eu-vorgaben-claudes-wasserzeichen-laesst-sich-kaum-entfernen-2608-211982.html