Kurze Erinnerung, bevor der Sachverhalt an uns vorbei rauscht. Zum heutigen 2. August 2026 wird die erste Stufe der AI-Transparenzverordnung wirksam. Diese verpflichtet Anbieter, die KI generierte Inhalte veröffentlichen, zu kennzeichnen. Wenn also beispielsweise ein Anruf, ein Video, ein Bild, oder ein Text durch KI erstellt wird, muss das (in vielen Fällen) klar erkennbar sein.
Transparenzpflichten nach Art. 50 KI-VO
Ich hatte es am Morgen bereits kurz im Radio vernommen, bin aber auch über nachfolgenden Tweet erneut auf den Sachverhalt gestoßen.
Das Ganze ist in Art. 50 KI-VO (Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme) geregelt. Der Artikel 50 der KI-Verordnung unterscheidet dabei klar bestimmte Gruppen. Hier ein komprimierter Auszug der Auflagen:
- Anbieter müssen sicherstellen, dass KI‑Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI‑System interagieren. Die Ausnahme ist, wenn aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist.
- Anbieter von KI‑Systemen (auch mit allgemeinem Verwendungszweck), die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI‑Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.
- Die Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren die davon betroffenen natürlichen Personen über den Betrieb des Systems und verarbeiten personenbezogene Daten gemäß den Verordnungen (EU) 2016/679 und (EU) 2018/1725 und der Richtlinie (EU) 2016/680.
- Betreiber eines KI‑Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Auch Betreiber eines KI‑Systems, das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.
Der Artikel 50 der KI-Verordnung definiert aber als Ausnahme: "Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI‑Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen."
Muss jetzt alles gekennzeichnet werden?
Das Bild von "Onkel Otto, per KI in einer eigenen Umgebung generiert und als privater Party-Spaß gedacht", dürfte da nicht darunter fallen. Der WDR hat in diesem Artikel eine grobe Leitlinie für private, halb private oder ehrenamtliche Tätigkeiten (z.B. in Vereinen) sowie in Social Media-Profilen veröffentlicht. Vieles kann schnell in Graubereiche abdriften. Bei Facebook habe ich heute gesehen, dass bei Posts ein "KI-Label" ausgewählt werden kann.
Aber die Werbung mit Prominenten, die über Deep-Fakes für Investments, Medikamente etc. missbraucht werden, fallen sicherlich unter Artikel 50 der KI-Verordnung.
Praktische Handreichungen zu den Transparenzverpflichtungen
Von der EU gibt es seit dem 20. Juli 2026 Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme. Die verlinkte Seite hält neben den Leitlinien auch FAQs und Faktenchecks zum Thema bereit. Sollte die erste Referenz für Fragen sein.
Die IHK-Köln hat im Artikel KI-Verordnung: Neue Transparenzpflichten ab August 2026 ganz praktische Hilfestellung gegeben, was gekennzeichnet werden muss und was nicht, und wie eine Kennzeichnung erfolgen kann. Den Artikel fand ich ganz hilfreich.
Der ECO-Verband kritisiert, dass die EU-Kommission erst wenige Tage vor Inkrafttreten der AI-Transparenzpflicht ihre Leitlinien veröffentlicht habe. ECO hat dieses PDF-Dokument mit Hinweisen zur AI-Transparenzpflicht veröffentlicht.
Interessant fand ich diesen Artikel zum Thema, der erwähnt, dass diese Verpflichtungen zwar ab dem 2. August 2026 gelten. Allerdings räumt die vorläufige Einigung zum AI-Omnibus-Paket vom Mai 2026 generativen KI-Systemen, die bereits vor diesem Datum auf dem Markt waren, eine Frist bis zum 2. Dezember 2026 ein, um die Anforderungen an die maschinenlesbare Kennzeichnung gemäß Artikel 50 Absatz 2 zu erfüllen.
Ergänzung: Die Verbraucherzentrale Schleswig-Holstein hat in diesem Artikel ebenfalls einige Informationen aus Verbrauchersicht zum Thema zusammen getragen.
MVP: 2013 – 2016
Guten Morgen. Dies ist eine über das Ziel hinausschießende, lächerliche Vorschrift, sofern dies auch kleine und mittelständische Unternehmen trifft, welche zB KI für harmlose Werbegrafiken oder Texte einsetzen. Besonders grotesk ist dabei wenn das auch gilt, falls ein Bild oder ein Text nur nachgebessert wird. Ein anderes Thema in dem Zusammenhang: KI-basierte Telefonsysteme (sehr lästig übrigens).
Dabei kann es dem Verbraucher doch völlig egal sein, ob ein Logo oder ein Sonnenuntergangsbild von einem Menschen oder einer Software gemacht wurde. Ich verstehe nicht, wer sich da betrogen fühlen kann. Welches Unterschied macht es für den Konsumenten, ob ein Foto in Photoshop durch menschliche Arbeit oder durch KI aufgehübscht wurde?
Wenn man dieser Auslegung folgt (irgendwie hat wie immer keiner einen Plan) so ist dies Schikane der mittelständischen Wirtschaft wohl mit dem Ziel, Bußgelder zu kassieren.
„Unternehmen" sind nämlich nicht nur Weltkonzerne, sondern auch das kleinen Restaurant oder der Friseursalon um die Ecke.
Erst die Details lesen und dann ranten! Es zwingt niemanden ein "kleines Unternehmen" KI für seine Werbegrafiken zu verwenden – und wenn ja, soll er es angeben.
PS: Ich schaue gewohnheitsmäßig über die Prospekte von Aldi Süd nach "Keksen und Sonderangeboten wie Walking-Schuhe". Mir fällt seit Monaten der kleine Hinweis in der Art "Hintergrund KI-generiert" bei Abbildungen auf. Geht also, ist kein Aufwand und tut nicht weh … von Schikane kann ich nichts erkennen. Wer sich aber mal die Doku Hirschhausen und die Deepfake-Mafia von Ekkart von Hirschhausen angesehen hat, weiß, dass eine Regulierung bitter nötig ist – ob man die Hintermänner fangen kann, wird man sehen.
Da bin ich absolut bei dir.
In den nächsten Jahren wird KI (wahrscheinlich) in immer mehr Feldern eingesetzt, so dass dieser Hinweis änhlich inflationär wie Kooky Banner werden dürfte.
Und im Endeffekt ist es für den Endnutzer völlig irrelvant, ob eine Wetteransage oder eine Website unter Einsatz einer KI erfolgte oder nicht.
Aber Hauptsache der Kontinent der keine vernüftige KI besitzt hat sie ordentlich reguliert :-)
Mistral ist gar nicht so schlecht:
https://chat.mistral.ai
genau, wir bekommen zwar kaum noch etwas hin, dafür sind wir aber lächerlich gut darin, alles zu regulieren und in ein Regelwerk zu pressen.
Möglicherweise liegt es ja auch an dieser Überregulierung, dass man nichts mehr hinbekommt.
Aber irgendwie muss sich ja auch der Verwaltungsapparat für seine Existenz rechtfertigen.
Da bin ich eigentlich grundsätzlich bei dir… Was sollte es mich jucken, ob jemand für seine Präsentationsbilder, Werbebilder etc. KI nutzt?
Allerdings: Wo ist das Problem, da einen Sticker „KI generiert" dranzupappen? Ist kein Aufwand, kriegt auch ein Ein-Mann-Unternehmen hin!
Oder willst du ernsthaft behaupten, ein kleines Restaurant ist in der Lage, KI zu nutzen, aber einen Hinweis auf KI-Nutzung kriegt es nicht gebacken? Dann ist es umso besser, je eher diese „Kleinfirma" verschwindet, denn dann kriegt sie wichtige Vorschriften erst recht nicht hin!
Mich juckt doch nicht, ob jemand KI nutzt… Bildern und Videos traue ich schon vor KI nicht mehr, auch da war sowas schon fälschbar!
Wo ich dafür bin, ist, wenn Nachrichten gekennzeichnet werden! Spart mir Recherche, wenn von vornherein klar ist, dass es KI-generiert ist.
Genauso: Wenn da Spieleentwickler, Filmstudios usw. KI nutzen – Wayne? Das Ergebnis muss passen… Wenn da dann „überbezahlte Actors" wegfallen, umso besser, werden Produktionen wieder günstiger.
KI ist ausgleichende Gerechtigkeit, denn da werden nicht nur die „kleinen Lohnsklaven" ersetzt, die es sonst beim Fortschritt immer traf. Jetzt trifft es auch die „Besserverdiener"… Fair Game!
Das in der EU alles reguliert werden muss, weil die Leute selbst zu dumm sind, ist jetzt auch nix neues … speziell in D. Warum sollte es bei KI da anders sein?
Die Vorschrift gibt es jetzt und Firmen werden Wege finden es zu umgehen… ist wie bei den Coockie Bannern… zum Schutz der User gedacht und gemacht, mittlerweilen nur ein Ärgernis. Findige Firmen die eben alles unter "berechtigte Interesse" packen. Es gibt keine Berechtigte Interesse für Werbung und Tracking!
Das Netz ist für den freien weltweiten Informationsaustausch, nicht dafür das man damit Kohle scheffelt. Selbst daran hat man aber gedacht: Paywall, wenn du Geld damit verdienen willst! Tja nur merkst du da dann recht schnell ob dein Angebot was taugt, dann wenn du keine Reichweite mehr hast, weil das Angebot eben doch nicht so toll ist, das die Leute dafür zahlen.
Paywall die Ultimative Spreu vom Weizen Trennung…
@IchoTolot tja wenn du als Land in Bereichen nix zu melden hast, weil du nix gebacken kriegst, musst du eben alles Regulieren ;-P
toller Nick übrigens ;-P
Wo ist das Problem?
So wie man bei einem Produktfoto oft ein "abb. ähnlich" sieht, womit sich der Werbetreibende absichert, kann man genauso gut ein "KI generiert" oder "KI optimiert" setzen. Da ist nichts mit großem Zusatzaufwand.
Und wenn bei Autowerbung unten 1/3 Textblock steht, den eh keiner in 2 Sekunden durchgeht, sollte dieser kleine Zusatz im Text auch keine Problem sein.
Der reine Aufwand der Kennzeichnung sollte also kein Problem sein.
Wobei ich jetzt auch nicht wirklich das alles gekennzeichnet werden muss.
Es geht hier Hauptsächlich um Deepfakes und unkontrollierte Veröffentlichung von KI Inhalten. Als Beispiel wird ein Text generierter Text genannt, wird dieser ohne menschliche Prüfung veröffentlich, muss er KI gekennzeichnet sein. Wird der Text hingegen vorher von einem Menschen geprüft und freigegeben, ist er nicht kennzeichenpflichtig. Außerdem wird auch von maschinenlesbaren Format Kennzeichnung geredet, das muss am Ende kein optischer Hinweis sein, sondern kann auch ein Flag in den Metadaten eines Bildes sein.
Aufgrund der Unsicherheit wird man wahrscheinlich aber pauschal erstmal alles kennzeichnen, im laufe der Zeit wird dann abgestuft werden.
Selbst im aktuellen ALDI-Prospekt (ab 03.08.2026) sind einige Bilder (meist Fleichbilder) mit den Hinweis "KI-Generiert" zu sehen. Da gibt's kein Jammer'n … es wird einfach gemacht und gut!
Wenn im Gegenzug den "Abmahn Kanzleien" ihr Mandat entzogen würde – wäre wir glaube alle fein damit 🤠