Die Europäische Union hat mit der offiziellen Durchsetzung der Transparenzregeln im Rahmen des KI-Gesetzes (AI Act) begonnen. Damit treten zentrale Bestimmungen in Kraft, die darauf abzielen, die Interaktion mit Künstlicher Intelligenz für Bürger nachvollziehbarer zu gestalten. Das Gesetz, welches bereits seit dem 1. August 2024 in Kraft ist, sieht nun vor, dass Anbieter und Betreiber spezifische Offenlegungspflichten erfüllen müssen.
Kennzeichnungspflichten für Deepfakes und Chatbots
Ein Kernaspekt der nun greifenden Regeln betrifft die Kennzeichnung von KI-generierten Inhalten. Sogenannte Deepfakes müssen demnach klar als solche ausgewiesen werden. Zudem sind Anbieter von Chatbots verpflichtet, diese so zu gestalten, dass sie sich gegenüber den Nutzern als Künstliche Intelligenz zu erkennen geben. Artikel 50 des Gesetzes verlangt hierfür die Verwendung von maschinenlesbaren Markierungen in den erzeugten Inhalten.
Die Regulierung basiert auf einem vierstufigen Risikomodell. Während Anwendungen mit minimalem Risiko, wie etwa Kalender-Apps oder Musikempfehlungen, weitgehend frei bleiben, unterliegen Systeme mit begrenztem Risiko den nun aktivierten Transparenzanforderungen. Anwendungen, die als inakzeptabel eingestuft werden, sind untersagt, während für Hochrisiko-Systeme strengere Regeln vorgesehen sind. Letztere werden jedoch erst zeitversetzt verbindlich: Die Vorschriften für Hochrisiko-Anwendungen greifen ab dem 2. Dezember 2027, während spezifische Produktregeln für den 2. August 2028 terminiert sind.
Aufsicht durch das KI-Büro und nationale Behörden
Für die Überwachung der neuen Standards ist das europäische KI-Büro (AI Office) gemeinsam mit nationalen Behörden und dem Europäischen Datenschutzbeauftragten zuständig. Das KI-Büro wird dabei von einem 60-köpfigen wissenschaftlichen Gremium unterstützt. In diesem Zusammenhang wurde Alessandro Abate zum wissenschaftlichen Berater ernannt.
Die neuen Transparenzregeln sind nur der Anfang — dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Die Regulierungsbehörden verfügen über weitreichende Befugnisse. Sie können technische Unterlagen anfordern, Korrekturen verlangen und Modelle inspizieren. Zudem ist es den Aufsehern gestattet, Mitarbeiter der betroffenen Unternehmen zu befragen. In Portugal wurde die Behörde ANACOM bereits im September 2025 als nationale Marktüberwachungsbehörde designiert. In den Niederlanden befasst sich die Datenschutzbehörde verstärkt mit KI-gestützter Werbung.
Verstösse gegen die Transparenzvorgaben können mit erheblichen Bußgeldern geahndet werden. Diese belaufen sich auf bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes. Für die Nutzung verbotener Praktiken liegen die Strafen sogar bei bis zu 35 Millionen Euro oder 7 % des globalen Umsatzes.
Dokumentationspflichten und globale Reichweite
Anbieter von allgemeinen KI-Modellen (GPAI) müssen künftig technische Dokumentationen vorhalten, Urheberrechtsrichtlinien übernehmen und Zusammenfassungen der verwendeten Trainingsdaten veröffentlichen. Über 180 Organisationen haben bereits einen entsprechenden Verhaltenskodex unterzeichnet. Um die Einhaltung der Regeln zu fördern, wurden zudem Beschwerde- und Whistleblower-Mechanismen eingerichtet.
Angesichts der neuen gesetzlichen Anforderungen und steigenden Cyberrisiken durch KI bietet dieses E-Book wertvolle Einblicke, wie Unternehmen ihre IT-Sicherheit proaktiv stärken können. Gratis-E-Book zu Cyber Security Trends herunterladen
Die Regelungen betreffen nicht nur europäische Firmen, sondern auch US-amerikanische KI-Unternehmen, sofern diese Kunden innerhalb der EU bedienen. Während traditionelle Medien weitgehend von den Transparenzanforderungen ausgenommen sind, müssen bestehende Systeme die neuen Vorgaben bis zum 2. Dezember 2026 umsetzen.
Aktuelle Berichte aus der Branche verdeutlichen zudem die Sicherheitsrelevanz der Technologie: Unternehmen wie OpenAI und Anthropic meldeten zuletzt unbefugte Cyberaktivitäten in ihren Systemen. Dies unterstreicht die Notwendigkeit einer robusten regulatorischen Aufsicht, wie sie das KI-Büro nun mit der Durchsetzung der Transparenzregeln intensiviert.
