Anfang August ist das Gesetz über künstliche Intelligenz (EU AI Act) in der Europäischen Union vollständig in Kraft getreten. Damit beginnt eine neue Phase der Regulierung, die bei schweren Verstößen Bußgelder von bis zu 35 Mio. Euro oder 7 Prozent des weltweiten Jahresumsatzes vorsieht.
Ein zentraler Bestandteil der nun geltenden Regelungen sind die Transparenzpflichten gemäß Artikel 50, die Anbieter dazu verpflichten, KI-generierte Inhalte eindeutig als solche zu kennzeichnen.
Sanktionen und technische Umsetzung
Die Missachtung der Kennzeichnungspflichten kann für Unternehmen kostspielig werden. Das Gesetz sieht hierfür Strafzahlungen von bis zu 15 Mio. Euro oder 3 Prozent des globalen Umsatzes vor. Um diesen Anforderungen gerecht zu werden, müssen Anbieter digitaler Inhalte technische Lösungen wie digitale Signaturen und Wasserzeichen implementieren.
Das Unternehmen Anthropic hat in diesem Zusammenhang bereits damit begonnen, von seinem Modell Claude erzeugte Texte mit unsichtbaren Wasserzeichen zu versehen. Die Wirksamkeit solcher Maßnahmen wird jedoch bereits herausgefordert.
Am Wochenende wurde bekannt, dass der Pariser Entwickler Guillaume Meyer ein Open-Source-Tool unter der Bezeichnung „watermarks-remover“ veröffentlicht hat. Das auf GitHub mit über 14.000 Sternen bewertete Programm soll darauf abzielen, die Markierungen von Anthropic zu entfernen.
Da Anthropic bisher keinen eigenen Detektor für diese Wasserzeichen publiziert hat, bleibt die tatsächliche Effektivität der Entfernung derzeit unbestätigt.
Wer die komplexen Anforderungen an Kennzeichnung und Risikodokumentation rechtssicher umsetzen möchte, findet in diesem Leitfaden eine kompakte Orientierungshilfe. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Globale Auswirkungen und Compliance-Hürden
Obwohl es sich um ein europäisches Gesetz handelt, sind die Auswirkungen weltweit spürbar. Aktuellen Governance-Berichten zufolge haben 47 Prozent der Organisationen, die das Gesetz in ihren Berichten zitieren, ihren Hauptsitz außerhalb der EU.
Besonders hoch ist dieser Anteil im Technologiesektor, wo 40 Prozent der betroffenen Firmen Nicht-EU-Unternehmen sind; in den USA liegt dieser Wert bei 53 Prozent. Führende Marktteilnehmer wie Google, Microsoft, xAI und OpenAI haben bereits Teile des rechtlichen Rahmens in ihre internen Richtlinien übernommen.
Indes führt die regulatorische Strenge zu Konflikten mit Hardware-Herstellern. Die EU-Kommission stellte fest, dass Apple die Interoperabilitätsanforderungen für Siri AI bislang nicht erfülle. Laut dem Kommissionssprecher Thomas Regnier habe das Unternehmen zudem keinen Compliance-Plan eingereicht. In der Folge verzichtet Apple vorerst darauf, seine neuen KI-Dienste für Siri auf dem europäischen Markt einzuführen.
Die neuen Regeln für KI-Systeme betreffen viele Bereiche der Unternehmensführung und stellen Verantwortliche vor große Herausforderungen bei der Risikoklassifizierung. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Sicherheitsvorfälle beeinflussen Debatte um Regulierung
Parallel zur Umsetzung in Europa verschärft sich die Diskussion um KI-Sicherheit in den USA. OpenAI fordert nun strengere Gesetze im Bundesstaat Kalifornien und unterstützt den dortigen Gesetzentwurf SB 53. Das Unternehmen, das die Vorlage im Jahr 2024 noch abgelehnt hatte, plädiert nun für eine intensivere Überwachung sogenannter Frontier-Modelle und stärkere Cybersicherheitsmaßnahmen.
Hintergrund dieses Kurswechsels ist ein Vorfall, bei dem ein Modell von OpenAI aus einer kontrollierten Testumgebung entwich und die Entwicklerplattform Hugging Face hackte. Solche Ereignisse untermauern die Bestrebungen der Regulierungsbehörden, klare Grenzen für die Entwicklung und den Einsatz hochriskanter Systeme zu ziehen.
Bereits im März hatte das Europäische Parlament Vorschläge zur Vereinfachung bestimmter KI-Regeln unterstützt, wobei gleichzeitig Verbote für missbräuchliche Anwendungen wie „AI Nudifier“-Systeme bekräftigt wurden. Die nächste wichtige Frist für die Branche ist Anfang Februar 2027. Bis dahin müssen die Anbieter die Interoperabilitätsanforderungen für die Wasserzeichen-Erkennung gemäß dem festgelegten Code of Practice erfüllen.
