Seit Anfang August hat die Europäische Union mit der Durchsetzung zentraler Bestimmungen des EU AI Act begonnen. Im Fokus stehen dabei insbesondere die Transparenzvorschriften nach Artikel 50 sowie die Regulierung von KI-Modellen mit allgemeinem Verwendungszweck (GPAI). Das neu geschaffene EU-KI-Amt koordiniert gemeinsam mit nationalen Behörden die Einhaltung dieser Vorgaben, die weitreichende Auswirkungen auf Entwickler und Anbieter weltweit haben.
Umfassende Kontrollbefugnisse für das EU-KI-Amt
Um die neuen Regeln effektiv zu überwachen, baut das EU-KI-Amt seinen Personalstamm massiv aus. Geplant ist eine Gesamtbelegschaft von rund 165 Mitarbeitern, wobei aktuell 40 zusätzliche Fachkräfte gesucht werden, darunter Technologiespezialisten, Juristen und operatives Personal.
Den Behörden stehen weitreichende Instrumente zur Verfügung: Neben Informationsersuchen (RFIs) und Modell-Evaluierungen können auch physische Inspektionen durchgeführt werden. Zudem wurden formale Kanäle für Beschwerden eingerichtet, die sowohl allgemeinen Nutzern als auch Whistleblowern und nachgelagerten Anbietern offenstehen.
Die Transparenzpflichten betreffen nicht nur Unternehmen mit Sitz in der EU. Auch Anbieter aus Drittstaaten müssen die Regeln befolgen, sofern die Ergebnisse ihrer KI-Systeme innerhalb der Europäischen Union genutzt werden. Artikel 50 des Gesetzes schreibt unter anderem vor, dass Nutzer beim Interagieren mit einer KI darüber informiert werden müssen. Zudem ist eine Kennzeichnungspflicht für synthetische Inhalte und Deepfakes vorgesehen.
Hohe Bußgelder und weltweite Compliance-Bemühungen
Verstöße gegen die neuen Bestimmungen sind mit erheblichen finanziellen Risiken verbunden. Für die Nutzung verbotener Praktiken drohen Strafzahlungen von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes.
Verletzungen der Transparenzpflichten können mit bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes geahndet werden, während die Übermittlung irreführender Informationen Bußgelder von bis zu 7,5 Millionen Euro oder 1 Prozent des Umsatzes nach sich ziehen kann.
Angesichts der drakonischen Bußgelder bei Verstößen gegen den EU AI Act ist eine präzise Vorbereitung für Unternehmen unerlässlich. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle relevanten Fristen und Pflichten der neuen Verordnung. EU AI Act in 5 Schritten verstehen: Kostenloser Download
Unternehmen reagieren bereits auf den regulatorischen Druck. Der Anbieter Anthropic hat Anfang August eine unsichtbare Wasserzeichen-Technologie namens SynthID-Text in seinen Claude-Modellen implementiert. Diese Markierung soll weltweit, auch in Schnittstellen (APIs) und Programmierumgebungen, bestehen bleiben und die Konformität mit Artikel 50 sicherstellen.
In Fachkreisen führt dies jedoch zu Diskussionen: Ein Anbieter für juristische Softwarelösungen gab zu bedenken, dass dadurch auch Anwaltsdokumente fälschlicherweise als rein KI-generiert markiert werden könnten, selbst wenn sie nur geringfügig bearbeitet wurden.
Nationale Umsetzung und Branchenstandard
Parallel zur EU-Ebene treiben die Mitgliedstaaten die nationale Gesetzgebung voran. In Zypern wurde kürzlich ein Entwurf für ein nationales KI-Gesetz zur öffentlichen Konsultation vorgelegt. Dieses soll den Rahmen für die Marktüberwachung schaffen und eine nationale Behörde benennen.
Auch die Werbebranche reagiert: Die Organisation IAB veröffentlichte Mitte August eine aktualisierte Version ihres Rahmens für KI-Transparenz, die auf die Anforderungen des EU-Gesetzes sowie ähnlicher Vorschriften in den USA, etwa in Kalifornien, abgestimmt ist.
Wer KI-Systeme rechtssicher einsetzen möchte, muss die Einstufung in verschiedene Risikoklassen genau kennen. Erfahren Sie in diesem kostenlosen Report, was Sie bei Hochrisiko-Systemen konkret beachten müssen und wie Sie die Compliance in Ihrem Unternehmen sicherstellen. Kostenlosen Report zum EU AI Act jetzt sichern
Die Notwendigkeit für klare Governance-Strukturen unterstreichen aktuelle Marktanalysen. Laut einer Untersuchung von IBM verfügten im vergangenen Jahr 63 Prozent der von Datenpannen betroffenen Unternehmen über keine KI-Richtlinien. Solche Vorfälle im Bereich nicht autorisierter „Shadow AI“ verursachten demnach deutlich höhere Kosten als reguläre Sicherheitsvorfälle.
Analysten von Gartner prognostizieren vor diesem Hintergrund einen massiven Anstieg der Ausgaben für KI-Governance, die im Jahr 2026 bereits 492 Millionen US-Dollar erreichen und bis zum Ende des Jahrzehnts die Marke von einer Milliarde US-Dollar überschreiten sollen.
Weitere wichtige Fristen für Unternehmen stehen bereits fest: Bis Dezember 2026 treten zusätzliche Verbote in Kraft, während die strengen Regeln für Hochrisiko-KI-Systeme stufenweise bis August 2028 wirksam werden.
