Die EU will die Erstellung nicht-einvernehmlicher intimer KI-Bilder per Gesetz verbieten. Ein überwältigendes Votum im Europaparlament ebnet den Weg für ein hartes Vorgehen gegen sogenannte Nudification-Apps. Der Schritt ist eine direkte Reaktion auf den globalen Skandal um den KI-Chatbot Grok.
Überwältigende Mehrheit für Verbot
Mit 101 zu 9 Stimmen bei 8 Enthaltungen stimmten die Ausschüsse für Binnenmarkt und Bürgerliche Freiheiten am Mittwoch für das Verbot. Es wird als entscheidende Ergänzung in den KI-Gesetz-Rahmen eingefügt. Konkret sollen KI-Systeme verboten werden, die ohne ausdrückliche Einwilligung realistische explizite Bilder identifizierbarer Personen erzeugen oder manipulieren.
Da die EU-KI-Verordnung bereits in Kraft ist und nun durch neue Verbote ergänzt wird, stehen viele Unternehmen vor komplexen Compliance-Fragen. Dieser kostenlose Leitfaden erklärt verständlich, welche Kennzeichnungspflichten und Risikoklassen für Ihre Systeme gelten. EU-KI-Verordnung kompakt: Jetzt Gratis-E-Book sichern
Entwickler haften künftig für die Ausgaben ihrer Systeme. Es gibt jedoch Ausnahmen für Unternehmen, die wirksame Sicherheitsvorkehrungen nachweisen können. Der Ministerrat der EU hatte dem Verbot bereits letzte Woche zugestimmt. Für die Berichterstatter ist das Votum ein großer Sieg für den Schutz von Frauen und Kindern, die online überproportional von solchem Material betroffen sind.
Grok-Skandal als Katalysator
Die Dringlichkeit des Verbots wurde maßgeblich durch einen Skandal um den KI-Chatbot Grok auf der Plattform X Anfang 2026 befeuert. Nach Berichten über die Erstellung millionenfacher nicht-einvernehmlicher Deepfakes – auch von Minderjährigen – forderte die EU-Kommission im Januar ein sofortiges Eingreifen und leitete eine Untersuchung ein.
Geprüft wird, ob X gegen den Digital Services Act (DSA) verstoßen hat. Das Unternehmen, das bereits eine Strafe von 120 Millionen Euro wegen mangelnder Transparenz zu zahlen musste, drohen nun Bußgelder von bis zu sechs Prozent des globalen Jahresumsatzes. X versprach zwar Gegenmaßnahmen, unabhängige Forscher von AI Forensics berichteten jedoch Ende Januar, dass Nutzer die neuen Sperren umgehen konnten. Dies beschleunigte den Gesetzgebungsprozess zusätzlich.
Fristen für Hochrisiko-KI verlängert
Neben dem Deepfake-Verbot sieht das sogenannte AI Omnibus-Paket auch längere Fristen für die Umsetzung des KI-Gesetzes vor. Die neuen Deadlines sollen Rechtssicherheit schaffen und Unternehmen mehr Vorbereitungszeit geben.
Die neuen Übergangsfristen für Hochrisiko-KI-Systeme bis 2027 und 2028 bieten Unternehmen zwar Zeit, erfordern aber eine frühzeitige und exakte Dokumentation. Erfahren Sie in diesem kostenlosen Umsetzungsleitfaden, wie Sie Ihr KI-System richtig klassifizieren und rechtssicher aufstellen. Kostenlosen KI-Leitfaden für Unternehmen herunterladen
Die Anforderungen für eigenständige Hochrisiko-KI-Systeme (Anhang III) gelten nun ab dem 2. Dezember 2027. Für in Produkte eingebettete Hochrisiko-Systeme (Anhang I) ist der Stichtag der 2. August 2028. Ursprünglich waren die Fristen für August 2026 und 2027 geplant. Die Verzögerung soll europäische Wettbewerbsfähigkeit und Innovation fördern. Der Text legt zudem klare Bedingungen für die Nutzung sensibler Daten zur Erkennung von Algorithmen-Bias fest.
Globale Signalwirkung erwartet
Das endgültige Votum des Plenums ist für den 26. März 2026 angesetzt. Anschließend folgen Trilog-Verhandlungen mit den Mitgliedstaaten. Für die Tech-Branche bedeutet das Verbot einen Wendepunkt. Entwickler müssen massiv in Content-Moderation, Sicherheitsfilter und Monitoring investieren, um ihre Tools vor Missbrauch zu schützen. Systeme ohne ausreichende Schutzvorkehrungen werden in der EU verboten.
Rechtsexperten erwarten, dass die europäische Regelung globale Maßstäbe setzt. Ähnliche Initiativen gibt es bereits im Vereinigten Königreich. Mit dem Votum positioniert sich die EU als Vorreiter für ethische KI-Grenzen und stellt digitale Würde und Privatsphäre über einen uneingeschränkten Technologieeinsatz.
