Das Europäische Parlament hat den Weg für ein Verbot von KI-Systemen freigemacht, die nicht einvernehmliche Nacktbilder erstellen. Die Abgeordneten stimmten mit deutlicher Mehrheit für eine Verschärfung der Regeln für generative Künstliche Intelligenz. Dieser Schritt ist Teil eines größeren Gesetzespakets, das auch den Zeitplan für den EU AI Act neu ordnet.
„Nudifier“-Apps sollen verschwinden
Im Fokus des geplanten Verbots stehen sogenannte „Nudifier“-Apps. Diese Software erzeugt sexuell explizite Darstellungen realer Personen ohne deren Zustimmung – eine Form digitaler Gewalt, die als Deepfake-Pornografie bekannt ist. Bisher operierten viele dieser Anwendungen in rechtlichen Grauzonen.
Das Verbot zielt auf Systeme, deren Hauptzweck der Missbrauch ist. KI mit wirksamen integrierten Schutzmechanismen bleibt dagegen erlaubt. Die Verantwortung wird so direkt auf die Entwickler übertragen. Branchenexperten sprechen von einem „Safety-by-Design“-Ansatz: Die Werkzeuge für digitale Gewalt sollen gar nicht erst auf Smartphones gelangen.
Bevor das Verbot in Kraft tritt, müssen nun Verhandlungen mit den EU-Mitgliedstaaten folgen. Eine Einigung gilt als wahrscheinlich, da der Rat der EU bereits eine ähnliche Stoßrichtung unterstützt. Die Regelung ergänzt bestehende Gesetze, setzt aber früher an: bei der Produktion der Inhalte.
Da die EU-KI-Verordnung nun schrittweise in Kraft tritt, müssen Unternehmen ihre Systeme dringend an die neuen rechtlichen Anforderungen anpassen. Dieser kostenlose Download erklärt Ihnen die Kennzeichnungspflichten, Risikoklassen und Dokumentationsanforderungen im Detail. KI-Verordnung: Jetzt kostenlosen Umsetzungsleitfaden sichern
AI Act bekommt neuen Fahrplan
Parallel zum Verbot passte das Parlament die Umsetzungsfristen für das europäische KI-Gesetz (AI Act) an. Unternehmen und Behörden erhalten mehr Zeit, sich auf die komplexen Anforderungen vorzubereiten.
Ein zentraler Termin für Verbraucher ist der November 2026. Ab dann gilt eine strikte Kennzeichnungspflicht für alle KI-generierten Inhalte. Bilder, Videos oder Texte aus künstlicher Intelligenz müssen klar erkennbar sein.
Für Hochrisiko-Systeme, etwa in der Biometrie oder kritischen Infrastrukturen, wurde die Frist auf Dezember 2027 verschoben. Noch länger haben Anbieter von Medizinprodukten oder Luftfahrt-Komponenten – hier gilt August 2028 als neuer Stichtag. Bei grundrechtsgefährdenden Anwendungen wie „Nudifier“-Apps will das Parlament jedoch keine Verzögerungen dulden.
App-Stores unter Zugzwang
Für Smartphone-Nutzer haben die Beschlüsse direkte Konsequenzen. Mit dem expliziten Verbot geraten vor allem die Betreiber von App-Stores unter Druck. Sie müssen ihre Prüfprozesse verschärfen und proaktiv gegen Anbieter vorgehen, die gegen die Design-Vorgaben verstoßen.
Die Identifizierung schädlicher Apps ist oft schwierig, da sie sich als harmlose Bildbearbeitungstools tarnen. Die neuen Regeln könnten dazu führen, dass KI-Funktionen in europäischen Smartphone-Betriebssystemen mit strengeren Filtern ausgestattet werden als anderswo.
Kleine und mittlere Unternehmen sollen durch Unterstützungsmaßnahmen entlastet werden. Die EU will verhindern, dass strenge Sicherheitsregeln zum Innovationshindernis für Start-ups werden.
Angesichts der verschärften Regeln für generative KI und der wachsenden Bedrohung durch digitale Gewalt wird die proaktive Absicherung der IT-Infrastruktur für Betriebe immer wichtiger. Erfahren Sie in diesem Experten-Report, was Geschäftsführer jetzt über Cyber Security und die neuen KI-Gesetze wissen müssen. Kostenloses E-Book zu Cyber-Security-Trends herunterladen
Lücke bei Überwachung von Messengern
Ein weiterer kritischer Punkt betrifft die Überwachung privater Kommunikation. Eine Übergangsregelung, die Messengerdiensten automatisierte Suche nach Darstellungen sexuellen Kindesmissbrauchs erlaubte, ist heute ausgelaufen. Das Parlament lehnte eine Verlängerung ohne neue Rechtsgrundlage ab.
Ermittlungsbehörden warnen vor einem „Blindflug“ bei der Verfolgung von Online-Straftaten. Sie befürchten, dass Millionen Verdachtsfälle unentdeckt bleiben. Datenschützer sehen dagegen einen Sieg für die digitale Privatsphäre. Sie fordern eine dauerhafte Lösung, die Kinderschutz und Grundrechte vereint.
Die Entwicklung zeigt das Spannungsfeld der europäischen Digitalpolitik: entschlossener Kampf gegen KI-Bedrohungen einerseits, Ringen um Privatsphäre in der Alltagskommunikation andererseits.
Europa setzt globale Standards
Die Schritte des Parlaments unterstreichen Europas Anspruch, weltweit Standards für ethische KI zu setzen. Während andere Regionen auf Selbstregulierung setzen, baut die EU einen harten gesetzlichen Rahmen auf.
Das Verbot von „Nudifier“-Apps behandelt digitale Gewalt als gesellschaftliche Bedrohung, nicht als technisches Nebenprodukt. Vergleiche mit der Datenschutz-Grundverordnung (DSGVO) liegen nahe. Damals etablierte Europa einen Standard, dem viele internationale Unternehmen folgten, um den Zugang zum Binnenmarkt nicht zu verlieren.
Die Kombination aus Verbot schädlicher KI und Kennzeichnungspflicht für synthetische Medien könnte ähnlich wirken. Branchenbeobachter erwarten, dass globale Tech-Konzerne ihre KI-Modelle weltweit anpassen, statt unterschiedliche Versionen für verschiedene Märkte zu entwickeln.
