Führende Mitglieder des US-Senats erhöhen den regulatorischen Druck auf die großen Technologiekonzerne. Mit Schreiben an die Unternehmensführungen von Apple, Google und Meta verlangen die Senatoren Ron Wyden, Ed Markey und Ben Ray Luján umfassende Aufklärung darüber, warum sogenannte Nudify-Apps weiterhin auf deren Plattformen kursieren.
Bei diesen Programmen handelt es sich um KI-gestützte Anwendungen, die dazu dienen, ohne das Einverständnis der Betroffenen intime Bilder zu erzeugen.
Vorwürfe unzureichender Moderation und finanzieller Vorteile
Am 18. November 2026 warfen die drei Senatoren den Plattformbetreibern vor, solche Nudify-Apps unzureichend zu erkennen, nicht konsequent zu entfernen und zugleich wirtschaftlich von deren Verbreitung zu profitieren. Sie forderten Erklärungen dazu ein, weshalb die internen Kontroll- und Durchsetzungssysteme der Konzerne versagt hätten und mit welchen konkreten Schritten die eigenen Richtlinien künftig durchgesetzt werden sollen.
Die Senatoren hinterfragten insbesondere, wie effektiv die Plattformen darin sind, wiederholte Verstöße zu identifizieren, koordinierte Netzwerke zu zerschlagen und Anwendungen auch nach der initialen Freigabe für die Stores zu überwachen.
Wer sich mit den rechtlichen Rahmenbedingungen moderner Technologien befasst, sollte die neuen EU-Vorgaben kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Ein gesonderter Kritikpunkt richtete sich an Meta: Das Unternehmen profitiere den Vorwürfen der Politiker zufolge von bezahlter Werbung für derartige Anwendungen auf den Plattformen Facebook und Instagram. Senator Ron Wyden warnte in diesem Zusammenhang, dass der Kongress gesetzgeberisch tätig werden müsse, sollten die Konzerne ihre Kontrollmechanismen nicht eigenständig verbessern.
Berichte über frei zugängliche Missbrauchs-Apps
Hintergrund der Initiative sind Untersuchungen von Drittorganisationen. Das Tech Transparency Project (TTP) hatte im Oktober 2026 in einem Bericht 135 Nudify-Apps im App Store von Apple und in Googles Play Store dokumentiert. Diese Anwendungen waren für Testkonten von 13-jährigen Jungen frei zugänglich. Selbst auf Konten mit aktiver Kindersicherung ließen sich die fraglichen Apps ohne zusätzliche Freigabe durch Erziehungsberechtigte installieren.
Obwohl sowohl Apple als auch Google Nudify-Apps in ihren allgemeinen Geschäftsbedingungen grundsätzlich untersagen, gelangten diese nachweislich in das Angebot beider Betreiber. Im Oktober 2026 reagierten beide Unternehmen auf die Ergebnisse und entfernten die im TTP-Bericht genannten Apps aus ihren Download-Portalen.
Die rasante Entwicklung von KI-Systemen stellt Unternehmen vor neue Herausforderungen bei der Risikobewertung und Dokumentation. Ein kostenloser Report klärt auf, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum AI Act anfordern
Auf Geräten, auf denen die Software bereits installiert war, blieben die Anwendungen jedoch weiterhin funktionstüchtig. Apple hatte 28 der betroffenen Programme bereits vor dem Erscheinen des Berichts gelöscht und im selben Monat die Regeln für den App Store verschärft. Demnach müssen Anwendungen, die KI-generierte Inhalte bereitstellen, Schutzmaßnahmen gegen Missbrauch integrieren.
Plattformbetreiber verweisen auf Richtlinien und Kinderschutz
Die betroffenen Konzerne reagierten mit Verweisen auf ihre bestehenden Regelwerke. Apple-Sprecher Peter Ajemian erklärte, ein Teil der gemeldeten Anwendungen seien reguläre Foto- und Video-Editoren ohne Funktionen zur Generierung von Nacktbildern gewesen. Zudem hob er die verbesserten Kindersicherungsfunktionen innerhalb von Screen Time hervor.
Google-Sprecher Karl Ryan betonte, dass der Google Play Store sexuelle Inhalte sowie Anwendungen, die das Simulieren von Nacktheit ermöglichen, strikt verbiete. Auch Meta unterstrich auf Anfrage, dass Missbrauchsmaterial und jegliche Bewerbung derartiger Apps auf den unternehmenseigenen Plattformen untersagt seien.

