Die Stadt San Francisco geht juristisch gegen die großen App-Store-Betreiber vor. Grund sind Programme, die ohne Einwilligung Nacktbilder von Frauen erstellen.
Stadt-Anwalt David Chiu forderte Apple und Google am heutigen Freitag schriftlich auf, insgesamt 13 KI-gestützte „Nudify“-Anwendungen aus ihren Stores zu entfernen. Die Software erstellt sogenannte Deepfake-Nacktaufnahmen – und das ohne Zustimmung der abgebildeten Personen. Nach Ansicht von Chiu erleichtern die Plattformen damit die Ausbeutung von Frauen und Mädchen.
Die Abmahnung betrifft acht Apps im Apple App Store und fünf im Google Play Store. Laut dem Stadt-Anwalt haben die Plattformen durch Transaktionsgebühren und In-App-Käufe Millionen eingenommen.
App-Store-Geschäft mit zweifelhaften Inhalten
Die betroffenen Anwendungen wurden rund 480 Millionen Mal heruntergeladen. Der geschätzte Umsatz liegt bei etwa 110 Millionen Euro. Besonders brisant: Einige dieser Apps trugen die Altersfreigabe „Für alle“ – obwohl ihre Hauptfunktion die Erstellung sexuell expliziter Inhalte ohne Einwilligung der Abgebildeten ist.
Google reagierte umgehend: Die fünf Android-Apps wurden bereits entfernt. Der Konzern teilte mit, in den vergangenen Monaten hunderte ähnlicher Anwendungen aus seinem Store gelöscht zu haben. Apple äußerte sich auf Anfrage nicht.
Das Ausmaß des Problems verdeutlicht eine aktuelle Untersuchung des Institute for Strategic Dialogue. Demnach leiteten Plattformen wie YouTube und X zwischen Dezember 2025 und März 2026 rund 5,7 Millionen Besuche auf Nudify-Websites weiter. YouTube war mit 1,82 Millionen Besuchen Spitzenreiter, X folgte mit 1,3 Millionen. Branchenexperten schätzen, dass führende Nudification-Plattformen jährlich bis zu 33 Millionen Euro umsetzen.
Der Fall zeigt drastisch, welche neuen Cyberrisiken durch KI entstehen und welche rechtlichen Pflichten nun auf Unternehmen zukommen. Dieser kostenlose Report klärt auf, was Unternehmer jetzt über neue KI-Gesetze und Bedrohungen wissen müssen. Kostenlosen Report zu KI-Gesetzen und Cyberrisiken anfordern
Juristische Offensive gegen KI-Missbrauch
Der Vorstoß aus San Francisco reiht sich in eine wachsende Zahl rechtlicher Schritte gegen KI-generierte explizite Inhalte ein. Erst am Dienstag reichte Elon Musks Unternehmen xAI Zivilklage gegen einen 67-jährigen Nutzer ein. Dieser soll den Chatbot Grok zur Erstellung von Kinderpornografie missbraucht haben. Der Mann war bereits Anfang 2026 auf Basis staatlicher Anklage festgenommen worden. xAI beruft sich auf eine Vertragsklausel, die Nutzer für ihre generierten Inhalte haftbar macht.
Die Sicherheitsbehörden schlagen Alarm: Die US-Heimatschutzbehörde (HSI) meldet einen Anstieg der Cyber-Tipps zu KI-generierter Kinderausbeutung um 6.000 Prozent. Erst am Mittwoch wurde ein ehemaliger Lehrer aus New Orleans in 102 Anklagepunkten angeklagt – darunter die Nutzung von KI zur Erstellung von Deepfake-Nacktaufnahmen seiner Schüler.
Um KI-Systeme rechtssicher zu entwickeln oder einzusetzen, müssen Unternehmen die strengen Vorgaben der neuen EU-KI-Verordnung genau kennen. Erhalten Sie mit diesem kostenlosen E-Book einen kompakten Überblick über alle Anforderungen, Pflichten und Risikoklassen des AI Acts. EU AI Act in 5 Schritten verstehen – jetzt gratis herunterladen
Gesetzgeber reagieren – mit unterschiedlichen Strategien
Die Bundesstaaten ziehen nach. Am Montag unterzeichnete Hawaiis Gouverneur zwei Gesetze zu Chatbot-Sicherheit und Deepfake-Schutz. Auch Illinois hat neue Regelungen zum KI-Einsatz in Gesundheitswesen und Bildung verabschiedet.
In Kalifornien verteidigt die Staatsregierung derzeit vor einem Bundesberufungsgericht ein Gesetz, das KI-Unternehmen zur Offenlegung ihrer Trainingsdaten verpflichtet. xAI klagt dagegen. Die KI-Branche selbst ist uneins: Anthropic, mit einer Bewertung von rund 900 Milliarden Euro, fordert verpflichtende externe Prüfungen für große KI-Labore. OpenAI hingegen plädiert für einen einheitlichen Bundesrahmen, der unterschiedliche Landesgesetze ersetzen soll.
