Die rechtliche Schlinge um X und seine KI-Tochter xAI zieht sich dramatisch zu. Nur Stunden nach einer Razzia in Paris kündigte auch Großbritannien eine formelle Untersuchung an. Im Zentrum steht der Chatbot Grok, der trotz Sicherheitsversprechen weiterhin für Deepfake-Pornografie missbraucht wird.
Razzia in Paris: Staatsanwaltschaft schickt Spezialeinheiten
Die Eskalation erreichte eine neue Stufe, als französische Polizeieinheiten die Pariser Büros von X durchsuchten. Die Behörden ermitteln wegen des Verdachts auf algorithmischen Missbrauch und die Verbreitung illegaler Inhalte. Konkret wirft die Staatsanwaltschaft dem Unternehmen vor, nicht genug gegen die Erstellung strafbarer Inhalte durch Grok unternommen zu haben – darunter die Leugnung von Verbrechen gegen die Menschlichkeit und sexualisierte Darstellungen Minderjähriger.
Die physische Durchsuchung ist ein klares Signal: Die Zeit der bloßen Warnungen ist vorbei. Die Behörden sprachen zudem Vorladungen gegen die Konzernspitze aus. Sowohl Eigentümer Elon Musk als auch Ex-CEO Linda Yaccarino sollen sich im April zu den Vorwürfen äußern.
„Digitales Ausziehen“: Groks Bildgenerator im Test
Auslöser der Ermittlungswelle ist eine spezielle Funktion von Grok. Nutzer können damit Bilder generieren und bearbeiten. Aktuelle Recherchen, darunter ein Bericht von Reuters, belegen jedoch: Die versprochenen Sicherheitsvorkehrungen greifen nicht.
Die EU-KI-Verordnung stellt Anbieter von KI-Systemen vor neue Pflichten – und Verstöße können erhebliche Konsequenzen haben. Dieses kostenlose E-Book erklärt praxisnah, wie Sie KI-Systeme richtig klassifizieren, Kennzeichnungspflichten erfüllen, Risikoprüfungen durchführen und die erforderliche Dokumentation aufbauen. Konkrete Umsetzungs-Schritte und Übergangsfristen werden verständlich dargestellt, ideal für Unternehmen, Entwickler und Anbieter in der EU. Jetzt kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen
Der Chatbot lässt sich weiterhin leicht dazu bringen, sexualisierte Bilder realer Personen zu erstellen. Besonders in der Kritik steht eine als „digitales Ausziehen“ bekannte Praxis. Tests zeigen, dass Grok Personen auf Fotos digital entkleiden oder in anzügliche Kleidung retuschieren kann. Diese Deepfakes betreffen zunehmend auch Privatpersonen und Minderjährige.
Experten kritisieren, dass die eingesetzten Filter durch simple Umformulierungen der Nutzerbefehle umgangen werden können. Die Diskrepanz zwischen öffentlicher Beteuerung und technischer Realität wiegt schwer.
Koordinierte Offensive: Von London bis Brüssel
Parallel zum strafrechtlichen Vorgehen in Frankreich formiert sich eine breite regulatorische Front:
* Großbritannien: Die Datenschutzbehörde ICO leitete eine Untersuchung ein. Sie prüft, ob X durch die Verarbeitung personenbezogener Daten für schädliche Inhalte gegen lokale Gesetze verstößt.
* EU-Kommission: Brüssel hat bereits eine formelle Untersuchung nach dem Digital Services Act (DSA) eingeleitet. Der Vorwurf: X habe die vorgeschriebene Risikoprüfung vor der Einführung der KI-Funktionen vernachlässigt.
* Irland: Die dortige Datenschutzkommission (DPC), als federführende EU-Behörde für X, prüft erneut. Im Fokus steht die Frage, ob für die Bildgenerierung unrechtmäßig auf Nutzerdaten zugegriffen wurde.
Die Gleichzeitigkeit der Maßnahmen deutet auf eine enge Abstimmung der europäischen Aufseher hin.
Wiederholungstäter: Die lange Liste der Verstöße
Für X ist es nicht der erste Konflikt mit europäischen Regulierern:
* Bereits 2024 geriet das Unternehmen in die Kritik, weil es standardmäßig Beiträge von EU-Nutzern zum Training von Grok verwendete.
* Im April 2025 folgte eine weitere Untersuchung der irischen DPC zur Rechtmäßigkeit dieser Datenverarbeitung.
Die aktuelle Eskalation ist jedoch neu: Es geht nicht mehr nur um abstrakte Datennutzung, sondern um die konkrete Erzeugung von Inhalten, die Persönlichkeitsrechte massiv verletzen. Das Unternehmen gerät in eine Zange aus Datenschutz- (DSGVO), Plattform- (DSA) und nun auch strafrechtlichen Vorwürfen.
Was droht X und xAI jetzt?
Die Konsequenzen könnten drastisch ausfallen:
* Die EU-Kommission kann Bußgelder von bis zu 6 Prozent des weltweiten Jahresumsatzes verhängen.
* Im Extremfall droht sogar eine temporäre Sperrung des Dienstes in der Europäischen Union.
* Auch Großbritannien hat mit dem Online Safety Act neue Werkzeuge, um Dienste zu blockieren, die den Schutz vor illegalen Inhalten nicht gewährleisten.
Für Nutzer bleibt vorerst Unsicherheit. Datenschutzexperten raten, die Privatsphäre-Einstellungen in der App zu überprüfen und alle Optionen zur Datennutzung für KI-Training explizit zu deaktivieren. Die für April geplanten Anhörungen von Musk und Yaccarino werden zeigen, ob sich der Konflikt entschärfen lässt – oder in einen langwierigen Rechtsstreit mündet.
PS: Seit dem 1. August 2024 gelten die neuen Regeln der EU-KI-Verordnung – viele Pflichten und Übergangsfristen sind bereits wirksam. Wenn Ihr Dienst KI-Funktionen anbietet oder Sie KI-Systeme einsetzen, prüfen Sie jetzt Klassifizierung, Kennzeichnung und Risikodokumentation. Dieses kostenlose E-Book liefert einen schnellen Umsetzungs-Check, praktische Vorlagen und konkrete Handlungsschritte für die sofortige Compliance. Kostenloses E-Book zur EU-KI-Verordnung herunterladen
