Elon Musks KI-Firma xAI steht unter massivem Druck: US- und EU-Behörden verschärfen ihre Ermittlungen gegen den Chatbot Grok wegen der Erstellung nicht-einvernehmlicher Deepfake-Bilder.
Kalifornien erlässt offiziellen Unterlassungsbefehl
Die kalifornische Justiz unter Generalstaatsanwalt Rob Bonta hat am 14. Januar eine formelle Untersuchung eingeleitet. Auslöser war eine „Lawine von Meldungen“ über die Verbreitung sexuell expliziten Materials, das ohne Einwilligung der Betroffenen – darunter Minderjährige – von Grok erzeugt wurde. Eine als „Spicy Mode“ beworbene Funktion des KI-Modells habe diese Praxis erleichtert.
Gouverneur Gavin Newsom forderte scharfe Konsequenzen und bezeichnete die Plattform als „Brutstätte für Täter“. Nur zwei Tage später verschickte die Staatsanwaltschaft einen Cease-and-Desist-Brief. xAI muss darin die Erstellung und Verbreitung der illegalen Bilder sofort stoppen und binnen fünf Tagen über Gegenmaßnahmen berichten. Verstöße könnten zivil- und strafrechtlich verfolgt werden.
EU setzt den Digital Services Act mit Nachdruck durch
Parallel verschärft die Europäische Kommission ihre Aufsicht auf Basis des Digital Services Act (DSA). Ein EU-Sprecher nannte die Erstellung expliziter Kinderbilder „erschütternd“ und illegal. Die Behörde hat bereits Anfang Januar angeordnet, alle internen Grok-Dokumente bis Ende 2026 vorzuhalten – ein klarer Schritt zur Beweissicherung für mögliche Durchsetzungsmaßnahmen.
Seit August 2024 sind neue Regeln für KI-Systeme in Kraft – und viele Anbieter riskieren Bußgelder, weil Kennzeichnung, Risikoklassifizierung und Dokumentation fehlen. Dieser kostenlose Leitfaden zur EU-KI-Verordnung erklärt in klaren Schritten, welche Pflichten jetzt gelten, wie Sie Ihr System korrekt klassifizieren und welche Dokumente Sie vorhalten müssen. Mit praktischen Checklisten, Fristen und sofort umsetzbaren Handlungsschritten zur Vermeidung rechtlicher Risiken. Jetzt KI-Verordnung-Leitfaden herunterladen
Die Kommission beobachtet zwar erste Gegenmaßnahmen von xAI, behält sich aber vor, das „volle Durchsetzungsinstrumentarium“ des DSA zu nutzen, sollten diese unzureichend sein. Auf nationaler Ebene drängen insbesondere Frankreich und Deutschland auf schnelles Handeln und haben die Angelegenheit an ihre Strafverfolgungsbehörden überwiesen.
Weltweite Reaktionen: Von Ermittlungen bis zu Total-Blockaden
Der Fall hat eine globale Welle der Empörung ausgelöst. Eine Analyse der Non-Profit-Organisation AI Forensics ergab, dass über die Hälfte von 20.000 untersuchten Grok-Bildern kaum bekleidete Personen zeigte, meist Frauen. Zwei Prozent schienen Minderjährige darzustellen.
Die Reaktionen der Staaten fallen drastisch aus:
* Großbritannien: Ofcom prüft Verstöße gegen den Online Safety Act.
* Asien: Malaysia und Indonesien haben den Zugang zu Grok landesweit gesperrt.
* Indien: Die Regierung hat X eine 72-Stunden-Frist zur Stellungnahme gesetzt.
Unter diesem Druck hat xAI reagiert: Die Bildgenerierung ist nun auf zahlende Nutzer beschränkt, und technische Hürden sollen die Erstellung enthüllender Bilder realer Personen blockieren.
Prüfstein für die KI-Regulierung weltweit
Der Fall Grok entwickelt sich zum Musterbeispiel für die Schwierigkeiten der KI-Governance. Er zeigt den fundamentalen Zielkonflikt zwischen rasanter Innovation und dem Schutz der Gesellschaft vor absehbaren Schäden. Für die EU ist es ein Lackmustest: Bewährt sich der DSA als wirksames Durchsetzungsregime oder bleibt er ein Papiertiger?
Die internationale Reaktion signalisiert einen klaren Konsens: Plattformen und KI-Entwickler tragen eine direkte Verantwortung für die Fähigkeiten ihrer Tools – besonders wenn sie illegale Handlungen wie die Erstellung nicht-einvernehmlicher Intimbilder ermöglichen. Die kommenden Tage werden richtungsweisend sein, nicht nur für xAI, sondern für die künftige Regulierung leistungsstarker KI-Systeme.
Übrigens: Wenn Aufsichtsbehörden jetzt rigoros durchgreifen, zählt schnelle Compliance. Unser gratis E‑Book zur EU-KI-Verordnung fasst Anforderungen, Pflichten und konkrete Umsetzungs-Schritte zusammen, inklusive Checklisten, Fristenübersicht und Praxisvorlagen für Ihr Audit. So erkennen Sie Risiken frühzeitig und können Kennzeichnungs- sowie Dokumentationspflichten rechtssicher erfüllen. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen
