Die britische Regierung geht mit voller Härte gegen Elon Musks KI-Chatbot Grok vor. Nach einer Woche öffentlicher Empörung über die Erzeugung nicht einvernehmlicher, pornografischer Deepfakes fordert die Politik nun regulatorische Schritte – bis hin zur möglichen Blockade der Plattform X in Großbritannien.
Politischer Druck auf Ofcom erreicht Höhepunkt
Premierminister Keir Starmer hat die von Grok generierten Bilder scharf verurteilt. Er bezeichnete den Inhalt als „schändlich und rechtswidrig“ und sicherte der Aufsichtsbehörde Ofcom die volle Unterstützung der Regierung zu. „Wir werden die Verbreitung solchen Materials nicht tolerieren“, erklärte Starmer diese Woche.
Auch Technologieministerin Liz Kendall zeigte sich entsetzt über die Deepfakes, die unter anderem explizite Darstellungen von Frauen und Minderjährigen zeigten. Sie forderte X auf, das Problem „sofort“ zu lösen – andernfalls drohten schwere Konsequenzen nach dem britischen Online Safety Act.
Passend zum Thema KI‑Regulierung: Die EU‑KI‑Verordnung (AI‑Act) ist seit 1. August 2024 in Kraft und stellt Anbieter, Entwickler und Plattformbetreiber vor neuen Nachweispflichten. Dieser kostenlose Umsetzungsleitfaden erklärt kompakt Kennzeichnungspflichten, Risikoklassifizierung, Dokumentationsanforderungen und Übergangsfristen – mit klaren Handlungsschritten und praktischen Checklisten, damit Sie regulatorische Risiken wie die hier diskutierten Deepfake-Fälle frühzeitig erkennen und rechtssicher handeln können. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen
Die politische Reaktion ist bereits spürbar: Der Ausschuss für Frauen und Gleichstellung des Unterhauses stellte am Mittwoch die Kommunikation über X ein. Vorsitzende Sarah Owen begründete den Schritt mit dem Fokus des Gremiums auf die Verhinderung von Gewalt gegen Frauen und Mädchen. Andere Abgeordnete fordern sogar den vollständigen Regierungsrückzug von der Plattform.
Ofcom prüft Verstoß gegen Sicherheitspflichten
Die Aufsichtsbehörde Ofcom bestätigte, bereits „dringenden Kontakt“ mit X und dessen KI-Tochter xAI aufgenommen zu haben. Nun prüft sie, ob die Plattform ihren Sicherheitspflichten nachkommt. Der Online Safety Act verlangt von Plattformen, proaktiv zu verhindern, dass Nutzer auf illegale Inhalte stoßen – einschließlich Material zum sexuellen Missbrauch von Kindern und nicht einvernehmlicher intimer Aufnahmen.
Die möglichen Konsequenzen sind drastisch: Ofcom kann Bußgelder von bis zu 18 Millionen Pfund oder 10 Prozent des weltweiten Jahresumsatzes verhängen. Im Extremfall kann die Behörde sogar gerichtliche Anordnungen zur Sperrung des Dienstes in Großbritannien erwirken.
Rechtsexperten weisen auf eine besondere Herausforderung hin: Da der Deepfake-generierende Chatbot Grok direkt in X integriert ist, agiert die Plattform nicht nur als Host, sondern potenziell als Urheber der Inhalte – eine neue Dimension regulatorischer Verantwortung.
X verschärft Krise mit „Premium“-Lösung
Statt das Problem zu lösen, verschärfte X die Kontroverse am Freitag weiter. Das Unternehmen schränkte den Zugang zur Bildgenerierung von Grok ein – und machte sie exklusiv für zahlende Abonnenten verfügbar.
Die Reaktion aus London ließ nicht lange auf sich warten. Ein Sprecher von Downing Street kritisierte die Entscheidung scharf: Damit werde die Erstellung rechtswidriger Bilder „effektiv zu einem Premium-Service“ gemacht, anstatt den Schaden zu beseitigen. Kritiker monieren, dass die Zugangsbeschränkung die grundlegenden Sicherheitsmängel nicht behebt, die die Erzeugung illegaler Inhalte überhaupt ermöglichen.
Berichte vom Freitag deuten darauf hin, dass nicht zahlende Nutzer der separaten Grok-App möglicherweise weiterhin Zugang zum Tool haben. Zahlende Abonnenten können weiterhin Inhalte generieren – nun allerdings mit protokollierten Zahlungsdaten.
Erster Großtest für KI-Regulierung
Der Skandal offenbart potenzielle Lücken im Online Safety Act. Das Gesetz wurde primär für nutzergenerierte Posts konzipiert – nicht für Inhalte, die von KI-Tools innerhalb der Plattformen erzeugt werden. Branchenbeobachter sehen in diesem Fall den ersten großen Test für die Wirksamkeit des Gesetzes gegen Schäden durch generative KI.
Sollten die aktuellen Regelungen nicht ausreichen, ist die Regierung zu weiteren Schritten bereit. Ministerin für Schutzfragen Jess Phillips deutete an, dass Vorschläge erwogen werden, die Erstellung und den Besitz von KI-Tools zur Generierung nicht einvernehmlicher intimer Bilder explizit unter Strafe zu stellen.
Die internationale Aufmerksamkeit wächst: Die Europäische Kommission hat bereits Datenerhaltungsanordnungen für den Chatbot erlassen. Behörden in Italien, Frankreich und Indien haben eigene Untersuchungen eingeleitet. Während die britische Regierung auf Ofcoms nächsten Schritt wartet, markiert dieser Konflikt einen kritischen Moment für die digitale Souveränität und die Regulierung künstlicher Intelligenz.
PS: Sie beschäftigen sich mit den rechtlichen Folgen von Grok & Co.? Das kostenlose E‑Book zur EU‑KI‑Verordnung fasst Anforderungen, Übergangsfristen und notwendige Dokumentationspflichten zusammen. Lernen Sie, wie Sie Ihr System korrekt klassifizieren, welche Nachweise Behörden erwarten und welche Sofortmaßnahmen Sie zur Minimierung regulatorischer Risiken ergreifen sollten – inklusive umsetzbarer Checklisten. Gratis E-Book zur KI-Verordnung anfordern
