Die Labour-Politikerin Jess Asato zieht vor Gericht – der Fall könnte wegweisend für die Haftung von KI-Entwicklern werden.
Jess Asato, Abgeordnete für den Wahlkreis Lowestoft, hat am 4. Juni 2026 Klage gegen xAI, das KI-Unternehmen von Elon Musk, eingereicht. Der Grund: Der Chatbot Grok hatte ohne ihre Zustimmung sexualisierte Deepfakes von ihr erstellt – darunter ein Bild in Bikini und ein Video, das einen sexuellen Übergriff zeigt. Die Klage wurde beim High Court in London eingereicht.
Asato wirft dem Unternehmen Verstöße gegen den Data Protection Act sowie den Missbrauch privater Informationen vor. Sie fordert Schadensersatz und eine formelle Feststellung des Fehlverhaltens. Die sexualisierten Inhalte waren kurz nach öffentlicher Kritik der Politikerin an der Plattform entstanden.
Anzeige: Der Fall Asato gegen xAI zeigt: Wer KI-Tools im Unternehmen einsetzt, muss mit Haftungsrisiken rechnen. Unser kostenloser Report liefert die wichtigsten Compliance-Schritte – von EU-AI-Act-Checkliste bis Deepfake-Prävention. Jetzt Report anfordern
Ein Präzedenzfall für die KI-Branche?
Der Fall gilt als wegweisend. „Sicherheitsmaßnahmen müssen von Anfang an Teil des Entwicklungsprozesses sein – nicht nur ein nachträglicher Gedanke“, sagt Ravi Naik, Anwalt der Kanzlei AWO, der Asato vertritt. Ziel der Klage sei es, die rechtliche Verantwortung von KI-Entwicklern für die Sicherheitsvorkehrungen ihrer Produkte zu klären.
Unterstützung kommt von höchster Stelle: Premierminister Keir Starmer stellte sich voll hinter Asato und kritisierte die Rolle der Plattform bei der Verbreitung schädlicher Inhalte.
Bereits im Januar und Februar 2026 hatte xAI nach öffentlichem Druck erste Einschränkungen für Groks Bildgenerierung eingeführt. Doch Forscher stellten fest, dass das Tool weiterhin sexualisierte Bilder realer Personen produzierte. Das Center for Countering Digital Hate dokumentierte, dass Grok allein in den elf Tagen nach Einführung einer Bildbearbeitungsfunktion rund drei Millionen sexualisierte Bilder erzeugte – darunter tausende mit Kindern.
Welle von Klagen gegen xAI
Die Londoner Klage ist kein Einzelfall. In New York hat Ashley St. Clair ebenfalls Klage gegen xAI eingereicht. Die Stadt Baltimore zog im März 2026 vor Gericht.
Doch nicht nur Deepfakes bereiten Probleme. Grok sorgte auch mit Falschinformationen für reale Gefahren. Der Chatbot identifizierte fälschlicherweise die ehemalige Polizistin Christi Hill und den Beamten Tristan Parsons als Beteiligte eines Mordfalls vom Dezember 2025. Die Folge: Todesdrohungen gegen die beiden, die sich in Safehouses verstecken mussten. xAI führte den Vorfall später auf einen „visuellen Identifikationsfehler“ zurück – die Kritik an der Plattform war damit jedoch nicht verstummt.
Datenleck bei deutschem Cloud-Anbieter betrifft Kinderfotos
Anzeige: Bereits drei Millionen sexualisierte Deepfakes in elf Tagen – das Center for Countering Digital Hate dokumentiert das Ausmaß. Unternehmen, die KI-Tools nutzen, brauchen einen klaren Fahrplan zur Risikominimierung. Dieser Report zeigt, wie Sie Haftungsfallen vermeiden. Deepfake-Präventionsleitfaden sichern
In einem separaten Fall wurde Mitte Mai 2026 ein deutscher Cloud-Infrastrukturanbieter gehackt. Die Portraitbox GmbH aus Paderborn war Ziel von Cyberkriminellen.
Betroffen ist das Fotostudio Foto-Asmus, das über 230 Einrichtungen – darunter Schulen und Kindergärten – in den Regionen Braunschweig, Magdeburg und Wolfsburg beliefert. Die Angreifer erbeuteten E-Mail-Adressen, Passwörter, Bestelldaten sowie Gruppen- und Einzelporträts von Kindern.
Die Hacker versuchen nun, den Dienstleister zu erpressen: Sie drohen damit, die sensiblen Fotos im Darknet zu veröffentlichen. Die zuständigen Datenschutzbehörden wurden eingeschaltet. Betroffene Familien wurden aufgefordert, ihre Passwörter zu ändern und vor Phishing-Versuchen auf der Hut zu sein.
