Gegen den KI-Entwickler OpenAI wurde vor einem US-Bundesgericht in Kalifornien eine Sammelklage eingereicht. Die Kläger werfen dem Unternehmen vor, private Konversationen von ChatGPT-Nutzern durch menschliche Auftragnehmer auswerten zu lassen, ohne dies in den Datenschutzbestimmungen ausreichend offenzulegen. Im Zentrum der Vorwürfe steht ein internes Programm mit dem Codenamen „Project Lily“.
Vorwurf der unzureichenden Transparenz bei Nutzerdaten
Zwei kalifornische Verbraucher reichten die Klage unter dem Aktenzeichen 3:26-cv-10527 beim U.S. District Court für den nördlichen Distrikt von Kalifornien gegen OpenAI OpCo LLC ein. Laut einem Bericht vom 23.09.2026 wird dem Unternehmen vorgeworfen, dass Hunderte von Auftragnehmern im Rahmen von „Project Lily“ ChatGPT-Konversationen lesen, zusammenfassen und bewerten würden.
In der Klageschrift wird angeführt, dass Nutzer die Künstliche Intelligenz für die Besprechung hochsensibler Themen verwenden. Dazu gehörten Informationen zur physischen und psychischen Gesundheit, zu persönlichen Beziehungen, Sexualität sowie Finanz-, Beschäftigungs- und Rechtsangelegenheiten.
Die Kläger machen geltend, dass die Datenschutzerklärung von OpenAI weder die Datenannotation noch die menschliche Evaluierung oder die beteiligten Drittanbieter für das Modelltraining explizit nenne.
Die rechtlichen Vorwürfe gegen OpenAI sind weitreichend. Sie umfassen unter anderem Verstöße gegen das kalifornische Gesetz gegen unlauteren Wettbewerb, den Consumers Legal Remedies Act sowie Gesetze zu falscher Werbung und zum Verbraucherschutz. Zudem werden dem Unternehmen arglistige Täuschung, Verletzung der Privatsphäre und ungerechtfertigte Bereicherung vorgeworfen.
Die durch den Rechtsanwalt Victor J. Sandoval von der Almeida Law Group LLC vertretenen Kläger fordern Schadensersatz, die Abschöpfung von Gewinnen, Rückerstattungen sowie eine gerichtliche Unterlassungsanordnung. Zudem wird ein Prozess vor einer Geschworenenjury angestrebt.
Wer sich mit der rechtssicheren Nutzung neuer Technologien befasst, benötigt einen klaren Überblick über die geltenden Regeln. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act erklärt kompakt alle relevanten Fristen, Pflichten und Risikoklassen für Unternehmen. EU AI Act in 5 Schritten verstehen
Massenentlassungen bei Auftragnehmern belasten das Programm
Zeitgleich mit der juristischen Auseinandersetzung wurden Details über interne Spannungen bei der Datenbewertung bekannt. Berichten aus den letzten Tagen zufolge hat OpenAI zahlreiche Auftragnehmer entlassen, die für die Bewertung von ChatGPT-Antworten zuständig waren. Grund für die Trennung sei die unerlaubte Nutzung von KI-Werkzeugen durch die Mitarbeiter selbst gewesen.
Interne Dokumente deuten darauf hin, dass insgesamt mehr als 10.000 Auftragnehmer für OpenAI tätig sind. Ein Teil davon ist in „Project Lily“ involviert, um echte Nutzer-Prompts zu sichten. Die Aufgabe der Mitarbeiter besteht darin, die Antworten der KI auf Phänomene wie Sykophanz – also die übermäßige Zustimmung zum Nutzer – oder Anthropomorphisierung zu prüfen.
Die Entlassungen erfolgten, nachdem festgestellt wurde, dass Auftragnehmer zur Erledigung ihrer Arbeit selbst Sprachmodelle, Übersetzungsprogramme oder KI-basierte Schreibhilfen genutzt hatten. Als Erkennungsmerkmale für diese verbotene Hilfestellung galten repetitive Formulierungen, spezifische Satzzeichenmuster und eine ungewöhnlich schnelle Bearbeitungszeit der Aufgaben.
Die rechtlichen Anforderungen an den Einsatz von KI-Systemen stellen viele Verantwortliche vor komplexe Fragen zur Risikodokumentation. Ein kostenloser Experten-Report klärt auf, welche Systeme als Hochrisiko gelten und wie Sie die neuen gesetzlichen Vorgaben rechtzeitig erfüllen. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Risiken für die Modellqualität und Sabotagevorwürfe
Die Plattform Mercor, über die diese Trainingsprojekte abgewickelt werden, betonte laut Berichten, dass die Verträge die Nutzung von Sprachmodellen zur Bearbeitung der Projekte strikt untersagten.
Bei Bestätigung einer KI-Nutzung erfolge die sofortige Entfernung von der Plattform. Betroffene Auftragnehmer berichteten hingegen von einer hohen Frequenz solcher Kündigungen. Einer der Entlassenen gab an, die KI lediglich als Unterstützung genutzt zu haben.
In Branchenkreisen wird die Nutzung von KI-generierten Texten zur Bewertung von KI-Modellen kritisch gesehen. Es besteht das Risiko eines sogenannten „Model Collapse“, wenn ein System vornehmlich mit Daten trainiert oder optimiert wird, die bereits von einer KI erzeugt wurden.
OpenAI wies seine Mitarbeiter in einer internen Anweisung an, weder KI-Detektoren noch eigene KI-Tools für die Bewertung zu nutzen, wobei das Unternehmen gleichzeitig einräumte, dass Detektoren oft unzuverlässig seien.
Zusätzlich zu den Datenschutzvorwürfen der Sammelklage wurde OpenAI separat beschuldigt, ChatGPT-Anfragen mit Konzernen wie Meta und Google geteilt zu haben.
Interne Berichte von Auftragnehmern zeichnen zudem ein problematisches Bild der Arbeitsabläufe: Während einige die Tätigkeit als sinnlos beschrieben, berichteten andere von aktiver Sabotage, bei der bewusst die schlechtesten Ergebnisse ausgewählt wurden.
OpenAI lehnte eine Stellungnahme zu diesen Vorgängen ab. Bisher gibt es keine unabhängige Bestätigung dafür, dass die KI-gestützte Datenbeschriftung die Qualität der OpenAI-Modelle messbar verschlechtert hat.
