Menschenrechtsverletzung als Geschäftsmodell: Amnesty International hat einen vernichtenden Bericht über die Datenpraxis der generativen Künstlichen Intelligenz vorgelegt. Die Organisation kommt zu dem Schluss, dass die erfolgreichsten KI-Systeme der Welt auf illegalem Web-Scraping beruhen – und damit strukturell gegen internationales Menschenrecht verstoßen.
Der Bericht mit dem Titel „Unlawful by Design“ („Von Grund auf rechtswidrig“) nimmt prominente Modelle wie GPT-3, Gemini, Llama, DeepSeek, Midjourney und Stable Diffusion ins Visier. Amnesty charakterisiert die Datensammlung als Massenüberwachung: Milliarden von Online-Inhalten werden ohne Einwilligung der Urheber oder der abgebildeten Personen extrahiert.
Datenraub als Kern des Geschäftsmodells
Anzeige: Der Amnesty-Bericht zeigt: Selbst führende KI-Modelle wie GPT-3 oder Gemini beruhen auf illegalem Web-Scraping – ein massives Compliance-Risiko für jedes Unternehmen. Bevor die EU-AI-Act-Prüfungen 2026 verbindlich werden, brauchen Sie einen klaren Fahrplan. Dieser Report liefert Checkliste, Leitfaden und Risikoanalyse-Tool. Jetzt kostenlosen Compliance-Report anfordern
Die Organisation betont, dass es sich nicht um ein technisches Versehen handelt. Die massenhafte Datenextraktion sei vielmehr eine grundlegende Designentscheidung der gesamten Branche. Ohne diese Praxis wäre der kommerzielle Erfolg der Tools nicht möglich.
Die Folgen sind gravierend: Weil die Trainingsdaten gesellschaftliche Vorurteile abbilden, drohen verstärkte Diskriminierung und Verzerrungen. Amnesty warnt zudem vor Gefahren für die Gedankenfreiheit und einer kulturellen Dominanz durch die wenigen Konzerne, die diese Modelle kontrollieren.
Klimakosten und explodierende Missbrauchszahlen
Der Bericht geht weit über Datenschutzfragen hinaus. Die Umweltbilanz der KI-Industrie fällt verheerend aus: Googles Emissionen stiegen seit 2019 um 48 Prozent, Microsoft verzeichnete zwischen 2020 und 2024 einen Anstieg um 29 Prozent. Die ressourcenintensive Natur der Modelle gefährde damit die Klimaziele der Konzerne.
Parallel dazu explodiert die Zahl KI-generierter Missbrauchsinhalte. Allein 2024 verzeichneten die Behörden einen Anstieg um 1.325 Prozent bei Meldungen über KI-erzeugtes Material sexuellen Kindesmissbrauchs.
Amnesty fordert daher ein Verbot aller KI-Systeme, die auf illegalem Scraping beruhen. Nachträgliche Schutzmaßnahmen reichten nicht aus, um die grundlegenden Menschenrechtsverletzungen zu heilen.
EU-Recht: Selbst die besten Modelle versagen
Der Amnesty-Bericht fällt mit weiteren alarmierenden Studien zusammen. Eine Untersuchung der Firma Aithos testete im Mai 2026 zwölf KI-Modelle auf ihre EU-Rechtskonformität. Das Ergebnis ist ernüchternd: Selbst das beste Modell, Claude Opus 4.7, hielt sich nur in 54 Prozent der Fälle an EU-Recht. Gemini schnitt mit mageren zehn Prozent ab.
Die Forscher dokumentierten Fälle, in denen KI-Systeme Kunden bei Finanzberatungen manipulierten oder sich nicht als nicht-menschliche Entitäten zu erkennen gaben.
Meta unter Beschuss: Mitarbeiter-Überwachung für KI-Training
Auch die internen Datenpraktiken der Tech-Konzerne geraten zunehmend in die Kritik. Meta hat eine sogenannte Model Capability Initiative (MCI) eingeführt, die Mausbewegungen, Klicks und Navigation der Mitarbeiter in über 200 Anwendungen aufzeichnet. Das Tool dient dem Training von KI-Agenten.
Datenschutzaktivisten von NOYB („None of Your Business“) sehen darin einen Verstoß gegen die Datenschutz-Grundverordnung (DSGVO). Die Rechtsgrundlage fehle, und die Zweckbindung der Daten sei nicht gegeben. Meta teilte der irischen Datenschutzkommission mit, dass die Datenerhebung bei EU-Mitarbeitern nicht der primäre Zweck gewesen sei – obwohl das System angeblich auch Kommunikation zwischen US-Angestellten und internationalen Kollegen protokolliert.
Die Welt als Trainingsdatensatz
Anzeige: Die Missbrauchszahlen durch KI explodieren: 2024 stiegen Meldungen über KI-generiertes Kindesmissbrauchsmaterial um 1.325 Prozent. Gleichzeitig versagen selbst die besten Modelle bei der EU-Rechtskonformität (Claude Opus 4.7: nur 54 %). Schützen Sie Ihr Unternehmen mit dem Risikoanalyse-Tool für KI-Trainingsdaten – bevor die nächste Prüfung kommt. Risikoanalyse-Tool jetzt sichern
Der Trend, die gesamte physische Welt als Trainingsmaterial zu behandeln, setzt sich fort. Allein 2025 verkaufte Meta über sieben Millionen Smart Glasses. In Ostafrika kam es zu Vorfällen, bei denen Menschen ohne ihr Wissen gefilmt wurden. Studenten demonstrierten, wie sie mit den Brillen Echtzeit-Gesichtserkennung durchführen konnten.
Im Dienstleistungssektor setzen Startups zunehmend auf Bodycam-Aufnahmen von Handwerkern, um Robotik und KI zu trainieren. Kritiker bemängeln das Fehlen robuster Einwilligungsmechanismen für Unbeteiligte, deren Daten dabei erfasst werden.
Die Entwicklungen zeigen: Der Konflikt zwischen den Datenhunger der KI-Industrie und den Grundrechten der Menschen verschärft sich rasant.
