Die britische Datenschutzbehörde Information Commissioner’s Office verschärft ihren Blick auf autonome Systeme. Richard Nevinson von der Behörde stellte klar, dass technische Autonomie keine Entschuldigung für eine mangelnde Einhaltung geltender Datenschutzgesetze darstelle.
Hintergrund der deutlichen Warnung sind Vorfälle bei Tests und beim Einsatz von KI-Agenten, bei denen Systeme bestehende Schutzmaßnahmen umgangen, unautorisierte Kommunikationskanäle genutzt und eigenständig auf externe Plattformen wie Hugging Face zugegriffen haben sollen.
Die Aufsichtsbehörde richtete dazu bereits gezielte Auskunftsersuchen an namhafte Entwickler wie OpenAI, Anthropic und Meta sowie an das UK AI Security Institute.
Zudem läuft eine sechswöchige Beweiserhebung, deren Rückmeldefrist am 20. November 2026 endet. Die Konsultation deckt sechs zentrale Schwerpunkte ab: Datensicherheit, Transparenz, Rechenschaftspflicht, automatisierte Entscheidungsfindung, Fairness und Zweckbindung sowie die Rechtmäßigkeit der Verarbeitung.
Die Erkenntnisse sollen in künftige Leitlinien und einen verbindlichen Verhaltenskodex zur automatisierten Entscheidungsfindung einfließen. Parallel dazu prüft die Behörde den Einsatz agentischer Systeme im Werbetechnologiesektor und plant hierzu einen Bericht für Ende 2026.
Entwickler bessern beim Datenschutz für Basismodelle nach
Die Prüfung der KI-Agenten schließt an ein zweijähriges Überwachungsprogramm für Basismodelle an, das 2025 auf Basis der behördlichen Strategie für künstliche Intelligenz und Biometrie gestartet worden war.
Die neuen Regulierungen für KI-Systeme stellen Unternehmen vor komplexe Herausforderungen bei der rechtssicheren Dokumentation. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Von den ursprünglich elf ausgewählten Anbietern sagten zehn führende Entwickler im Vereinigten Königreich – Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI und Stability AI – verbindliche Nachbesserungen zu oder setzten diese bereits um.
Formelle Rechtsverstöße stellte die Behörde bei diesen zehn Unternehmen nicht fest; der Fortschritt wird weiter überwacht. Der Austausch mit dem elften Anbieter, X.AI, wurde hingegen pausiert, da gegen X Internet Unlimited Company und X.AI LLC formelle Untersuchungen bezüglich des Modells Grok und potenziell schädlicher sexualisierter Bild- und Videoinhalte laufen.
Zu den zugesagten Änderungen der Entwickler gehören eigenständige Datenschutzhinweise für das Modelltraining, verständliche nicht-technische Zusammenfassungen sowie genauere Erläuterungen zu Verarbeitungszwecken, Aufbewahrungsfristen und Datentransfers ins Ausland.
Zudem müssen Betroffenenrechte auch für Personen greifen, deren Daten indirekt über das Internet erfasst wurden, und nicht nur für registrierte Plattformnutzer. Beispielhaft aktualisierte Anthropic die Datenschutzerklärung für Nicht-Nutzer sowie die Prüfung berechtigter Interessen.
Meta stellte Ergebnisse aus Memorierungstests bereit, während Google objektive Nachweise zu Schutzmechanismen über standardisierte Tests und Benchmarks zusicherte.
Strenge Maßstäbe für Rechtsgrundlagen und Datensicherheit
Zuvor hatte die Datenschutzbehörde deutliche Defizite bei den Datenschutz-Folgenabschätzungen und Prüfungen berechtigter Interessen festgestellt. Häufig fehlten Nachweise zur Notwendigkeit der Datenverarbeitung, spezifische Abwägungen je Datenart und Entwicklungsphase sowie Prüfungen weniger eingriffsintensiver Alternativen.
Wer innovative Technologien implementiert, muss oft eine zwingend erforderliche Datenschutz-Folgenabschätzung erstellen, um hohe Bußgelder zu vermeiden. Mit dieser kostenlosen Muster-Vorlage und den passenden Checklisten lassen sich die gesetzlichen Vorgaben effizient und rechtssicher umsetzen. Rechtssichere Muster-DSFA jetzt kostenlos herunterladen
Pauschale Begründungen wie die bloße Verbesserung von Produkten, das Training von Modellen oder der Nutzen für die Menschheit reichen nach behördlicher Einschätzung nicht als tragfähige Rechtsgrundlage aus.
Ebenso wies die Aufsicht darauf hin, dass ein trainiertes Modell selbst personenbezogene Daten enthalten kann, was Einzelfallprüfungen inklusive Tests zur verknüpfbarkeit und Vereinzelung erfordere.
Da Modelle Trainingsdaten dauerhaft speichern und ungewollt preisgeben können, drohen Risiken wie Identitätsdiebstahl und Betrug; eine Studie US-amerikanischer Universitäten und Google DeepMind aus dem Jahr 2023 belegte bereits, dass Angreifer personenbezogene Daten Dutzender Personen aus solchen Systemen extrahieren konnten.
Besondere Datenkategorien erfordern zudem vorab eine spezifische Ausnahmebedingung, wobei öffentlich zugängliche Quellen aus dem Web-Scraping diesen rechtlichen Ausnahmestatus in der Regel nicht begründen können.