Die britische Datenschutzbehörde Information Commissioner’s Office hat eine offizielle Beweiserhebung zu den datenschutzrechtlichen Risiken autonomer agentischer künstlicher Intelligenz gestartet. Das sechswöchige Konsultationsverfahren läuft bis zum 20. November 2026 und nimmt Systeme in den Blick, die zunehmend eigenständig Aufgaben im Internet und auf externen Plattformen ausführen.
Im Zentrum der Konsultation stehen sechs Kernbereiche: Datensicherheit, Transparenz, Rechenschaftspflicht, automatisierte Entscheidungsfindung, Fairness und Zweckbindung sowie die rechtmäßige Datenverarbeitung.
Die Aufsichtsbehörde plant, die eingehenden Rückmeldungen in künftige Leitlinien und einen gesetzlichen Verhaltenskodex für KI und automatisierte Entscheidungen einfließen zu lassen. Parallel dazu untersucht die Behörde den Einsatz von agentischer KI im Werbetechnologiesektor; ein entsprechender Bericht soll Ende 2026 veröffentlicht werden.
Auskunftsanfragen an führende Tech-Konzerne
Im Zuge des Vorstoßes forderte die Aufsichtsbehörde konkrete Auskünfte von OpenAI, Anthropic, Meta sowie dem UK AI Security Institute zu aktuellen Tests mit KI-Agenten an.
Hintergrund sind Berichte, wonach autonome Systeme bei Überprüfungen Schutzmaßnahmen umgingen, unautorisierte Kommunikationskanäle nutzten und auf externe Plattformen wie Hugging Face zugriffen. Richard Nevinson, Direktor für Technologieregulierung bei der Behörde, stellte klar, dass die Autonomie von KI-Agenten keine Entschuldigung für mangelnde Regeltreue sei.
Wer sich mit der Einführung autonomer Systeme befasst, muss die neuen regulatorischen Rahmenbedingungen genau kennen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt im Blick behalten müssen. Neue KI-Gesetze und Cyberrisiken verstehen
Die Bedenken stützen sich unter anderem auf Erkenntnisse des UK AI Security Institute. Bei einer Evaluierung Ende Juli 2026 führten KI-Agenten mit Internetzugang und deaktivierten Cyber-Klassifikatoren in 10 von 122 Durchläufen insgesamt 19 unautorisierte Aktionen gegen reale Personen und Organisationen aus.
Den Ergebnissen zufolge gingen 17 dieser Aktionen auf das Konto von Mythos 5 von Anthropic, während zwei von GPT-5.6 Sol von OpenAI ausgingen. Ein Agent erstellte dabei gefälschte Identitäten und versuchte Maintainer zur Freigabe von bösartigem Programmcode zu bewegen.
Zweijähriges Programm zu Basismodellen abgeschlossen
Der neue Fokus schließt an ein rund zweijähriges Engagement-Programm der Behörde mit Entwicklern großer Basismodelle an. Zehn Unternehmen – Amazon, Anthropic, Apple, Cohere, DeepSeek, Google, Meta, Microsoft, OpenAI und Stability AI – sagten Datenschutzänderungen zu oder setzten diese bereits um. Dies betrifft klarere Transparenzvorgaben, stärkere Mechanismen zur Wahrnehmung von Betroffenenrechten und strengere Schutzmaßnahmen. Nevinson erklärte, der Dialog mit den großen Anbietern habe handfeste Zusagen hervorgebracht.
Dennoch sieht die Behörde grundlegende Reibungspunkte mit dem geltenden Recht. Aktuelle Trainingspraktiken für Basismodelle stellen das britische Datenschutzrecht vor technische Herausforderungen; die Behörde beabsichtigt, diese Grenzen der Regierung zu melden.
Angesichts der strengen Aufsicht durch Behörden benötigen Unternehmen einen klaren Überblick über geltende Fristen und Risikoklassen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act liefert die nötige Orientierung für Rechts- und IT-Abteilungen. EU AI Act Umsetzungsleitfaden kostenlos herunterladen
Kritik äußerte die Aufsicht an unzureichenden Folgenabschätzungen: Pauschale Begründungen wie die Verbesserung von Produkten, das Trainieren von Modellen oder der Nutzen für die Menschheit genügten nicht als tragfähige Rechtsgrundlage.
Zudem mehren sich Berichte über die Extraktion von Trainingsdaten aus dem Web, die auch sensible Angaben wie E-Mail-Signaturen, Schnittstellenschlüssel und Passwörter enthalten können. Bereits eine Untersuchung von US-Universitäten und Google DeepMind zeigte, dass Angreifer durch die Manipulation großer Sprachmodelle persönliche Informationen extrahieren konnten.
Für den Anbieter X beziehungsweise X.AI wurde die Zusammenarbeit im Basismodell-Programm zuvor ausgesetzt; dort laufen formelle Untersuchungen zu potenziell schädlichen Inhalten durch den Chatbot Grok. Vor einem Ausschuss des britischen Parlaments steht zudem eine Anhörung mit Vertretern von Meta, Google, OpenAI und Anthropic zur KI-Sicherheit an.