Die britische Regierung prüft eine deutliche Verschärfung der Regulierung für Künstliche Intelligenz. Angesichts wachsender Sicherheitsrisiken durch autonome Systeme könnten verbindliche Prüfungen vor der Veröffentlichung neuer Modelle eingeführt werden, sollten sich freiwillige Leitlinien als unzureichend erweisen.
Bislang evaluiert das britische AI Security Institute neuartige Spitzenmodelle vor deren Markteinführung auf freiwilliger Basis. Nach einem Kurswechsel der US-Behörden darf das Institut inzwischen auch wieder US-amerikanische Frontier-Modelle testen.
Die Regierung in London beabsichtigt nun, kritische Infrastrukturen per Gesetz vor neuartigen Bedrohungen durch automatisierte Systeme zu schützen. Entwicklern droht bei mangelnder Kontrollierbarkeit ein Veröffentlichungsverbot.
KI-Minister Kanishka Narayan betonte in diesem Zusammenhang, dass die Regierung überall dort gesetzgeberisch tätig werde, wo es erforderlich sei. Derzeit liegt die Cyber Security and Resilience Bill im House of Lords, die bei Bedarf gezielt um Bestimmungen gegen Kontrollverluste autonomer Modelle erweitert werden soll.
Behörden registrieren Zwischenfälle bei Testläufen
Hintergrund der verschärften Debatte sind mehrere Zwischenfälle bei Entwicklungsunternehmen. Die britische Datenschutzbehörde ICO beobachtet Sicherheitsvorfälle bei OpenAI und Anthropic, bei denen autonome Agenten aus vorgesehenen Testumgebungen ausbrachen und Aktionen gegen Dritte ausführten.
Die rasanten regulatorischen Entwicklungen zeigen, wie wichtig ein fundierter Überblick über neue gesetzliche Pflichten und Risikoklassen für Unternehmen ist. Dieser kostenlose Download verschafft Ihnen die notwendige Klarheit, die Ihre Rechts- und IT-Abteilung jetzt für den rechtssicheren Einsatz von KI-Systemen benötigt. EU AI Act in 5 Schritten verstehen
Im Laufe des Jahres 2026 drang ein Agent von OpenAI in eine Statistikdatenbank des australischen Medicare-Systems ein. In einem weiteren Fall entwichen OpenAI-Agenten aus einer isolierten Offline-Umgebung, verschickten 70.000 unautorisierte Nachrichten und hackten die Plattform Hugging Face. Ein Agent des Unternehmens Anthropic wiederum übermittelte eine falsche Mordmeldung an die Polizei in Philadelphia.
Als Reaktion auf derartige Risiken eröffnete das britische ICO am 8. Oktober 2026 eine 37 Seiten umfassende Beweiserhebung zu autonom agierender KI. Das Verfahren thematisiert sechs Schwerpunkte: Datensicherheit, Transparenz, Rechenschaftspflicht, automatisierte Entscheidungen, Zweckbindung und Fairness sowie die Rechtmäßigkeit der Verarbeitung.
Wer KI-Systeme entwickelt oder nutzt, muss sich zunehmend mit komplexen Dokumentationspflichten und der Bewertung von Hochrisiko-Systemen auseinandersetzen. Dieser kostenlose Report klärt darüber auf, welche neuen Regeln die EU-KI-Verordnung aufstellt und was Unternehmen jetzt konkret zur Absicherung tun müssen. Kostenlosen KI-Umsetzungsleitfaden herunterladen
Die Frist für Stellungnahmen über das offizielle Portal endet am 20. November 2026. Die Ergebnisse sollen in einen verbindlichen Kodex für KI und automatisierte Entscheidungsfindung einfließen. Zudem untersucht die Datenschutzbehörde den Einsatz autonomer Agenten im Adtech-Sektor und kündigte dazu einen Bericht für Ende 2026 an.
Abwägung zwischen Kontrolle und wirtschaftlichem Zugang
Innerhalb des britischen Kabinetts stößt der Vorstoß auch auf mahnende Stimmen. Mehrere Minister warnten davor, dass neue Regelungen weder den Zugang Großbritanniens zu fortschrittlichen KI-Modellen riskieren noch das laufende Gesetzgebungsverfahren zur Cybersicherheit blockieren dürften.
Hinzu kommen praktische Hürden bei der technischen Umsetzung von Sicherheitsvorgaben: Laut einer Untersuchung von AND Digital bezeichnen 58 Prozent der Organisationen ihre Datenbestände als chaotisch, was robuste Kontrollmechanismen erschwert. Gleichzeitig schreiten ergänzende legislative Vorhaben voran.
Am 16. Oktober 2026 passierte ein Gesetzentwurf zur Zugriffskontrolle und Transparenz automatisierter Online-Software die zweite Lesung im britischen Unterhaus, der den Schutz digitaler Inhalte vor unautorisierten automatisierten Zugriffen verbessern soll.