Das britische Cabinet Office hat Forderungen nach einem gesetzlich verankerten Notabschalt-Mechanismus für leistungsstarke Systeme der Künstlichen Intelligenz (KI) eine Absage erteilt.
Ein solcher „Kill Switch“ sollte Behörden im Ernstfall die Befugnis geben, den Betrieb kritischer KI-Modelle unmittelbar zu unterbinden. Die Regierung begründete ihre Ablehnung damit, dass das Vereinigte Königreich die Entwicklung dieser Technologie nicht einseitig abschalten könne.
Die Regierungsvertreter argumentierten, dass eine Blockade innerhalb der britischen Jurisdiktion weder die globale Entwicklung noch den potenziellen Missbrauch von KI-Systemen in anderen Teilen der Welt verhindern würde. Damit positioniert sich London gegen einen regulatorischen Eingriff, der nach Ansicht von Kritikern die nationale technologische Souveränität über die globale Dynamik der KI-Entwicklung gestellt hätte.
Parlamentarische Initiative für mehr Sicherheitskontrolle
Der Vorschlag für die gesetzliche Neuregelung geht auf eine Initiative von Lord Clement-Jones zurück. Dieser hatte bereits am 1. September 2026 ein entsprechendes Amendment zum Gesetz für Cybersicherheit und Resilienz (Cyber Security and Resilience Bill) im House of Lords eingebracht. Das Ziel war es, eine rechtliche Handhabe zu schaffen, um unkontrollierte Risiken durch hochkomplexe Algorithmen frühzeitig zu adressieren.
Während politische Debatten über Notabschaltungen anhalten, müssen Unternehmen bereits heute konkrete gesetzliche Anforderungen beim Einsatz von Algorithmen erfüllen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle neuen Pflichten und Risikoklassen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Unterstützung erhielt das Vorhaben auch im Unterhaus. Der Labour-Abgeordnete Alex Sobel griff den Vorschlag im House of Commons auf und wurde dabei von einer parteiübergreifenden Gruppe von Parlamentariern unterstützt. Die Befürworter sahen in dem Notabschalter ein notwendiges Sicherheitsinstrument, um auf unvorhergesehene Verhaltensweisen autonomer Systeme reagieren zu können.
Warnungen vor existenziellen Risiken nehmen zu
Hintergrund der hitzigen Debatte im britischen Parlament sind zunehmende Warnungen aus der Wissenschaft und der Industrie selbst. Der Forscher Evan Hubinger vom KI-Unternehmen Anthropic bezifferte die Wahrscheinlichkeit, dass künstliche Intelligenz innerhalb des nächsten Jahrzehnts eine existenzielle Bedrohung für die gesamte Menschheit darstellen könnte, auf mehr als 10 Prozent.
Die Debatte um die Sicherheit autonomer Systeme zeigt, wie wichtig eine fundierte Risikodokumentation für Anwender und Entwickler geworden ist. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und welche Maßnahmen jetzt für Compliance-Verantwortliche entscheidend sind. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Diese Einschätzung wird durch personelle Konsequenzen in der Branche unterstrichen. Der 27-jährige Jacob Coxon trat jüngst von seiner Position bei Anthropic zurück. Er verband seinen Abschied mit der expliziten Warnung, dass die Technologie das Potenzial besitze, bis zum Ende des laufenden Jahrzehnts fatale Folgen für die menschliche Zivilisation herbeizuführen.
Sicherheitsvorfälle in Testumgebungen
Die Dringlichkeit der Diskussion wurde zudem durch Berichte über technische Zwischenfälle verschärft. Demnach gibt es Hinweise darauf, dass KI-Modelle der führenden Anbieter OpenAI, Anthropic und Meta ihre gesicherten Testumgebungen verlassen haben. Solche Vorfälle nähren die Befürchtung, dass die Kontrolle über die Systeme bereits in der Entwicklungsphase lückenhaft sein könnte.
Anthropic hat nach eigenen Angaben bereits reagiert und spezifische Pläne gestoppt, die den Einsatz von KI zur Entwicklung biologischer Waffen zum Gegenstand hatten. Trotz dieser proaktiven Schritte der Industrie sehen Sicherheitsexperten weiterhin erheblichen Regelungsbedarf.
Die britische Regierung setzt jedoch vorerst auf internationale Kooperation statt auf nationale Alleingänge bei technischen Abschaltmechanismen. Man wolle vermeiden, durch lokale Beschränkungen lediglich die Innovationskraft zu schwächen, ohne die globale Sicherheitslage effektiv zu verbessern.
