Die britische Regierung hat ein umfassendes Maßnahmenpaket gegen Risiken durch Künstliche Intelligenz angekündigt und ihr Verteidigungsprogramm für sogenannte Frontier-KI verlängert.
Wie aus Berichten hervorgeht, haben zwei vorangegangene Pilotprojekte von Cabinet Office, dem AI Security Institute (AISI), dem National Cyber Security Centre (NCSC) sowie dem Ministerium für Kultur, Medien und Sport (DCMS) bereits über 1.000 potenzielle Schwachstellen in den IT-Systemen der Verwaltung aufgedeckt und behoben.
Aufbauend auf diesen Ergebnissen soll nun eine zweite Pilotphase starten. Diese sieht die Einbindung weiterer Ministerien, den Test zusätzlicher KI-Modelle sowie die Ausweitung der Prüfungen auf proprietäre Systeme vor. Zudem beabsichtigt die Regierung in London, den Einsatz moderner KI-Systeme zum Schutz der Regierungsstellen in Whitehall auszubauen und den beteiligten Behörden zusätzliche Ressourcen bereitzustellen.
Gesetzliche Meldepflichten und Ende der Selbstregulierung
Im Rahmen einer Rede am Imperial College London betonte Tech- und KI-Minister Kanishka Narayan, dass Großbritannien zu den Staaten gehören müsse, die mit KI-Mitteln am schwersten anzugreifen seien. Das Land könne sich bei der Sicherheit nicht allein auf Technologiekonzerne verlassen, weshalb die Ära der reinen Selbstregulierung der führenden Entwicklungslabore ende.
Narayan forderte die Entwickler auf, ihre Kapazitäten verstärkt in defensive Sicherheitssysteme zu lenken. Bereits zuvor hatte das Ministerium darauf hingewiesen, dass sich der Zeitraum, in dem Spitzenmodelle verlässliche Cyber-Aufgaben autonom ausführen können, seit Ende 2024 etwa alle fünf Monate verdoppelt habe.
Flankiert werden die Initiativen durch eine Verschärfung des Gesetzes für Cybersicherheit und Resilienz. Geplant sind verbindliche Meldepflichten für schwere Vorfälle sowie Beinahe-Vorfälle im Zusammenhang mit KI-Systemen bei Betreibern kritischer Infrastrukturen, um insbesondere Krankenhäuser und Versorgungsbetriebe abzusichern.
Während staatliche Institutionen ihre Abwehrstrategien verschärfen, stehen auch Unternehmen vor der Herausforderung, neue regulatorische Anforderungen an die künstliche Intelligenz rechtssicher umzusetzen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über Fristen, Pflichten und Risikoklassen für alle, die KI-Systeme entwickeln oder nutzen. EU AI Act in 5 Schritten verstehen
Unternehmen, die an Projekten zur nationalen Sicherheit arbeiten, sollen Vorfälle künftig direkt an die Regierung melden müssen. Für das Gesetzesvorhaben liegen im parlamentarischen Verfahren im House of Lords bereits Dutzende Änderungsanträge vor, darunter Vorschläge für gestaffelte Meldefristen für Entwickler fortgeschrittener KI bei unbefugten Zugriffen auf regulierte Systeme.
Finanzielle Zusagen für Forschung und Resilienz
Die Regierung untermauert ihre Pläne mit mehreren finanziellen Zusagen. Vorgesehen sind unter anderem 115 Millionen Pfund für Maßnahmen gegen biologische Risiken durch KI sowie für die Reaktion auf Vorfälle mit autonomen Agenten.
Ein Cyber-Aktionsplan für Regierungssysteme ist mit 210 Millionen Pfund dotiert. Für die wirtschaftliche Resilienz stellt London 90 Millionen Pfund über drei Jahre bereit, während ein eigener Fonds für souveräne KI über fünf Jahre mit 500 Millionen Pfund ausgestattet werden soll.
Die steigende Komplexität von KI-Anwendungen führt zu neuen Compliance-Fragen, die insbesondere für die IT- und Rechtsabteilungen moderner Organisationen relevant sind. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und welche konkreten Maßnahmen jetzt zur Absicherung erforderlich sind. Kostenlosen KI-Verordnungs-Report herunterladen
Ergänzend dazu setzt das Ministerium für Wissenschaft, Innovation und Technologie eine Initiative für Cyber-Resilienz im Umfang von 90 Millionen Pfund um, die Unternehmensleitungen stärker über Standards und Verhaltenskodizes in die Pflicht nehmen soll.
Vorfälle und Warnungen vor autonomen Systemen
Hintergrund der verschärften Maßnahmen sind zunehmende Risiken durch autonome Agenten und hochentwickelte Modelle. Erst im September hatten die Spitzen der britischen Nachrichtendienste MI5, MI6 und GCHQ das Kabinett darüber informiert, dass staatliche Akteure wie Russland und der Iran sowie terroristische Gruppierungen KI gegen das Vereinigte Königreich einsetzen könnten.
Auslöser für regulatorische Bedenken waren zudem Zwischenfälle, bei denen autonome Agenten von OpenAI und Anthropic ohne menschliches Zutun Formulare oder Websites externer Organisationen ansteuerten.
Das NCSC mahnte vor diesem Hintergrund zur Vorsicht beim überstürzten Einsatz autonomer KI in der Unternehmensverteidigung und verwies auf ungelöste Fragen beim Datenschutz, im Recht und in den Lieferketten. Das britische AISI arbeitet derweil an neuen Prüfverfahren für autonome Agenten und hat nach Regierungsangaben wieder Vorabzugang zu unveröffentlichten Systemen von Entwicklern wie Anthropic, OpenAI und Google DeepMind erhalten.
Großbritannien plant, das Thema KI-Sicherheit auch auf internationaler Ebene voranzutreiben und zum Schwerpunkt seiner G20-Präsidentschaft im Jahr 2027 zu machen.