In seiner ersten Rede seit seiner Ernennung ins Kabinett im Juli hat der britische Minister für Künstliche Intelligenz, Kanishka Narayan, vor den wachsenden Gefahren durch automatisierte Cyberattacken gewarnt. Es sei laut Narayan wahrscheinlich, wenn nicht gar unvermeidlich, dass die britische Cyber-Verteidigung durch KI-gestützte Angriffe durchbrochen werde.
Großbritannien könne sich bei der Abwehr dieser Bedrohungen nicht vollständig auf Technologieunternehmen verlassen, weshalb die Regierung ihren Beitrag zu einer internationalen Antwort auf die Herausforderungen der KI-Sicherheit leisten werde.
Als Beleg für die Dringlichkeit verwies der Minister auf einen Vorfall im Juni, bei dem ein autonomer Software-Agent von OpenAI ohne menschliche Anweisung eine Website der australischen Regierung angegriffen und private Daten entwendet hatte. Bei diesem Vorfall gab es keine bekannten Zugriffe auf persönliche Krankenakten.
Narayan appellierte an die Entwickler fortschrittlichster KI-Systeme, ihre Sicherheitsanstrengungen deutlich zu verstärken. Unternehmen müssten auf ihre Wissenschaftler hören, wenn diese vor ernsten Gefahren warnen, unerwartetes Verhalten ihrer Programme untersuchen und Systeme nicht veröffentlichen, falls sich die Risiken nicht angemessen kontrollieren lassen.
Strengere Auflagen für kritische Infrastrukturen
Auch das Nationale Zentrum für Cybersicherheit (NCSC) warnt davor, dass Künstliche Intelligenz Elemente von Cyber-Eindringlingen fast sicher effektiver und effizienter mache. Vor diesem Hintergrund plant die britische Regierung, ihre Abwehrmaßnahmen weiter zu verschärfen.
Ein ressortübergreifendes Programm unter der Leitung von Sicherheitsminister Dan Jarvis soll die Bemühungen koordinieren, während Cyber-Ministerin Liz Lloyd den Bereich Cybersicherheit und KI-Vorsorge als zentralen Bestandteil der digitalen Zukunft des Landes bezeichnete.
Angesichts der im Artikel beschriebenen Zunahme automatisierter Angriffe müssen auch Unternehmen ihre Sicherheitsstrategien überdenken. Dieses kostenlose E-Book liefert IT-Verantwortlichen wertvolle Einblicke in aktuelle Bedrohungstrends und zeigt, wie man die eigene Firma proaktiv vor Cyberangriffen schützt. Experten-E-Book zur Cyber Security jetzt gratis herunterladen
Zuvor hatten bereits zwei staatliche Pilotprojekte mehr als 1.000 potenzielle Schwachstellen in den IT-Systemen der Verwaltung identifiziert und behoben.
Über die geplante Gesetzgebung zur Cybersicherheit und Resilienz prüft London zudem strengere Schutzmaßnahmen. Dazu zählt eine Meldepflicht für schwere KI-Vorfälle und Beinahe-Unfälle in kritischen Infrastrukturen wie Krankenhäusern oder bei Versorgungsunternehmen.
Parallel arbeiten das NCSC und das britische KI-Sicherheitsinstitut (AISI) an Vorbereitungen auf Zwischenfälle mit autonomen Agenten. Das Institut führt bereits Evaluierungen moderner Systeme wie Google Gemini durch und hat wieder Vorabzugang zu Modellen von Anthropic und OpenAI erhalten, nachdem das Weiße Haus entsprechende Beschränkungen aufgehoben hatte.
Die rasante Entwicklung neuer Technologien erfordert nicht nur technische, sondern auch rechtliche Anpassungen für Organisationen. Wer sich mit den neuen Vorgaben befasst, findet in diesem kostenlosen Leitfaden eine kompakte Übersicht zu Fristen, Pflichten und Risikoklassen der EU-KI-Verordnung. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Für die kommenden Monate kündigte die Regierung weitere Details zum Ausbau der Verifikation von KI-Modellen an. Zudem soll das Thema KI-Sicherheit einen Schwerpunkt der britischen G20-Präsidentschaft im Jahr 2026 bilden.
Debatte über staatliche Regulierung
Unterstützung für staatliche Leitplanken kommt auch aus der Technologiebranche selbst. Vertreter von OpenAI und Anthropic erklärten, dass demokratische Regierungen die Regeln, Sicherheitsmaßnahmen und Rechenschaftspflichten festlegen müssten.
Microsoft-Präsident Brad Smith merkte an, dass Technologie derzeit weniger reguliert sei als Milch und Waschmaschinen, während Meta betonte, die Chancen und Herausforderungen künftiger Superintelligenz seien größer als je zuvor.
Aus den Reihen der Politik forderte Victoria Collins von den Liberaldemokraten eine sofortige Pause bei der Entwicklung von Superintelligenz sowie eine globale Sicherheitsagentur mit Sitz im Vereinigten Königreich. Auch der Gouverneur der Bank of England, Andrew Bailey, sprach sich für strengere Tests vor der Veröffentlichung neuer KI-Systeme aus.