Begleitend zu den parlamentarischen Debatten über die Regulierung künstlicher Intelligenz in Großbritannien hat der Inlandsgeheimdienst MI5 vor neuen Sicherheitsbedrohungen gewarnt. MI5-Direktor Ken McCallum erklärte in seinem jährlichen Lagebericht, künstliche Intelligenz könne die Risiken durch bestehende oder neuartige Biowaffen grundlegend verändern.
Terroristische Akteure versuchten bereits, KI für Aufklärungszwecke und Angriffe einzusetzen, während KI-gesteuerte Drohnen eine neuartige Bedrohung darstellten. Vor dem Hintergrund einer Staatsschutz-Falllast, die sich binnen zehn Jahren vervierfacht habe, kündigte McCallum die Einrichtung eines eigenen Zentrums zur Bewertung von KI-Bedrohungen an, des AI Threat Assessment Centre (AITAC).
Die Warnungen des Geheimdienstes fielen zeitlich mit einer Anhörung vor dem Ausschuss für Wirtschaft, Innovation, Wissenschaft und Handel des britischen Unterhauses zusammen. Dort traten tiefe Differenzen zwischen führenden Technologieunternehmen über künftige Leitplanken zutage.
Während Google DeepMind und Meta neue gesetzliche Vorgaben ablehnten und stattdessen auf bestehende Aufsichtsbehörden oder freiwillige Industriestandards verwiesen, forderten OpenAI und Anthropic verbindliche staatliche Regeln.
Industrie gespalten über gesetzliche Vorgaben
Liam Booth-Smith, Europa-Chef von Anthropic, betonte vor dem Ausschuss, dass freiwillige Selbstverpflichtungen der Konzerne nicht ausreichten und die Vorgaben gesetzlich bindend sein müssten.
Während die internationale Politik über verbindliche Regeln für künstliche Intelligenz debattiert, müssen Unternehmen bereits jetzt konkrete gesetzliche Anforderungen erfüllen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act erklärt Ihnen kompakt alle Fristen, Pflichten und Risikoklassen. EU AI Act in 5 Schritten verstehen
Tom Duff Gordon, Vizepräsident für internationale Angelegenheiten bei OpenAI, sprach sich ebenfalls für einen verbindlichen gesetzlichen Rahmen sowie eine internationale Konvention aus, die mit einer verpflichtenden Meldung von Sicherheitsvorfällen beginnen solle.
Beide Unternehmen erklärten sich bereit, Modelle bei nachweisbaren Risiken zu pausieren oder zurückzuziehen, schränkten dies jedoch auf Systeme ein, deren Bereitstellung sie noch direkt kontrollieren.
Gleichzeitig legten die Firmenvertreter konkrete Gefahrenpotenziale offen. Anthropic wies darauf hin, dass das eigene Modell Mythos monatlich Zehntausende Schwachstellen aufspüre; neben der Cybersicherheit stellten potenzielle Hilfestellungen beim Bau biologischer oder chemischer Waffen ein akutes Risiko dar.
Die rasanten Fortschritte im Bereich der KI bringen nicht nur technologische Chancen, sondern auch völlig neue Cyberrisiken für die Wirtschaft mit sich. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um sich proaktiv abzusichern. Gratis-E-Book zu Cyber Security Trends herunterladen
Duff Gordon berichtete zudem, OpenAI habe die Veröffentlichung des Modells GPT-6.1 Astra wegen Sicherheitsbedenken gestoppt, da das System Befehle noch nicht ausreichend verweigere und die Fortschritte beim Alignment unzureichend gewesen seien.
Nach einem Vorfall im Juli 2026 im Zusammenhang mit Hugging Face habe OpenAI zudem das Training seines fortschrittlichsten Modells vorübergehend unterbrochen.
Aufsichtsbehörden stoßen an Grenzen
Vertreter der britischen Regierung und Kontrollorgane machten deutlich, wie begrenzt die derzeitigen staatlichen Eingriffsmöglichkeiten sind. Cat Little aus dem Cabinet Office bestätigte, dass das britische Aufsichtsregime weiterhin auf Freiwilligkeit beruhe.
Henry de Zoete, Direktor des UK AI Security Institute (AISI), räumte ein, dass das Institut die Veröffentlichung gefährlicher Modelle weder blockieren noch Zulassungen erteilen könne. Der Zugang zu Testmodellen hänge vollständig von der Kooperationsbereitschaft der Entwickler ab.
Untersuchungen des AISI verdeutlichen die wachsende Komplexität: Bei Tests auf biologischen Missbrauch erforderte ein späteres Modell mehr als sieben Stunden Expertenaufwand für einen erfolgreichen Jailbreak, verglichen mit zehn Minuten bei einem früheren System.
Zugleich stieg die Erfolgsquote bei Selbstreplikations-Evaluierungen von 5 Prozent im Jahr 2023 auf 60 Prozent im Jahr 2025. Ausschussvorsitzender Liam Byrne kündigte nach der Befragung einen Sonderbericht sowie eine neue parlamentarische Untersuchung an. Zudem wolle Großbritannien die kommende G20-Präsidentschaft nutzen, um auf ein internationales Abkommen zur KI-Sicherheit hinzuwirken.