Bei einer Anhörung vor dem Parlamentsausschuss für Wirtschaft, Innovation, Wissenschaft und Handel in Großbritannien haben sich führende Entwickler für gesetzlich verbindliche Sicherheitsvorgaben ausgesprochen. Vertreter von Anthropic und OpenAI erklärten vor den Abgeordneten, dass freiwillige Selbstverpflichtungen der Technologieunternehmen künftig nicht mehr ausreichen.
Anthropic-Europachef Liam Booth-Smith betonte vor dem Ausschuss, die Regeln müssten bindend sein. Tom Duff Gordon, Vizepräsident für Politik bei OpenAI, sprach sich ebenfalls für ein gesetzliches Statut sowie eine internationale Konvention aus. Einige regulatorische Elemente sollten verpflichtend ausgestaltet werden, wobei die verbindliche Meldung von Sicherheitsvorfällen einen zentralen ersten Schritt darstellen könne.
Uneinigkeit unter den Branchengrößen
Während OpenAI und Anthropic eine Verpflichtung per Gesetz anstreben, vertreten andere Schwergewichte der Branche abweichende Ansichten. Owen Larter von Google DeepMind sprach sich bei der Befragung dafür aus, den Schwerpunkt vorrangig auf Standards statt auf neue Gesetzgebung zu legen. Rob Sherman von Meta verwies darauf, dass bereits Regulierungsbehörden existierten und man nicht auf einem unbeschriebenen Blatt ansetze.
Grundsätzliche Einigkeit bestand unter den Vertretern von Anthropic, Google DeepMind, Meta und OpenAI lediglich darin, dass externe Prüfungen und Sicherheitstests notwendig seien. Den Unternehmen zufolge soll dem britischen AI Security Institute der Zugang zu unveröffentlichten Modellen gewährt werden, soweit dies rechtlich zulässig ist.
Begrenzte Durchgriffsrechte der britischen Aufsicht
Dass die bisherige britische Praxis klare Grenzen hat, räumten Regierungs- und Institutsvertreter offen ein. Cat Little, Staatssekretärin im Cabinet Office, bestätigte vor dem Gremium, dass das derzeitige System vollständig freiwillig sei.
Henry de Zoete, Direktor des UK AI Security Institute, erläuterte, dass seine Institution sogenannte Frontier-Modelle nur dann testen könne, wenn diese freiwillig bereitgestellt würden. Das Institut habe keine Befugnis, eine Veröffentlichung zu blockieren. Die Funktionsfähigkeit der Sicherheitsüberprüfungen hänge derzeit gänzlich von Unternehmen aus den USA und China ab.
Zudem zeigten sich praktische Hürden: OpenAI liefert Modelle an das britische Institut sowie das US-Pendant CAISI nur, solange die US-Regierung dem zustimmt. Anthropic wiederum konnte dem Institut zeitweise keinen vollen Zugang zu seinem Modell Mythos 5.1 gewähren.
Während die Politik über verbindliche Regeln für Entwickler diskutiert, müssen Unternehmen bereits heute die neuen rechtlichen Rahmenbedingungen für den Einsatz künstlicher Intelligenz kennen. Dieser kostenlose Leitfaden verschafft Ihnen den notwendigen Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Jetzt kostenloses E-Book sichern
Konkrete Sicherheitsrisiken im Fokus
Die Dringlichkeit klarer Regeln wurde durch Berichte über Sicherheitsvorfälle und Missbrauchsszenarien untermauert. OpenAI-Manager Duff Gordon räumte ein, dass er weitere Vorfälle durch KI-Agenten, die unerwartet auf staatliche Webseiten zugegriffen hatten, nicht ausschließen könne.
Eine Handvoll solcher Fälle sei bereits gemeldet worden, weitere seien möglich. Zudem verwies er auf einen Vorfall im Juli im Zusammenhang mit Hugging Face, infolgedessen OpenAI das Reinforcement-Learning-Training seines fortschrittlichsten Modells pausierte und die Veröffentlichung von Astra 6.1 zurückhielt, um den Fokus auf die Sicherheit zu wahren.
Anthropic stuft die IT-Sicherheit als größte unmittelbare Risikofläche ein. Laut Booth-Smith entdecke das System Mythos Zehntausende Schwachstellen pro Monat.
Realer Schaden drohe zudem, falls Systeme bei der Erstellung biologischer oder chemischer Waffen behilflich seien. Diese Einschätzung deckt sich mit Warnungen von MI5-Direktor Ken McCallum, der den Missbrauch von KI für Biowaffen als schwerwiegendste Gefahr bezeichnete.
Die zunehmende Komplexität von KI-Systemen stellt Unternehmen vor neue Herausforderungen bei der Risikodokumentation und Qualitätssicherung. Erfahren Sie in diesem praxisnahen Report, welche KI-Systeme als Hochrisiko gelten und wie Sie die Einhaltung der gesetzlichen Vorschriften sicherstellen können. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen
Terroristische Gruppierungen unternähmen bereits Versuche, KI für Aufklärungszwecke und Angriffsmethoden wie Drohnen einzusetzen. Die Arbeitslast des Inlandsgeheimdienstes im Bereich des Staatsschutzes habe sich innerhalb von zehn Jahren vervierfacht.
Zusätzliche Bedenken äußerten ehemalige Branchenforscher. Daniel Kokotajlo gab an, OpenAI aus mangelndem Vertrauen in die Führung verlassen zu haben, während Steven Adler von internem Widerstand gegen den Begriff gefährlich berichtete. Der frühere DeepMind-Forscher Geoffrey Irving bezifferte die Wahrscheinlichkeit, dass KI die Menschheit zerstören könnte, sogar auf 50 Prozent.
Der Ausschussvorsitzende Liam Byrne kündigte infolge der Anhörung an, einen Sonderbericht vorzulegen, bevor Änderungen am britischen Gesetzentwurf zur Cybersicherheit vorgenommen werden. Zudem soll eine neue Untersuchung zur KI-Sicherheit eingeleitet und die britische G20-Präsidentschaft für das Vorantreiben einer internationalen Konvention genutzt werden.