Der Deutsche Bundestag hat am 13. November 2026 in erster Lesung über strengere Sicherheitsvorgaben für hochentwickelte Systeme der künstlichen Intelligenz beraten. Grundlage der parlamentarischen Aussprache war ein Antrag der Fraktion von Bündnis 90/Die Grünen mit dem Titel „KI-Sicherheit stärken – Risiken leistungsfähiger KI-Systeme wirksam begrenzen“ (Drucksache 21/8810).
Im Anschluss an die Plenardebatte überwies das Parlament die Vorlage zur weiteren Beratung an die zuständigen Ausschüsse, wobei der Ausschuss für Digitales und Staatsmodernisierung die Federführung übernimmt.
Die Initiative zielt laut einer Bundestags-Zusammenfassung darauf ab, den regulatorischen Rahmen für besonders leistungsfähige KI-Modelle nachzuschärfen. Ein eigenständiges KI-Sicherheitsgesetz wurde im Rahmen der Sitzung nicht beschlossen; ob aus dem parlamentarischen Verfahren letztlich verbindliche gesetzliche Vorgaben hervorgehen, bleibt vorerst offen.
Debatte über Sicherheitsinstitut und internationale Allianzen
Während der parlamentarischen Aussprache am 13. November 2026 stand unter anderem der beschleunigte Aufbau eines spezialisierten KI-Sicherheitsinstituts zur Diskussion. Ein deutsches Artificial Intelligence Safety Institute (AISI) war nach Angaben von Bitkom-Präsident Dr. Ralf Wintergerst bereits im September 2026 in Berlin gegründet worden.
Zudem befassten sich die Abgeordneten mit einem möglichen Beitritt der Bundesrepublik zur sogenannten „San Francisco Declaration on AI supply chains“. Laut Berichten aus den vergangenen Tagen bereitet Deutschland zusammen mit Schweden, den Niederlanden und der Europäischen Kommission die Unterzeichnung dieser auch als „Pax Silica“ bekannten Vereinbarung für die Folgewoche vor.
Die aktuelle Debatte verdeutlicht, wie wichtig ein fundiertes Verständnis der neuen Regularien für Unternehmen ist. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Die Initiative war zuvor bereits von den USA sowie acht weiteren Staaten – darunter Japan, Australien, Israel, das Vereinigte Königreich, Südkorea, Indien, Katar und die Vereinigten Arabischen Emirate – unterzeichnet worden.
Die EU-Mitgliedstaaten hatten die Kommission am 11. November 2026 zwar ermächtigt, Verhandlungen zum Beitritt zu führen, baten jedoch um zusätzliche Vorbereitungszeit; eine formelle Zustimmung zum finalen Text stand noch aus.
Im Zentrum von „Pax Silica“ stehen gemeinsame Listen kritischer Technologien wie Halbleiter und Rohstoffe, der Schutz vor Technologiediebstahl sowie Arbeitsgruppen zur Resilienz der Lieferketten.
Jacob Helberg, Unterstaatssekretär für Wirtschaft in den USA, bezeichnete die Sicherheit der Infrastruktur dabei als geteilte Verantwortung, da chipdesign, Fertigung und Transport oft in unterschiedlichen Ländern lägen.
Hohe Sicherheitsbedenken in der Bevölkerung
Die parlamentarische Initiative trifft auf eine ausgeprägte Vorsicht in der Öffentlichkeit. Eine Bitkom-Umfrage aus dem Jahr 2026 unter 1.006 Personen ab 16 Jahren verdeutlicht die Skepsis der Bürgerinnen und Bürger: Demnach verlangen 92 Prozent der Befragten einen verbindlichen Not-Aus-Schalter für sämtliche KI-Systeme.
Während die Politik über globale Abkommen berät, müssen Betriebe bereits heute konkrete Anforderungen an den Einsatz von KI erfüllen. Welche Systeme als Hochrisiko gelten und was Unternehmen nun tun müssen, klärt dieser kostenlose Praxis-Report auf. Jetzt kostenlosen Umsetzungsleitfaden sichern
Zudem fordern 85 Prozent strengere Auflagen für besonders leistungsfähige Modelle. Acht von zehn Befragten (80 Prozent) sehen in künstlicher Intelligenz eine Gefahr für die Menschheit, wenn die Systeme in falsche Hände geraten. Fast die Hälfte (49 Prozent) befürchtet gar eine Auslöschung der Menschheit durch autonome KI – unter den Befragten über 65 Jahren teilen sogar 61 Prozent diese Sorge.
Auf europäischer Ebene existieren bereits erste Vorschriften zur Kontrolle: Gemäß Artikel 14 der EU-KI-Verordnung (EU 2024/1689) sind Betreiber von Hochrisiko-KI verpflichtet, eine wirksame menschliche Aufsicht zu gewährleisten, was ausdrücklich auch Interventions- und Unterbrechungsmöglichkeiten umfasst. Ob die parlamentarischen Beratungen im Bundestag über diesen bestehenden Rahmen hinausgehen werden, müssen die anstehenden Ausschusssitzungen zeigen.

