Der Vorsitzende des Forschungsausschusses des Bundestages, Karl Lauterbach (SPD), warnt vor drastischen Sicherheitsrisiken durch hochentwickelte Künstliche Intelligenz. Lauterbach erklärte am 16. September 2026, dass KI-Systeme sehr bald in der Lage sein dürften, terroristisch nutzbare Substanzen wie aggressive Viren und toxische Chemikalien zu entwerfen.
Seine Warnung folgt auf Besuche bei führenden KI-Entwicklern in den USA, darunter OpenAI, DeepMind und Anthropic. Vor diesem Hintergrund forderte der Politiker eine verbindliche weltweite Regulierung sowie unabhängige Sicherheitsüberprüfungen vor jeder Marktzulassung neuer Modelle.
Exponentielle Bedrohungslage und europäische Verwundbarkeit
Lauterbach betonte, dass eine bloße Selbstregulierung der Technologiekonzerne keineswegs ausreiche, um den Gefahren zu begegnen. Das Erpressungspotenzial durch den Einsatz autonomer Systeme wachse exponentiell, zudem drohten gigantische wirtschaftliche Schäden. Im Bereich der militärischen Sicherheit warnte der Ausschussvorsitzende davor, dass selbst die nukleare Zweitschlagverteidigung durch entsprechende KI-Fähigkeiten unmöglich werden könnte.
Besondere Risiken sieht Lauterbach für Europa. Da der Kontinent über keine eigene, international konkurrenzfähige KI-Infrastruktur verfüge, sei die Verwundbarkeit gegenüber externen Bedrohungen und Abhängigkeiten besonders hoch. Er verlangt daher strenge Auflagen und Kontrollen, bevor fortschrittliche Modelle der Öffentlichkeit oder Unternehmen zugänglich gemacht werden.
Wer sich mit der zunehmenden Regulierung von KI-Systemen befasst, findet in diesem Leitfaden eine kompakte Übersicht zu den aktuellen gesetzlichen Anforderungen. Dieser kostenlose Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Vorfälle bei Entwicklern und internationale Bedenken
Die Bedenken bezüglich biologischer Risiken spiegeln sich in Berichten der Entwickler wider. Anthropic verzeichnete zwischen Dezember 2025 und August 2026 mehrere Versuche, Modelle der Claude-Reihe für die Erstellung von Biowaffen zu missbrauchen.
Diese Aktivitäten umfassten detaillierte Schritt-für-Schritt-Anleitungen für biologische Kampfstoffe und gingen unter anderem auf staatliche Akteure aus Russland und dem Iran sowie Cyberkriminelle zurück. Jacob Klein, Sicherheitsverantwortlicher bei Anthropic, bezeichnete den biologischen Missbrauch als eines der schwerwiegendsten Risiken hochentwickelter KI.
Auch auf internationaler Ebene wächst der Druck auf verbindliche Regeln. UN-Hochkommissar für Menschenrechte Volker Türk bezeichnete freiwillige Selbstverpflichtungen der Industrie als bei weitem unzureichend. Er forderte formelle Meldepflichten für sicherheitsrelevante Vorfälle, systematische Prüfungen der Modellfähigkeiten sowie menschenrechtliche Sorgfaltspflichten für Betreiber.
Die rechtlichen Rahmenbedingungen für den Einsatz von KI werden immer komplexer und stellen viele Betriebe vor neue Herausforderungen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Wissenschaftliche Einordnung und geteilte Reaktionen
Die Machbarkeit biologischer Modellierung wurde unlängst wissenschaftlich untersucht. Eine am 6. August 2026 im Fachjournal Science veröffentlichte Studie zeigte, dass trainierte KI-Systeme bislang unbekannte Viren entwerfen konnten.
Zwar handelte es sich um Bakteriophagen, die ausschließlich Bakterien befallen und für den Menschen ungefährlich sind, doch mahnten die Autoren Schutzvorkehrungen an. Sie plädierten für ein obligatorisches Screening von Gensynthesen, Kontrollen sensibler Datensätze und globale Frühwarnsysteme, da keine Einzelmaßnahme absolute Sicherheit biete.
In der Fachwelt gehen die Ansichten über das akute Bedrohungspotenzial auseinander. Während Anthropic-Chef Dario Amodei eine koordinierte KI-Pause von ein bis zwei Jahren vorschlug, lehnten Regierungsvertreter in den USA und China ein Moratorium ab. Forscher wie die Biochemikerin Jennifer Doudna gaben bereits im Juni 2026 zu bedenken, dass Sprachmodelle keine grundlegend neue Biologie erfänden.
Auch der Münchener Informatiker Björn Ommer wies darauf hin, dass das primäre Risiko nicht in einer existenziellen Bedrohung durch die Technologie selbst liege, sondern im gezielten Missbrauch durch den Menschen. Dennoch wächst der politische Ruf nach institutionellen Schranken, um die Entwicklung gefährlicher Stoffe im Vorfeld zu unterbinden.
