Angesichts wachsender Sicherheitsbedenken und technischer Fortschritte fordern deutsche Digitalpolitiker eine stärkere internationale Koordinierung der KI-Regulierung. Während Vertreter von CDU und Linken unterschiedliche Akzente bei der Ausgestaltung setzen, befasste sich bereits der Nationale Sicherheitsrat mit den Risiken leistungsstarker Modelle.
Der CDU-Digitalpolitiker Ralph Brinkhaus und die Linke-Politikerin Donata Vogtschmidt haben sich für die Etablierung weltweiter Standards im Umgang mit Künstlicher Intelligenz ausgesprochen. Brinkhaus betonte, dass Deutschland diesen Prozess aktiv vorantreiben müsse. Dabei dürften globale Regeln nicht als regulatorische Innovationsbremse wirken, sondern müssten vielmehr als notwendiger Rahmen und Orientierung für die Branche dienen.
Forderungen nach Nachschärfung und roten Linien
Die Linke-Abgeordnete Donata Vogtschmidt mahnte hingegen eine strengere internationale Regulierung an. Sie sprach sich gegen Bestrebungen zur Deregulierung aus und forderte stattdessen ein Nachschärfen der bestehenden EU-KI-Verordnung. Zudem plädierte Vogtschmidt für die Festlegung klarer roter Linien für den KI-Einsatz auf Ebene der Vereinten Nationen.
Hintergrund dieser politischen Vorstöße sind beunruhigende Zwischenfälle im Zusammenhang mit KI-Anwendungen sowie öffentliche Forderungen führender Technologieunternehmen nach einer Entwicklungspause. So hatte etwa Anthropic-Chef Dario Amodei in einem Essay eine branchenweite Verlangsamung vorgeschlagen, um Zeit für die Sicherheitsforschung zu gewinnen.
Laut seiner Einschätzung bleibe der Menschheit andernfalls lediglich ein Zeitraum von 6 bis 12 Monaten bis zu einem möglichen Kontrollverlust. Auch die Führungskräfte von OpenAI und xAI stimmten diesen Warnungen grundsätzlich zu.
Die Debatte um den EU AI Act zeigt, wie komplex die neuen rechtlichen Anforderungen für die Wirtschaft sind. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Nationale Sicherheitsstrategie und internationale Aufsicht
Die Bundesregierung signalisierte, die Warnungen vor den Risiken sogenannter Frontier-KI sehr ernst zu nehmen. Der Nationale Sicherheitsrat unter Bundeskanzler Friedrich Merz befasste sich am Montag bereits zum zweiten Mal mit den Sicherheitsaspekten dieser Technologie.
In diesem Zusammenhang wird auf das Institut AISI Deutschland verwiesen, das am 31. August 2026 seine Arbeit aufnahm, um KI-Modelle systematisch zu analysieren. Der Nationale Sicherheitsrat hatte die Gründung dieses Instituts bereits im Juni beschlossen.
Digitalminister Karsten Wildberger forderte in einem Interview die Schaffung einer globalen KI-Kontrollbehörde nach dem Vorbild der Internationalen Atomenergie-Organisation (IAEA). Er warnte insbesondere vor agentischen Fähigkeiten der Künstlichen Intelligenz, bei denen Systeme eigenständig handeln könnten.
Wildberger, der zu Gesprächen nach Kanada reist, kritisierte zudem, dass Europa entscheidende Stufen der Wertschöpfung derzeit nicht ausreichend beherrsche.
Wer die neuen Regeln der EU-KI-Verordnung verstehen möchte, muss insbesondere die Definition von Hochrisiko-Systemen kennen. Dieser kostenlose Report klärt auf, was Unternehmen jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu stehen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Kritik an europäischer Souveränität
Auch Digital-Staatssekretär Thomas Jarzombek äußerte Kritik am aktuellen Kurs. Europa fehle es an eigenen KI-Modellen und den notwendigen Rechenzentren, wodurch der Kontinent lediglich eine Rolle zwischen Moderator und Spielfeld einnehme. Der bisherige EU-AI-Act habe es zudem nicht vermocht, namhafte KI-Entwickler nach Europa zu ziehen.
Ein Sprecher des Digitalministeriums lehnte eine generelle drosselung der Entwicklung in Europa jedoch ab, da dies die technologische Souveränität gefährde. Stattdessen setze die Bundesregierung auf eine verstärkte G7-Koordination unter Einbeziehung der USA und Chinas. Vize-Regierungssprecher Steffen Meyer bestätigte, dass die Warnungen US-amerikanischer Branchenführer ernst genommen würden.
Unterstützung für eine striktere Aufsicht kommt auch von internationaler Ebene. Der UN-Hochkommissar für Menschenrechte, Volker Türk, bezeichnete die bisherige freiwillige Selbstregulierung der Unternehmen als unzureichend. Er forderte eine Meldepflicht für Vorfälle sowie eine Verpflichtung zur Verifizierung von KI-Fähigkeiten, um existenzielle Risiken zu minimieren.
Kein Land könne diese Technologie allein beherrschen; internationale Standards seien notwendig, um einen Unterbietungswettbewerb bei den Sicherheitsvorgaben zu verhindern.
