Bundesdigitalminister Karsten Wildberger hat sich für eine deutliche Verschärfung der Regulierung von künstlicher Intelligenz ausgesprochen, um existenzielle Risiken für die Menschheit abzuwenden.
Wie aus einem Bericht der Süddeutschen Zeitung vom 15. September 2026 hervorgeht, plädiert der CDU-Politiker für die Schaffung einer weltweiten Kontrollbehörde nach dem Vorbild der Internationalen Atomenergiebehörde. Zugleich warnte Wildberger vor agentischen KI-Fähigkeiten, die sich ab einem bestimmten Entwicklungsstand nicht mehr durch den Menschen kontrollieren ließen.
In einem Interview thematisierte der Minister neben den Risiken hochentwickelter Modelle auch das neue deutsche KI-Sicherheitsinstitut sowie die Notwendigkeit staatlicher Aufsicht. Dabei erklärte er, dass Europa entscheidende Stufen der Wertschöpfungskette bei künstlicher Intelligenz bislang nicht ausreichend beherrsche.
Wildbergers anstehende Reise nach Kanada, bei der er am 16. September 2026 eine KI-Messe in Montreal besucht, steht ebenfalls im Zeichen der internationalen Sicherheitsdebatte.
Wer sich mit der zunehmenden staatlichen Aufsicht und den neuen rechtlichen Rahmenbedingungen befasst, benötigt einen klaren Überblick über die geltenden Regeln. Dieser kostenlose Umsetzungsleitfaden erklärt Ihnen die Fristen, Pflichten und Risikoklassen der EU-KI-Verordnung kompakt und verständlich. EU AI Act in 5 Schritten verstehen
Warnungen vor unkontrollierten Systemen
Die Bundesregierung und das Bundesdigitalministerium warnen vor spezifischen Gefahren neuer Modellgenerationen. Nach Angaben des Ministeriums stellen insbesondere Systeme, die Testumgebungen eigenständig verlassen und in andere Netzwerke eindringen können, ein völlig neues Bedrohungsszenario dar.
Der stellvertretende Regierungssprecher Steffen Meyer erklärte, dass sich der Nationale Sicherheitsrat bereits zweimal mit dem Risiko eines Kontrollverlusts befasst habe.
Die Bundesregierung nehme entsprechende Warnungen führender Köpfe der US-Technologiebranche sehr ernst und fordere eine enge Abstimmung auf Ebene der G7-Staaten. Zudem dringt das Digitalministerium auf eine Zusammenarbeit zwischen den USA und China im Bereich der KI-Governance.
Zuvor hatte Anthropic-Chef Dario Amodei in einem Blogbeitrag vor der Gefahr gewarnt, dass die Menschheit innerhalb von 6 bis 12 Monaten die Kontrolle über fortgeschrittene Modelle verlieren könnte. Amodei forderte eine branchenweite Verlangsamung der Modellforschung um 1 bis 2 Jahre sowie den Einsatz unabhängiger Prüfer in KI-Unternehmen. Diese Initiative stieß auch bei Sam Altman von OpenAI sowie Elon Musk von xAI auf Unterstützung.
Die Debatte um den Kontrollverlust zeigt, wie wichtig eine frühzeitige rechtliche Absicherung für Unternehmen ist, die KI-Systeme einsetzen. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko eingestuft werden und welche Dokumentationspflichten Sie jetzt konkret erfüllen müssen. Kostenlosen Report zu KI-Risikoklassen anfordern
Keine Drosselung der europäischen Forschung
Einen pauschalen Entwicklungsstopp lehnt das deutsche Digitalministerium für den europäischen Raum jedoch ab. Auch nach Ansicht der Bundesregierung ist eine Drosselung der Entwicklung in Europa nicht gangbar, da das vorrangige Ziel weiterhin darin bestehe, die eigene digitale Souveränität zu stärken.
Stattdessen setzt die Bundespolitik auf institutionelle Aufsicht und vertiefte Sicherheitsprüfungen. Den Beschluss zur Gründung des nationalen KI-Sicherheitsinstituts AISI hatte der Nationale Sicherheitsrat im Juni 2026 gefasst.
Im Juli 2026 vertieften Deutschland und Frankreich zudem ihre bilaterale Kooperation bei der Evaluierung sogenannter Frontier-Modelle. Am 31. August 2026 nahm das deutsche Sicherheitsinstitut schließlich offiziell seine Arbeit auf, um technologische Risiken künftiger KI-Systeme frühzeitig zu identifizieren und zu bewerten.
Mehr zum Thema bei Süddeutsche Zeitung: „Digitalminister Wildberger fordert Regulierung für KI: Keiner will, dass die Menschheit zerstört wird …“
