Die neue Einrichtung soll die Risiken und Fähigkeiten modernster KI-Modelle bewerten – und das aus gutem Grund: Europa wird zunehmend von amerikanischen Technologien abgeschnitten.
Schutz vor den Gefahren der „Frontier-KI“
Das Institut konzentriert sich auf die wissenschaftliche Analyse sogenannter Frontier-KI – also hochleistungsfähiger Modelle, die systemische Risiken für die nationale Sicherheit bergen könnten. Digitalminister Karsten Wildberger kündigte an, dass die Einrichtung mit weltweit führender Expertise ausgestattet werde. Ziel ist es, herauszufinden, wie sich Spitzenmodelle für schädliche Zwecke missbrauchen lassen.
Anzeige: Die neue KI-Sicherheitsbehörde AISI bewertet Hochrisiko-Modelle – doch Ihr Unternehmen muss selbst handeln, bevor US-Exportkontrollen den Zugang zu Spitzen-KI einschränken. Unser Leitfaden zeigt, wie Sie den EU AI Act umsetzen, Risiken von Frontier-KI bewerten und digitale Souveränität durch Open-Source-Lösungen stärken. Jetzt kostenlosen Sicherheits-Leitfaden anfordern
Das deutsche AISI orientiert sich am Vorbild eines ähnlichen Instituts in Großbritannien. Die Briten hatten nachgewiesen, dass bestimmte KI-Modelle Anleitungen zur Herstellung chemischer oder biologischer Waffen preisgeben können. Zudem zeigte das Modell „Claude Mythos“ die Fähigkeit, selbstständig Sicherheitslücken in Software zu identifizieren und auszunutzen. Deutschland fehlte bislang eine entsprechende Prüfinstanz – und damit der Zugang zu Tests solcher Hochrisiko-Systeme.
Virtueller Start, ambitionierte Ziele
Das Institut startet zunächst als virtuelle Einrichtung und nutzt die bestehende Infrastruktur des Bundesamts für Sicherheit in der Informationstechnik (BSI) sowie der Bundesnetzagentur. Das Digitalministerium und das Innenministerium treiben das Projekt voran. Noch in diesem Jahr sollen erste Meilensteine erreicht werden.
Standort und endgültige Finanzierung sind noch offen. Experten gehen von einem Budget in der Größenordnung des britischen Modells aus – rund 75 Millionen Euro jährlich. Monika Schnitzer, Vorsitzende des Sachverständigenrats Wirtschaft, betont die Notwendigkeit des Instituts als Ergänzung zur EU-Regulierung: Während das EU-AI-Büro für Regulierung und Compliance zuständig sei, werde das deutsche AISI technische Bewertungen vornehmen und die Bundesregierung beraten.
Geopolitische Wende beschleunigt die Gründung
Den entscheidenden Schub erhielt das Projekt durch jüngste US-Restriktionen. Mitte Juni erließ die amerikanische Regierung eine Exportkontrollverordnung, die Nicht-US-Bürgern den Zugang zu Anthropics neuesten Modellen Fable 5 und Mythos 5 sperrt. Diese „Kill-Switch“-Fähigkeit der USA hat in Europa Alarm ausgelöst – die Frage der digitalen Souveränität steht plötzlich ganz oben auf der Agenda.
Die Reaktion ließ nicht lange auf sich warten: Deutschland und Frankreich haben ihre Zusammenarbeit intensiviert. Wildberger und seine französische Amtskollegin Anne Le Hénanff präsentierten kürzlich einen Kriterienkatalog für digitale Souveränität. Der Fokus liegt auf europäischen Anbietern und Open-Source-Lösungen. Das Soofi-Konsortium brachte am 18. Juni „Soofi S“ auf den Markt – ein offenes Industrie-KI-Modell mit 30 Milliarden Parametern, das auf europäischer Cloud-Infrastruktur läuft.
Cyber-Bedrohung nimmt zu – Forschung wird aufgestockt
Die Ankündigung des AISI fällt in eine Zeit steigender Cyber-Aktivitäten. Ein aktueller BSI-Bericht für den Zeitraum Juli 2024 bis Juni 2025 zeigt einen deutlichen Anstieg der Cyber-Spionage gegen den deutschen öffentlichen Sektor – vor allem durch staatlich gesteuerte und kriminelle Organisationen.
Parallel zum AISI stockt der Bund die Mittel für bestehende Sicherheitszentren auf. Das Cispa Helmholtz-Zentrum für Informationssicherheit erhält zusätzlich 45 Millionen Euro jährlich – das Gesamtbudget steigt damit auf über 100 Millionen Euro. Der Ausbau erfolgt trotz Warnungen von Sicherheitsbehörden vor möglichem Wissenstransfer durch Forscher, die mit ausländischen militärischen Universitäten verbunden sind. Das Zentrum arbeitet deshalb an einer neuen „Forschungssicherheitsarchitektur“ und einer speziellen Sicherheits-Taskforce.
Anzeige: Cyber-Spionage gegen öffentliche Einrichtungen steigt – auch Ihr Unternehmen könnte Ziel staatlich gesteuerter Angriffe sein. Die neue AISI-Behörde schafft Transparenz, aber ohne eigene Prüfinstanz bleiben Sie blind. Unser Whitepaper liefert eine konkrete Risikobewertung für Frontier-KI-Modelle und eine Schritt-für-Schritt-Compliance-Checkliste für den EU AI Act. Whitepaper zur KI-Risikobewertung jetzt sichern
Zwischen Bürokratie-Sorge und Personalnot
Das AISI-Projekt steht nicht ohne Kritik da. Mitglieder des Parlamentarischen Kontrollgremiums warnen vor einem „Papiertiger“ oder unnötiger Bürokratie – schließlich gebe es mit dem BSI und dem DLR-Institut für KI-Sicherheit bereits etablierte Akteure.
Branchenanalysten betonen, dass der Erfolg des Instituts vor allem von seiner Fähigkeit abhängt, internationale Spitzenkräfte anzuziehen. Dafür seien marktübliche Gehälter und eine flexible Struktur nötig – vergleichbar mit der bestehenden Sprind-Agentur für Innovationen. Der Zeitdruck wächst: Am 2. August 2026 treten die ersten Governance-Anforderungen für Hochrisiko-KI-Systeme unter dem EU-AI-Act in Kraft. Deutsche Behörden müssen bis dahin klare Sicherheits- und Risikobewertungsprotokolle vorlegen.
