Die Bundesregierung strebt einen stufenweisen Auf- und Ausbau des neu gegründeten deutschen KI-Sicherheitsinstituts an. Allerdings liegen für die langfristige organisatorische, personelle und finanzielle Ausgestaltung der Einrichtung bislang keine konkreten Pläne vor. Das geht aus einer Antwort der Bundesregierung auf eine Kleine Anfrage der AfD-Fraktion im Deutschen Bundestag hervor.
Das Institut, das international als AI Safety Institute (AISI) bezeichnet wird, nahm am 31. August 2026 offiziell seine Arbeit auf. Der Aufbau der Institution soll demnach in mehreren Schritten erfolgen.
Die erste Phase basiert auf einem virtuellen Kern, der sich aus zwei bestehenden Bundesbehörden zusammensetzt: dem Bundesamt für Sicherheit in der Informationstechnik (BSI), das für Fragen der Cybersicherheit von Künstlicher Intelligenz zuständig ist, sowie der Bundesnetzagentur, welche die Sicherheit der KI-Anwendungen verantwortet.
Struktur ohne eigene Stellen und Aufsichtsbefugnisse
Für diese anfängliche Phase sind vorerst keine gesonderten Personalstellen für das AISI vorgesehen. Auch zu den konkreten Haushaltsmitteln für das laufende Jahr 2026 sowie zu den geplanten Ausgaben für den Zeitraum von 2027 bis 2029 machte die Regierung in ihrer Auskunft keine genauen Angaben.
Zudem verfügt die Einrichtung über begrenzte Kompetenzen: Das AISI fungiert weder als Regulierungsbehörde noch als Aufsichtsinstanz im Sinne der europäischen KI-Verordnung. Es besitzt dementsprechend keine gesetzliche Handhabe, Modellzugänge gegen den Willen von Anbietern einzufordern.
Während staatliche Institutionen ihre Strukturen noch aufbauen, müssen Betriebe die gesetzlichen Vorgaben bereits heute erfüllen. Dieser kostenlose Leitfaden unterstützt Unternehmen dabei, die komplexen Anforderungen der neuen EU-KI-Verordnung rechtssicher umzusetzen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Erst in einer nachfolgenden zweiten Phase sollen die technischen und strategischen Fähigkeiten des Instituts erweitert werden. Vorgesehen ist dann, besonders leistungsfähige KI-Modelle auf ihre Robustheit, Fähigkeiten und Missbrauchsrisiken hin zu überprüfen, die Bundesregierung fachlich zu beraten und internationale Entwicklungen kontinuierlich zu beobachten.
Debatte um Haftung und internationale Vernetzung
Das bisherige Vorgehen stößt im Parlament auf Kritik und weitergehende Forderungen. Die Bundestagsfraktion von Bündnis 90/Die Grünen fordert in einem Antrag verbindliche Sicherheitsstandards für hochentwickelte KI-Systeme sowie eine klare Haftung von Unternehmen und deren Führungskräften bei schweren Sicherheitsvorfällen.
Anlass des Antrags war eine kritische Sicherheitslücke in der Programmiersprache PHP rund eine Woche zuvor, in deren Folge zahlreiche Webseiten vorsorglich abgeschaltet werden mussten.
Aus den Reihen der Grünen betonte Rebecca Lenhard, dass Sicherheitsfragen nicht allein den Technologieunternehmen überlassen bleiben dürften; wer Schäden verursache, müsse haftbar gemacht werden können, einschließlich der Spitzen von KI-Konzernen. Konstantin von Notz forderte von der Regierung, den bisherigen Ankündigungen nun konkrete Schritte folgen zu lassen.
Wer sich mit der Sicherheit von KI-Systemen befasst, sollte auch die drohenden Sanktionen bei Verstößen im Blick behalten. Der kostenlose Umsetzungsleitfaden zum EU AI Act liefert alle relevanten Informationen zu Übergangsfristen und zeigt, wie man empfindliche Strafen vermeidet. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt herunterladen
Seine Fraktion verlangt unter anderem den personellen, finanziellen und technischen Ausbau von BSI und AISI, unabhängige Überprüfungen, Mechanismen zur sicheren Notabschaltung autonom agierender Systeme sowie den Einsatz für internationale Standards, etwa auf Ebene der Vereinten Nationen.
Parallel zu den innenpolitischen Diskussionen treibt die Regierung die außenpolitische Abstimmung voran. Bei einem Treffen zwischen Bundeskanzler Friedrich Merz und Singapurs Premierminister Lawrence Wong vereinbarten beide Staaten eine vertiefte Kooperation in den Bereichen digitale Wirtschaft, Forschung und Innovation.
Die bilaterale Vereinbarung umfasst explizit auch die Zusammenarbeit im Feld der KI-Sicherheit über die jeweiligen, neu eingerichteten Sicherheitsinstitutionen beider Länder.