Das deutsche KI-Sicherheitsinstitut, bekannt als AISI Deutschland, hat am heutigen Montag offiziell seine Tätigkeit in Berlin aufgenommen. Mit diesem Schritt setzt die Bundesregierung einen Beschluss des Nationalen Sicherheitsrats um, der bereits im Juni dieses Jahres gefasst worden war. Das neue Institut soll eine zentrale Rolle bei der Bewertung und Absicherung von Systemen der Künstlichen Intelligenz (KI) übernehmen und damit die technologische Souveränität sowie die Sicherheit digitaler Infrastrukturen in Deutschland stärken.
Der Aufbau des Instituts erfolgt auf Basis bestehender Kompetenzen innerhalb der Bundesverwaltung. Den personellen und fachlichen Kern des AISI Deutschland bilden das Bundesamt für Sicherheit in der Informationstechnik (BSI) sowie die Bundesnetzagentur.
Durch die Bündelung dieser zwei Behörden unter dem Dach des Sicherheitsinstituts sollen Synergien genutzt und eine ganzheitliche Perspektive auf die Herausforderungen durch KI-Technologien ermöglicht werden.
Klare Aufgabenteilung zwischen Security und Safety
Innerhalb des AISI Deutschland wurde eine differenzierte Zuständigkeitsstruktur etabliert, um den vielfältigen Risiken von KI-Anwendungen gerecht zu werden. Das Bundesamt für Sicherheit in der Informationstechnik trägt dabei die Verantwortung für den Bereich der Cybersicherheit, im internationalen Kontext oft als „Security“ bezeichnet.
Während staatliche Stellen die Sicherheitsarchitektur von KI-Systemen prüfen, stehen Unternehmen vor der Herausforderung, neue regulatorische Anforderungen rechtssicher umzusetzen. Dieser praxisnahe Leitfaden bietet einen kompakten Überblick über Pflichten und Risikoklassen der aktuellen EU-Gesetzgebung. EU AI Act in 5 Schritten verstehen
Hierbei liegt der Fokus primär auf dem Schutz der Systeme gegen äußere Angriffe, der Integrität der Daten sowie der Abwehr von Manipulationsversuchen an den KI-Modellen selbst.
Die Bundesnetzagentur hingegen übernimmt den Bereich der Betriebssicherheit, fachsprachlich als „Safety“ definiert. In diesem Aufgabenfeld geht es vorrangig darum, sicherzustellen, dass KI-Systeme keine unbeabsichtigten Gefahren für Nutzer oder die Umwelt darstellen und innerhalb definierter Parameter zuverlässig funktionieren.
Diese Trennung spiegelt die wachsende Komplexität der Technologie wider, bei der sowohl der Schutz vor böswilligen Akteuren als auch die inhärente Funktionssicherheit von entscheidender Bedeutung sind.
Abschluss wichtiger Vorarbeiten zur KI-Auditierung
Zeitgleich mit der Aufnahme der Arbeit in Berlin markiert der heutige Tag einen weiteren Meilenstein in der methodischen Vorbereitung der KI-Überwachung. Das BSI hat am 31. August 2026 die Konsultationsphase zur sogenannten KI-Audit- und Assurance-Bewertungsarchitektur, kurz A5, abgeschlossen. Dieser Prozess war Anfang August gestartet worden und diente dazu, fachliches Feedback zu den entwickelten Testkriterien für KI-Systeme einzuholen.
Die Architektur A5 soll künftig als Grundlage dienen, um KI-Anwendungen nach einheitlichen Standards prüfen und bewerten zu können. Dies betrifft unter anderem die Transparenz der Algorithmen und die Nachvollziehbarkeit von Entscheidungen, die durch automatisierte Systeme getroffen werden.
Die neuen Prüfstandards verdeutlichen, dass viele KI-Systeme künftig als Hochrisiko-Anwendungen eingestuft werden könnten. Dieser kostenlose Experten-Report klärt auf, was Unternehmen jetzt konkret tun müssen, um die neuen Dokumentationspflichten zu erfüllen. Kostenlosen Umsetzungsleitfaden zum EU AI Act sichern
Die Ergebnisse dieser Konsultation werden unmittelbar in die Arbeit des AISI Deutschland einfließen und den Rahmen für künftige Sicherheitszertifizierungen und Prüfverfahren bilden.
Strategische Bedeutung für den Standort Deutschland
Die Eröffnung des Instituts in Berlin wird in Fachkreisen als notwendiger Schritt gewertet, um den rasanten Entwicklungen im Bereich der generativen und autonomen KI-Systeme zu begegnen. Da KI-Komponenten zunehmend Einzug in sicherheitskritische Bereiche sowie in Alltagstechnologien wie Smartphones und vernetzte Endgeräte halten, gewinnt eine staatlich koordinierte Sicherheitsinstanz an Bedeutung.
Das AISI Deutschland soll künftig nicht nur als Prüfinstanz fungieren, sondern auch als Kompetenzzentrum, das den Austausch zwischen Forschung, Industrie und staatlichen Stellen fördert.
Mit dem Startschuss am Standort Berlin ist die Erwartung verbunden, dass Deutschland seine Position bei der Definition internationaler Sicherheitsstandards für Künstliche Intelligenz festigt. Das Institut wird voraussichtlich eng mit ähnlichen Einrichtungen auf europäischer und internationaler Ebene kooperieren, um grenzüberschreitende Sicherheitskonzepte zu harmonisieren.
Mehr zum Thema bei Handelsblatt: „Neues Institut legt los: Deutsches KI-Sicherheitsinstitut geht in Berlin an den Start“
