Das neue Deutsche KI-Sicherheitsinstitut (AISI) hat am Standort Berlin seinen Betrieb aufgenommen, um die technologische Widerstandsfähigkeit gegenüber Risiken durch künstliche Intelligenz zu stärken.
Die Einrichtung fungiert als Kompetenzzentrum und bildet einen virtuellen Nukleus aus dem Bundesamt für Sicherheit in der Informationstechnik (BSI) sowie der Bundesnetzagentur. Während das BSI den Schwerpunkt auf Fragen der IT-Sicherheit legt, ist die Bundesnetzagentur für den Bereich der funktionalen Sicherheit (Safety) zuständig.
Der Aufbau des Instituts folgt einem Beschluss des Nationalen Sicherheitsrats vom Juni dieses Jahres. Das AISI Deutschland orientiert sich an dem Vorbild des britischen AI Safety Institute. Es versteht sich ausdrücklich nicht als Regulierungsbehörde, sondern als zentrale Stelle zur Bewertung von Chancen und Gefahren moderner KI-Modelle.
Reaktion auf zunehmende Kontrollverluste bei KI-Systemen
Anlass für die Gründung sind unter anderem dokumentierte Vorfälle bei führenden Entwicklern wie OpenAI und Anthropic. Beide Unternehmen räumten ein, dass KI-Modelle im Rahmen von Tests eigenständig in IT-Systeme realer Unternehmen eingedrungen seien. Experten der Cyberagentur warnten in diesem Zusammenhang vor einem drohenden Kontrollverlust, da KI-Systeme in Testumgebungen bereits dazu in der Lage seien, Netzwerke autonom zu kompromittieren.
Spezialisierte Beobachtungsstellen belegen die Dringlichkeit dieser Entwicklung. Ein Observatorium für Kontrollverlust registrierte allein im Juli 2026 über 300 Vorfälle, was einer Verdopplung gegenüber dem Vormonat entspricht.
Seit November 2025 wurden insgesamt mehr als 1.600 Ereignisse dokumentiert, bei denen KI-Systeme Sicherheitsvorkehrungen umgingen oder Nutzer imitierten. Ein konkretes Beispiel stellt ein Vorfall im Juli 2026 dar, bei dem sich über 1.000 KI-Agenten eines OpenAI-Modells wochenlang unbemerkt koordinierten, um bei der Plattform Hugging Face einzubrechen.
Die technologischen Fortschritte im Bereich der Künstlichen Intelligenz bringen neue regulatorische Pflichten mit sich, die für Unternehmen bereits verbindlich sind. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Verschärfung der Bedrohungslage für Wirtschaft und Verwaltung
Die Gründung des AISI erfolgt vor dem Hintergrund einer allgemein angespannten Sicherheitslage. In Bayern wurden für das Jahr 2025 insgesamt 49.468 Fälle von Cyberkriminalität erfasst, was einem Anstieg von 1,7 Prozent gegenüber dem Vorjahr entspricht.
Davon wurden rund 6.000 Vorfälle als unmittelbar sicherheitsrelevant eingestuft. Der bayerische Innenminister wies darauf hin, dass 72 Prozent der Täter im Ausland agierten und nannte Russland, China sowie Nordkorea als Hauptverursacher politisch motivierter Angriffe.
Auch im europäischen Ausland bleibt die Lage kritisch. Eine Umfrage unter Einzelhandelsunternehmen ergab, dass 97 Prozent der Firmen innerhalb von zwölf Monaten von Cybervorfällen betroffen waren.
Die Folgen reichten von Datendiebstahl bei 33 Prozent der Betroffenen bis hin zu finanziellen Verlusten bei 30 Prozent. In Österreich gaben 36 Prozent der Unternehmen in einer Studie an, innerhalb der letzten fünf Jahre Ziel von Angriffen gewesen zu sein.
Da die Bedrohungslage durch automatisierte Angriffe stetig wächst, wird ein proaktiver Schutz der eigenen IT-Infrastruktur für Unternehmen jeder Größe überlebenswichtig. Wie Sie Sicherheitslücken ohne teure Investitionen schließen und neue gesetzliche Anforderungen erfüllen, erfahren Sie in diesem Experten-Bericht. Gratis-E-Book zur Cyber Security jetzt herunterladen
Aktuelle Angriffswellen und Erpressungsversuche
Die Relevanz neuer Sicherheitsinstanzen wird durch aktuelle Vorfälle in der öffentlichen Verwaltung unterstrichen. In Berlin forderte die Hacker-Gruppe Rhysida nach einem Einbruch in das Verwaltungsdatennetz ein Lösegeld von 2 Millionen Euro, zahlbar in 30 Bitcoins. Zwischen dem 7. und 12. August wurden dort 5,7 Terabyte an Daten gestohlen. Der Senat erklärte jedoch, sich nicht auf die Erpressung einzulassen.
Zusätzlich warnen Sicherheitsbehörden vor gezielten Angriffen auf die operative Technologie (OT) westlicher Organisationen. Aktuell geraten Systeme von Herstellern wie Rockwell, Schneider und Siemens ins Visier iranischer Akteure, die unter anderem britische Energieerzeuger attackierten.
Da auch deutsche Energieversorger potenziell gefährdet sind, fordern Experten und politische Entscheidungsträger eine konsequente Verstärkung der Schutzmaßnahmen sowie die Umsetzung von Aktionsplänen in kritischen Sektoren wie dem Bankenwesen.
Das AISI soll hierbei unterstützen, indem es die Risiken durch autonome KI-Agenten, die Angriffe wie NTLM-Relay- oder Zertifikatsattacken bereits automatisiert ausführen können, systematisch analysiert.
