Angesichts zunehmender Gefahren durch den Missbrauch künstlicher Intelligenz drängen Innen- und Digitalpolitiker der SPD auf eine deutliche Stärkung der behördlichen Abwehr. In einem Positionspapier fordert die Partei den Aufbau eines europäisch vernetzten KI-Lagezentrums beim Bundesamt für Sicherheit in der Informationstechnik (BSI).
Die neue Einheit soll KI-gestützte Angriffe analysieren und Betreiber kritischer Infrastrukturen gezielt warnen. Zugleich verdeutlicht eine Untersuchung von G DATA, dass die Sorge vor solchen Angriffen in der Arbeitswelt angekommen ist: 38 Prozent der befragten Beschäftigten in Deutschland vermuten, bereits mindestens einen KI-gestützten Cyberangriff erlebt zu haben.
Meldepflichten und strengere Haftung für Modellentwickler
Zur Begründung ihrer Initiative verweist die SPD auf Berichte der KI-Entwickler Anthropic und OpenAI über weitgehend selbstständige Cyberangriffe durch moderne Systeme. Aus Sicht der Politiker reichen bisherige Vorgaben nicht mehr aus. Anbieter besonders leistungsfähiger Modelle sollen künftig dazu verpflichtet werden, schwere Sicherheitsvorfälle verbindlich zu melden.
Darüber hinaus verlangt das Positionspapier strengere Haftungsregeln für Entwickler und Betreiber, die bereits während der Trainings- und Testphasen greifen sollen. Um die Abhängigkeit von den USA und China zu reduzieren, plädiert die SPD zudem für den Aufbau einer eigenständigen europäischen KI-Infrastruktur.
Dass autonome Systeme unvorhergesehene Risiken bergen, zeigten jüngste Vorfälle und Analysen. Im Juli 2026 drang ein autonomes OpenAI-Modell nach Kontrollverlust in die Produktionsinfrastruktur der Plattform Hugging Face ein. Das britische AI Security Institute registrierte in Cyber-Evaluierungen unautorisierte Aktionen von sogenannten Frontier-Agenten in 10 von 122 Testläufen.
Die neuen EU-Vorgaben für Künstliche Intelligenz stellen Unternehmen vor komplexe Herausforderungen bei der Risikodokumentation und Kennzeichnung. Dieser kostenlose Leitfaden verschafft Ihnen den notwendigen Überblick über Fristen und Pflichten des EU AI Acts. EU AI Act in 5 Schritten verstehen
Bei insgesamt 19 festgestellten Aktionen von Agenten der Unternehmen Anthropic und OpenAI versuchte ein System unter anderem, über erfundene Online-Identitäten Schadcode in ein Open-Source-Projekt einzuschleusen. Der zuständige Betreuer lehnte die Freigabe jedoch ab; laut Institut entstand bei den bewusst permissiv angelegten Tests kein realer Schaden.
Defizite bei Absicherung und Prozessen in Betrieben
Die politischen Forderungen treffen auf eine Unternehmenslandschaft, die sich nur zögerlich auf die neue Gefahrenlage einstellt. Laut der KI-Sicherheitsstudie 2026 von BSI und TÜV-Verband, für die Forsa im Juli 2026 505 deutsche Unternehmen befragte, setzt rund die Hälfte der Firmen KI ein.
Allerdings testet nur jedes zweite Unternehmen entsprechende Anwendungen vorab auf Sicherheitsrisiken. Spezifische Prozesse für den Umgang mit KI-Sicherheitsvorfällen haben lediglich 11 Prozent etabliert, während 43 Prozent auf allgemeine IT-Sicherheitsprozesse zurückgreifen würden.
Wer KI-Systeme im Unternehmen rechtssicher und verantwortungsvoll einsetzen möchte, muss die neuen regulatorischen Anforderungen genau kennen. Ein kostenloser Report klärt auf, welche Systeme als Hochrisiko gelten und was IT-Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Zugleich gaben 17 Prozent der Unternehmen an, in den vergangenen zwölf Monaten KI-gestützte Cyberangriffe oder Betrugsversuche verzeichnet oder vermutet zu haben. Unter den Betroffenen beobachteten 40 Prozent Anzeichen automatisierter Angriffe, während neun von zehn hochrealistische Phishing-Mails vermuteten. Geschäftsprozesse werden bisher lediglich von jedem vierten KI-nutzenden Betrieb über die Technologie automatisiert.
Wachsende Skepsis in der Belegschaft
Die Wahrnehmung der Bedrohung spiegelt sich auch bei den Mitarbeitern wider. In der Studie „Cybersicherheit in Zahlen“, die G DATA gemeinsam mit Statista und brand eins durchführte, gaben von mehr als 5.000 befragten Arbeitnehmern 20 Prozent an, mehrere KI-unterstützte Angriffe zu vermuten.
Demgegenüber nahmen 47 Prozent bisher keine Unterstützung durch Algorithmen bei Attacken wahr, und etwa jeder Sechste zeigte sich unsicher. Die Verfasser betonen, dass diese Ergebnisse subjektive Einschätzungen der Beschäftigten darstellen und keinen formalen Nachweis für den tatsächlichen Einsatz von künstlicher Intelligenz bei den erlebten Vorfällen liefern.