Beim Einsatz von Künstlicher Intelligenz klafft in vielen deutschen Betrieben eine erhebliche Sicherheitslücke. Lediglich 11 Prozent der Unternehmen mit bestehender KI-Nutzung oder entsprechenden Einführungsplänen haben spezielle Abläufe für KI-bezogene Sicherheitsvorfälle etabliert. Dies geht aus einer gemeinsamen Erhebung des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik (BSI) hervor, für die über 500 Unternehmen ab 20 Mitarbeitenden in Deutschland befragt wurden.
Demnach greifen 43 Prozent der KI-nutzenden Betriebe auf allgemeine IT-Prozesse ohne gesonderte KI-Regeln zurück. Weitere 20 Prozent erarbeiten solche Prozesse derzeit noch, während 25 Prozent überhaupt keine entsprechenden Vorgaben vorweisen können.
Zunehmende Angriffe treffen auf zögerliche Abwehr
Die Notwendigkeit zielgerichteter Reaktionspläne unterstreichen die gemeldeten Vorfälle. Insgesamt 17 Prozent der Unternehmen in Deutschland verzeichneten in den vergangenen 12 Monaten einen KI-bezogenen Cyberangriff oder Betrugsversuch. Bei 4 Prozent handelte es sich um bestätigte Attacken, bei 11 Prozent um Verdachtsfälle und 2 Prozent meldeten beides.
Unter den beobachteten Angriffsformen dominierten KI-manipulierte Phishing-Mails mit einem Anteil von 90 Prozent. Bei 40 Prozent kamen automatisierte Angriffsskripte zum Einsatz, während 11 Prozent der Betroffenen mit KI-Deepfakes zur Nachahmung von Führungskräften konfrontiert waren. Trotz dieser Bedrohungen setzen bisher nur 31 Prozent der KI-nutzenden Betriebe ihrerseits Künstliche Intelligenz für die eigene IT-Sicherheit ein.
Verbreitung und Barrieren beim Technologieeinsatz
Aktuell nutzen 49 Prozent der deutschen Unternehmen Künstliche Intelligenz, weitere 9 Prozent planen den Einstieg binnen 12 Monaten. Demgegenüber verzichten 42 Prozent auf den Einsatz der Technologie.
Als Gründe gegen eine Implementierung nannten 58 Prozent einen fehlenden Nutzen und 53 Prozent Bedenken hinsichtlich des Datenschutzes sowie der IT-Sicherheit. Zudem führten 44 Prozent den Integrationsaufwand, 43 Prozent rechtliche Unsicherheiten, 39 Prozent fehlende Kompetenzen und 36 Prozent die entstehenden Kosten an.
Wer sich mit der Absicherung von IT-Infrastrukturen befasst, muss heute vor allem die rasanten Entwicklungen bei KI-gestützten Bedrohungen im Blick behalten. Dieses kostenlose E-Book liefert fundierte Informationen zu aktuellen Cyberrisiken und zeigt, wie Sie Ihr Unternehmen ohne hohe Investitionen proaktiv schützen. Gratis-E-Book: Cyber-Bedrohungen effektiv abwenden
Schutzvorkehrungen und veränderter Rechtsrahmen
Bei den organisatorischen Schutzmaßnahmen setzen 56 Prozent der Unternehmen auf Schulungen. Jeweils 45 Prozent führen Risikobewertungen durch oder verlangen eine formale Freigabe vor der Implementierung. Eine Lieferantenprüfung nehmen 42 Prozent vor, während 29 Prozent gänzlich auf organisatorische Vorkehrungen verzichten.
Auf technischer Seite stehen Qualitätssicherungsmaßnahmen mit 67 Prozent an der Spitze, gefolgt von Zugriffsbeschränkungen mit 64 Prozent und Datenschutzvorkehrungen mit 62 Prozent. Sicherheitstests führen 52 Prozent durch, während 40 Prozent auf ein fortlaufendes Monitoring setzen. Acht Prozent der Betriebe haben keinerlei technische Maßnahmen ergriffen.
Die neuen gesetzlichen Anforderungen an KI-Systeme stellen viele Unternehmen vor große Herausforderungen bei der Dokumentation und Risikobewertung. Dieser praxisnahe Umsetzungsleitfaden zum EU AI Act hilft Ihnen, alle relevanten Fristen und Pflichten kompakt zu verstehen und rechtssicher umzusetzen. Kostenloses E-Book zum EU AI Act herunterladen
Eine wachsende Bedeutung kommt externen Prüfungen zu: 69 Prozent der Unternehmen erwarten eine höhere IT-Sicherheit durch unabhängige Prüfverfahren, und 51 Prozent betrachten Zertifizierungen als relevantes Auswahlkriterium. Zur praktischen Unterstützung haben TÜV-Verband und BSI zudem ein ACS-Handout zum Schutz vor KI-verstärkten Cyberangriffen für kleine und mittlere Unternehmen herausgegeben.
Parallel dazu passen sich die regulatorischen Vorgaben an: Durch den seit dem 27. Juli 2026 in Kraft befindlichen EU Digital Omnibus der EU-Kommission wurden die Umsetzungsfristen für Pflichten im Bereich von Hochrisiko-KI-Systemen auf den 2. Dezember 2027 und den 2. August 2028 verlegt.