Künstliche Intelligenz verändert die Bedrohungslage im digitalen Raum grundlegend. Experten des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik (BSI) warnen davor, dass KI-generierte Nachrichten, Deepfakes sowie automatisierte Angriffsskripte die bisherigen Abwehrmaßnahmen in der Cybersicherheit zunehmend überholen.
Viele Firmen registrieren Angriffe
Einer gemeinsamen Untersuchung des TÜV-Verbands und des BSI zufolge, für die mehr als 500 Unternehmen ab 20 Beschäftigten befragt wurden, berichten 17 Prozent der deutschen Unternehmen von KI-gestützten Cyberangriffen oder Betrugsversuchen in den vergangenen zwölf Monaten. Dabei handelt es sich bei vier Prozent um bestätigte Vorfälle, bei elf Prozent um Verdachtsfälle und bei zwei Prozent um beides.
Unter den betroffenen Unternehmen nannten 90 Prozent KI-Phishing als Angriffsmethode. Zudem verzeichneten 40 Prozent automatisierte Angriffsskripte und elf Prozent Deepfakes. Gleichzeitig zeigt die Erhebung, dass KI Angriffe skalieren und dadurch die Kosten für Prüfung, Abwehr und Versicherungen in die Höhe treiben kann.
Demnach nutzt rund die Hälfte der Unternehmen in Deutschland bereits künstliche Intelligenz, konkret 49 Prozent, während weitere neun Prozent dies innerhalb der kommenden zwölf Monate planen. Allerdings setzen lediglich 31 Prozent der KI-nutzenden Betriebe die Technologie auch aktiv für die eigene IT-Sicherheit ein.
Sicherheitsdefizite und fehlende Schutzprozesse
Trotz der zunehmenden Bedrohung weisen viele Organisationen erhebliche Lücken bei den internen Vorkehrungen auf. Lediglich jedes zweite Unternehmen testet eingesetzte KI-Anwendungen vorab auf deren Sicherheit.
Wer angesichts neuer Cyberrisiken und technologischer Entwicklungen die Sicherheit im Unternehmen stärken möchte, erhält in diesem E-Book wertvolle Einblicke in aktuelle Bedrohungstrends. Schließen Sie Sicherheitslücken proaktiv und erfüllen Sie neue gesetzliche Anforderungen ohne hohe Investitionen. Gratis-E-Book: Cyber Security Bedrohungen abwenden
Von den Betrieben, die KI nutzen oder deren Einsatz planen, verfügen nur elf Prozent über spezielle Prozesse für sicherheitsrelevante KI-Vorfälle. Dagegen greifen 43 Prozent auf allgemeine Prozesse ohne spezifische KI-Regelungen zurück, 20 Prozent erarbeiten entsprechende Abläufe und 25 Prozent besitzen keinerlei Regelungen.
Das BSI hebt hervor, dass vielen Betrieben spezielle Prozesse zur Absicherung eigener KI-Anwendungen fehlen. Dies berge Risiken wie Datenlecks und fehlerhafte automatisierte Entscheidungen.
Fachbeiträge betonen zudem, dass Deepfakes, KI-generierte Nachrichten sowie Software-Agenten mit weitreichenden Zugriffsrechten die Anforderungen an das Personal verändern, sodass herkömmliche Phishing-Schulungen nicht mehr genügen.
Auch Sicherheitsanalysen von Barracuda zeigen neuartige Gefahren: Bei E-Mail-Untersuchungen wurden neben klassischem Phishing versteckte Prompt-Injections für KI-Assistenten entdeckt, die unter anderem auf Zahlungsbetrug abzielen.
Da herkömmliche Schutzmaßnahmen oft nicht mehr ausreichen, hilft dieser kostenlose Leitfaden dabei, Phishing-Angriffe und psychologische Manipulationstaktiken frühzeitig zu entlarven. Sichern Sie Ihr Unternehmen in vier konkreten Schritten effektiv gegen moderne Hacker-Methoden ab. Kostenloses Anti-Phishing-Paket herunterladen
Wahrnehmung in der Belegschaft
Die Verunsicherung reicht bis in die Belegschaften hinein. Laut einer repräsentativen Erhebung von G DATA CyberDefense, Statista und brand eins unter mehr als 5.000 Beschäftigten in Deutschland glauben 38 Prozent der Befragten, mindestens einen KI-unterstützten Cyberangriff erlebt zu haben.
Jeder Fünfte vermutet sogar mehrere Angriffe, während 47 Prozent keine KI-Unterstützung wahrnahmen und etwa jeder Sechste unsicher war. Bei diesen Werten handelt es sich um subjektive Einschätzungen, die keinen Nachweis über den tatsächlichen KI-Einsatz darstellen.
Im internationalen Kontext zeichnen sich ähnliche Trends ab. Der IT-Dienstleister LevelBlue hält in einem Bericht fest, dass Beschäftigte in 59 Prozent der Organisationen zunehmend Schwierigkeiten haben, manipulierte Inhalte zu erkennen. Während 44 Prozent binnen zwölf Monaten Angriffe durch Deepfakes oder synthetische Identitäten erwarten, stufen lediglich 32 Prozent ihre Organisation als ausreichend vorbereitet ein.