Eine deutliche Mehrheit der Unternehmen in Deutschland blickt mit Sorge auf den Einsatz autonomer Systeme: 84 Prozent befürchten Fehlentscheidungen von KI-Agenten auf der Grundlage falscher oder erfundener Daten. Das ergibt die gemeinsame Sicherheitsstudie des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik (BSI).
Für die Untersuchung befragte das Meinungsforschungsinstitut forsa zwischen dem 22. Juni und dem 31. Juli 2026 insgesamt 505 Betriebe ab 20 Mitarbeitenden in Deutschland.
Gravierende Vorbehalte bei Schnittstellen und Haftungsfragen
Neben fehlerhaften Ergebnissen identifizieren die befragten Betriebe weitere Risiken: Jeweils 78 Prozent der Unternehmen stufen neue Schwachstellen über Schnittstellen, den ungewollten Abfluss sensibler Geschäftsgeheimnisse und unkontrollierte Aktionen der Software als Gefahr ein. Zudem bewerten 74 Prozent unklare Verantwortlichkeiten bei der Haftung als hohes Risiko, während 65 Prozent eine gezielte Manipulation von außen fürchten.
Die Bedrohung ist für viele Firmen bereits Realität. Insgesamt 17 Prozent berichten von bestätigten oder vermuteten Angriffen mit KI-Bezug. Bei vier Prozent der Unternehmen handelte es sich um bestätigte Attacken, elf Prozent äußerten einen Verdacht und zwei Prozent erlebten beides.
Unter den 91 betroffenen Organisationen dominierten Phishing-Angriffe mit 90 Prozent. Dahinter folgten automatisierte Angriffsskripte mit 40 Prozent sowie Deepfakes mit elf Prozent.
Nachholbedarf bei Notfallprozessen und technischer Absicherung
Trotz der Risikowahrnehmung weisen viele Unternehmen organisatorische Lücken auf. Lediglich elf Prozent der Betriebe mit bestehender oder geplanter KI-Nutzung verfügen über gesonderte Prozesse für Sicherheitsvorfälle im KI-Bereich. 43 Prozent stützen sich stattdessen auf allgemeine IT-Sicherheitsprozesse, 20 Prozent arbeiten derzeit an entsprechenden Abläufen, und 25 Prozent besitzen gar keine diesbezüglichen Regelungen. Zwei Prozent machten hierzu keine Angaben.
Immerhin haben 63 Prozent feste Zuständigkeiten für den KI-Umgang etabliert, 59 Prozent verfügen über verbindliche Richtlinien und 33 Prozent über eine übergreifende Strategie.
Wer sich mit den neuen technologischen Herausforderungen befasst, muss auch die rechtlichen Rahmenbedingungen für Künstliche Intelligenz im Blick behalten. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken verstehen
Bei den technischen Schutzmaßnahmen prüfen 67 Prozent kritische Resultate durch eigenes Personal, 64 Prozent schränken Berechtigungen ein und 62 Prozent achten auf Datenschutzvorgaben. Rund 52 Prozent führen Sicherheitstests durch, 40 Prozent setzen auf Überwachung und Protokollierung, während acht Prozent auf Vorkehrungen verzichten.
Forderung nach verbindlichen Prüfungen und klaren Standards
Insgesamt setzen 49 Prozent der befragten Firmen bereits KI ein, neun Prozent planen dies binnen eines Jahres. Demgegenüber verzichten 42 Prozent vollständig auf entsprechende Pläne. Unter den skeptischen Betrieben nennen 53 Prozent Datenschutz- und Sicherheitsbedenken als Hauptgrund; 71 Prozent sind zudem unzureichend über den europäischen AI Act informiert.
Eine Zertifizierung gilt vielen als Hebel: 69 Prozent versprechen sich von offiziellen Prüfungen ein höheres Sicherheitsniveau, für 51 Prozent ist ein solches Zertifikat ein wesentliches Auswahlkriterium.
Die Umsetzung der europäischen KI-Verordnung stellt viele Unternehmen vor komplexe Fragen zu Risikoklassen und Dokumentationspflichten. Ein kostenloser Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
TÜV-Präsident Dirk Stenkamp bemängelte die herrschende Rechtsunsicherheit bei Haftungsfragen und sprach sich für gesetzliche Mindeststandards zum Grundschutz aus. Dr. Joachim Bühler vom TÜV-Verband hob hervor, dass Vorbehalte der Anwender nur durch nachweisbare Sicherheitskriterien ausgeräumt werden könnten.
Der Verband forderte vor dem AI Summit Dublin verbindliche Prüfungen hochkomplexer Modelle vor der Markteinführung sowie einheitliche EU-Vorgaben. BSI-Vizepräsident Thomas Caspers erklärte ergänzend, die bestehenden Potenziale seien noch nicht ausgeschöpft; Europa müsse nun Schwerpunkte bei relevanten Einsatzbereichen setzen.