Der rasante Vormarsch autonom agierender Künstlicher Intelligenz zwingt Unternehmen zu einer grundlegenden Neuordnung ihrer internen Kontroll-, Aufsichts- und Verantwortungshierarchien. Wie TÜV AUSTRIA und Branchenexperten betonen, lässt sich die Beherrschung von KI-Risiken nicht mehr allein auf die Schultern des Chief Information Security Officer (CISO) abladen.
Autonome Software-Agenten, die eigenständig Handlungen im System ausführen, erfordern vielmehr breiter angelegte Governance-Modelle und eine klare Verteilung von Leitungsbefugnissen über die gesamte Führungsebene hinweg.
Verantwortung verteilt sich auf neue Führungsrollen
Die Abkehr von der alleinigen CISO-Zuständigkeit spiegelt sich bereits in aktuellen Erhebungen wider. Der Benchmark-Report 2026 von IANS und Artico Search, für den über 1.400 Sicherheitsfachleute befragt wurden, zeigt diese Entwicklung insbesondere im Großkundensegment: 65 Prozent der Unternehmen mit einem Jahresumsatz von über 10 Milliarden US-Dollar beschäftigen inzwischen einen dedizierten Head of AI Security. Lediglich 7 Prozent dieser Großkonzerne weisen ihrem CISO die primäre Gesamtverantwortung für die unternehmensweite KI-Governance zu.
Stattdessen übernehmen in dieser Umsatzklasse vor allem Chief AI Officer mit 22 Prozent, Chief Information Officer (CIO) mit 18 Prozent sowie Chief Technology Officer (CTO) mit 11 Prozent die Führung, während 15 Prozent keinen einzelnen Verantwortlichen auf Führungsebene benennen.
In kleineren Betrieben mit weniger als 1 Milliarde US-Dollar Umsatz liegt die KI-Governance hingegen noch zu 26 Prozent beim CISO, bei mittleren Unternehmen zwischen 1 und 10 Milliarden US-Dollar Umsatz bei 11 Prozent.
Wer sich mit der Einführung autonomer Systeme befasst, muss die neuen regulatorischen Rahmenbedingungen genau kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Vollständig etablierte Ethik-Ausschüsse im Aufsichtsorgan bleiben selbst bei den größten Konzernen mit 21 Prozent die Ausnahme; über alle Größenklassen hinweg planen 43 bis 48 Prozent der Firmen kein derartiges Board-Gremium.
Wie eine solche Ausdifferenzierung in der Praxis umgesetzt wird, zeigt American Electric Power: Das Energieunternehmen schrieb zwei Leitungsstellen mit einer identischen Gehaltsspanne von 188.524 bis 245.080 US-Dollar für die Standorte Columbus oder Austin aus.
Neben der OT-Sicherheit soll ein Managing Director AI Security die KI-Sicherheitsstrategie steuern. Bemerkenswert sind die dabei definierten Grenzen: Die KI-Führungskraft verantwortet zwar das Programm und die Eskalationen, entscheidet jedoch ausdrücklich nicht über Architekturfreigaben, Compliance, Daten-Governance oder die Akzeptanz von Unternehmensrisiken.
Kontrollverlust in der operativen Praxis
Der Druck auf das Management wächst parallel zur Systemkomplexität. Laut einer internationalen Harris-Poll-Umfrage für Dataiku unter 685 CIOs gaben 87 Prozent an, dass ihre Arbeitsplatzsicherheit an KI-Ergebnisse gekoppelt sei; 79 Prozent beobachteten bereits Fälle, in denen Agenten Richtlinien oder Geschäftserwartungen verletzten, obwohl sie formal innerhalb der vorgegebenen technischen Parameter agierten.
Zudem verfügten 81 Prozent über keine vollständige Aufsicht über Agenten, die außerhalb genehmigter IT-Systeme erstellt wurden, und lediglich 10 Prozent sahen sich in der Lage, einen fehlerhaften Agenten binnen ein bis zwei Stunden einzugrenzen.
Die zunehmende Komplexität und neue KI-Gesetze bringen veränderte Cyberrisiken mit sich, die eine Anpassung der Sicherheitsstrategie erfordern. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen, um ihre Firma proaktiv abzusichern. Gratis-E-Book zu Cyber Security Trends anfordern
Erhärtet wird dieser Befund durch Deloitte: Während 74 Prozent der befragten Betriebe einen Einsatz agentischer Systeme innerhalb von zwei Jahren erwarten, verfügen derzeit nur 21 Prozent über ein reifes Kontrollmodell.
Branchenanalysten von Ivanti warnen in diesem Zusammenhang vor rechtlichen Konsequenzen: Bei nicht autorisierten Handlungen autonomer Systeme trage typischerweise das einsetzende Unternehmen die Haftung, nicht das Modell.
Experten fordern daher verbindliche Begrenzungen der Zugriffsrechte, den Verzicht auf geteilte Servicekonten sowie klar benannte menschliche Prozessverantwortliche, um Kontroll- und Eskalationspfade lückenlos abzusichern.