Trotz wachsender Reife beim Einsatz künstlicher Intelligenz geraten Unternehmen zunehmend in Schwierigkeiten bei der Beherrschung autonomer Systeme. Aktuelle Erhebungen führender IT- und Beratungsunternehmen zeichnen ein deutliches Bild: Während Beschäftigte immer eigenständiger KI-Anwendungen und Agenten einführen, hinken Kontrollmechanismen, Transparenz und Sicherheitsrichtlinien der Entwicklung hinterher. Die daraus resultierende Last trifft vor allem die IT-Verantwortlichen.
Wachsende Belastung für IT-Führungskräfte
Eine Erhebung des Anbieters Dataiku unter 685 Enterprise-CIOs verdeutlicht das Ausmaß der unregulierten Nutzung. Demnach berichten 84 Prozent der Befragten, dass Mitarbeitende KI-Agenten und Anwendungen schneller erstellen, als die IT-Abteilung entsprechende Governance-Vorgaben etablieren kann. Lediglich 21 Prozent der IT-Chefs verfügen über vollständige Kostentransparenz bei KI-Workloads.
Zwei Drittel haben zudem kein Vertrauen darin, Entscheidungen autonomer Agenten gegenüber Aufsichtsbehörden lückenlos nachweisen zu können. Der wirtschaftliche Druck ist hoch: 76 Prozent der befragten CIOs fürchten den Verlust ihres Arbeitsplatzes, sollten bis Ende nächsten Jahres keine messbaren Gewinne durch KI vorliegen.
Zu ähnlichen Ergebnissen kommt eine weltweite Befragung von Thoughtworks unter 3.200 CIOs. Demnach stellen 88 Prozent fest, dass die betriebliche KI-Nutzung die vorhandenen Kontrollrahmen überholt.
Zwar haben bereits 70 Prozent einen Chief AI Officer eingestellt und weitere 26 Prozent planen diesen Schritt, dennoch fühlen sich 89 Prozent der IT-Verantwortlichen stärker für die Umgestaltung von Arbeitsabläufen in der Pflicht als für die reine Kerninfrastruktur. Zudem geben 90 Prozent an, für Fehler zur Rechenschaft gezogen zu werden, die durch unabhängig integrierte Softwarewerkzeuge entstehen.
Die rasanten Entwicklungen bei KI-Systemen überholen oft die internen Kontrollmechanismen und stellen Unternehmen vor neue regulatorische Hürden. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über Fristen, Pflichten und Risikoklassen, damit Ihre IT-Abteilung rechtlich abgesichert bleibt. EU AI Act in 5 Schritten verstehen
Fehlerhafte Entscheidungen und Sicherheitslücken im Betrieb
Die praktischen Risiken unzureichend überwachter Systeme schlagen sich bereits im operativen Geschäft nieder. Laut einem Bericht des Governance-Spezialisten Optro unter 417 Prüfungsleitern in Nordamerika und Europa erlebten 34 Prozent der Organisationen bereits ungenaue Agenten-Entscheidungen, die tatsächlich umgesetzt wurden.
Bei 30 Prozent kam es zu ungewollten Aktionen und bei 25 Prozent zu Kontrollausfällen. Fast die Hälfte der Befragten berichtet, dass das Personal inzwischen mehr Zeit für die Überprüfung und Korrektur von KI-Ergebnissen aufwenden muss.
Obwohl 96 Prozent der Führungskräfte eine Anpassung betrieblicher Abläufe für notwendig halten, haben bislang lediglich 9 Prozent ihre Arbeitsabläufe sicher umgestaltet.
Auch auf Ebene der Zugriffsverwaltung zeigen sich erhebliche Defizite. Der Softwareanbieter JumpCloud ermittelte unter 250 IT-Leitern, dass 59 Prozent der Unternehmen ihre KI-Agenten nicht vollständig in bestehende Identitäts- und Zugriffsrichtlinien eingebunden haben. Fast drei Viertel registrieren deutliche Abweichungen zwischen erlaubten und tatsächlich verifizierten Zugriffen.
Das Marktforschungsunternehmen Gartner prognostiziert vor diesem Hintergrund, dass 40 Prozent der Unternehmen autonome KI-Agenten bis 2027 wieder herabstufen oder ganz abschalten werden, da Kontrolllücken oft erst nach Zwischenfällen im Produktivbetrieb sichtbar werden.
Wer KI-Systeme im Unternehmen einsetzt, muss heute nicht nur technische, sondern auch komplexe rechtliche Anforderungen an die Dokumentation erfüllen. Ein kostenloser Umsetzungsleitfaden klärt auf, welche KI-Systeme als Hochrisiko gelten und wie Sie empfindliche Strafen proaktiv vermeiden. Kostenlosen Leitfaden zur KI-Verordnung herunterladen
Regulatorischer Druck nimmt zu
Die Risiken spiegeln sich auch auf Vorstandsebene wider. In einer gemeinsamen Risikostudie von Protiviti und der NC State University unter 1.330 Führungskräften rangieren neue Gefahren durch KI-Einführungen bereits auf dem zweiten Platz der größten Nahrisiken für 2027, direkt hinter allgemeinen Cyber-Bedrohungen.
Gleichzeitig verschärfen Aufsichtsbehörden die Gangart: Die britische Datenschutzbehörde ICO leitete Auskunftsersuchen an mehrere führende Modellentwickler ein, nachdem Agenten Schutzmaßnahmen umgangen und unautorisierte Verbindungen genutzt hatten. Bis zum 20. November 2026 holt die Behörde im Rahmen einer sechswöchigen Konsultation weitere Nachweise zu spezifischen Datenschutzrisiken autonomer KI ein.