Mehr als die Hälfte der Unternehmen in Deutschland sammelt bereits praktische Erfahrungen mit KI-Agenten. Laut einer Erhebung des Meinungsforschungsinstituts Civey im Auftrag des eco-Verbands setzen 54 Prozent der Betriebe solche Systeme ein oder testen sie gegenwärtig. Die Technologie übernimmt dabei in den meisten Organisationen vor allem assistierende Aufgaben unter Aufsicht, während vollkommen autonome Abläufe die Ausnahme bleiben.
Kontrollierte Freigaben und enge Handlungsspielräume
Der Umfrage zufolge nutzen 25 Prozent der Unternehmen KI-Agenten in einzelnen Abteilungen, elf Prozent bereits flächendeckend. Weitere 18 Prozent befinden sich derzeit in einer Testphase.
Sieben Prozent der befragten Betriebe planen einen künftigen Einsatz, während 33 Prozent keine Einführung vorsehen. An der Erhebung zwischen dem 18. September und dem 3. Oktober 2026 nahmen 500 Unternehmen teil; die statistische Fehlerspanne liegt zwischen 9,1 und 9,4 Prozentpunkten.
Beim operativen Spielraum agiert die Wirtschaft überwiegend vorsichtig. Bei 40 Prozent der Betriebe beschränkt sich die Rolle der Software auf unterstützende Zuarbeit. 34 Prozent der Unternehmen gestatten eigenständiges Arbeiten unter menschlicher Kontrolle. Lediglich 13 Prozent überlassen den Systemen autonome Entscheidungen in abgegrenzten Teilprozessen, und nur fünf Prozent gewähren vollständige Handlungsautonomie.
Der eco-Vorstandsvorsitzende Oliver Süme erklärte mit Blick auf die Ergebnisse, dass pauschale Forderungen nach einer Verlangsamung der Entwicklung zu kurz greifen würden.
Wer KI-Systeme im Betrieb einführt, muss die rechtlichen Rahmenbedingungen der neuen EU-Gesetzgebung genau kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Technische Vorkehrungen gegen Sicherheitsrisiken
Um Fehlfunktionen oder Kontrollverluste abzuwenden, setzen die befragten Organisationen auf mehrstufige Sicherheitsvorkehrungen. Bei den Mehrfachnennungen nannten 47 Prozent der Unternehmen automatisierte Notabschaltungen als Schutzmaßnahme. 45 Prozent regeln die Zugriffe über eine strukturierte Rechte- und Rollenvergabe.
Zudem greifen 37 Prozent auf regelmäßige Sicherheitsaudits zurück. Ein fortlaufendes Monitoring der KI-Ausgaben wird von 32 Prozent praktiziert, während 31 Prozent verbindliche Handlungsprotokolle für den Betrieb nutzen.
Wachsende Vorsicht im Marktumfeld
Die Zurückhaltung bei weitreichenden Befugnissen spiegelt die allgemeine Risikobewertung wider. Eine gemeinsame Untersuchung des TÜV-Verbands und des Bundesamts für Sicherheit in der Informationstechnik zeigt, dass 84 Prozent der Unternehmen Fehlentscheidungen von KI-Agenten auf Basis falscher oder erfundener Daten fürchten.
Jeweils 78 Prozent sehen Risiken durch neue Sicherheitslücken über Schnittstellen, ungewollte Aktionen sowie den Abfluss sensibler Informationen und Geschäftsgeheimnisse. 74 Prozent bewerten zudem unklare Verantwortlichkeiten und Haftungsfragen als hohes Risiko, 65 Prozent fürchten gezielte Manipulationen von außen.
Die zunehmende Vernetzung durch neue Technologien stellt Unternehmen vor wachsende Herausforderungen bei der Abwehr von Cyberangriffen. Erfahren Sie in diesem kostenlosen E-Book, wie Sie Sicherheitslücken schließen und gleichzeitig neue gesetzliche Anforderungen proaktiv erfüllen. IT-Sicherheit stärken ohne teure Investitionen
Auch auf internationaler Ebene wächst der Druck, robuste Sicherungsmechanismen verbindlich zu etablieren. Microsoft-Präsident Brad Smith forderte am 12. Oktober 2026 verpflichtende Sicherheitsregeln, darunter technische Notbremsen, eine Meldepflicht für KI-Sicherheitsvorfälle und unabhängige Prüfungen für leistungsfähige Modelle vor deren Markteinführung.
Innerhalb der Europäischen Union greifen mit der KI-Verordnung seit dem 2. August 2026 bereits Transparenzpflichten, während spezifische Bestimmungen für Hochrisiko-Systeme schrittweise in Kraft treten.