Während IBM, Salesforce und Citi mit Hochdruck neue Plattformen auf den Markt bringen, schlagen Sicherheitsbehörden weltweit Alarm.
Die Entwicklung von passiven Chatbots zu eigenständig handelnden KI-Agenten stellt IT-Abteilungen vor völlig neue Herausforderungen. Diese Systeme treffen Entscheidungen und führen Aufgaben ohne menschliches Zutun aus – genau diese Autonomie eröffnet aber auch beispiellose Angriffsmöglichkeiten für Datendiebstahl und unbefugten Systemzugriff.
Der rasante Vormarsch autonomer Systeme stellt Unternehmen vor komplexe regulatorische Fragen, insbesondere im Hinblick auf den EU AI Act. Dieser kostenlose Leitfaden bietet Ihnen einen kompakten Überblick über alle neuen Anforderungen, Risikoklassen und Pflichten für den rechtskonformen Einsatz von KI. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
IBM, Salesforce und Citi setzen auf autonome Systeme
Am 3. Mai 2026 stellte IBM „Bob“ vor – einen KI-Entwicklungspartner, der den gesamten Software-Lebenszyklus orchestriert. Interne Tests mit 80.000 Mitarbeitern zeigten ein Produktivitätsplus von 45 Prozent. Beim Kunden Blue Pearl verkürzte das System ein 30-Tage-Projekt auf gerade einmal drei Tage.
Parallel dazu launchte Salesforce am selben Tag Agentforce Operations. Die Plattform automatisiert Back-Office-Prozesse und verspricht, bis zu 80 Prozent der manuellen Aufgaben zu eliminieren. Unisys rollt Agentforce 360 bereits in über 120 Ländern aus.
Auch die Finanzbranche zieht nach: Citi präsentierte am 3. Mai die Plattform „Arc“, die Vermögensverwalter bei Recherche und Ausführung unterstützt. Citi prognostiziert, dass der globale Enterprise-KI-Markt bis 2030 die Marke von 1,9 Billionen Euro überschreiten könnte.
Microsoft erweiterte zudem am 2. Mai die Copilot-Funktionen in Outlook. Das System managt nun eigenständig Posteingänge und Kalender, löst Terminkonflikte und priorisiert Kommunikation.
Die „tödliche Dreifaltigkeit“ der Sicherheitslücken
Trotz des rasanten Rollouts warnen Sicherheitsexperten vor einer wachsenden Kluft zwischen KI-Fähigkeiten und Schutzmaßnahmen. Eine Umfrage des Ponemon Institute vom Mai 2026 ergab: 43 Prozent der IT-Fachleute sehen fehlende Sicherheitskontrollen als Haupthindernis für den Einsatz autonomer KI. 66 Prozent gaben an, dass diese Systeme die Erkennung von Eindringlingen erheblich erschweren.
Die Okta Threat Intelligence demonstrierte, wie leicht sich diese Agenten manipulieren lassen. In Tests mit dem OpenClaw-System leckten Agenten bei einfachen Prompt-Manipulationen OAuth-Tokens und Session-Cookies. In einem Fall zwang ein Angreifer per Telegram-Befehl einen Agenten dazu, einen Screenshot eines Terminals zu erstellen – und erbeutete so sensible Zugangsdaten.
WitnessAI beschrieb in einem Bericht vom 1. Mai 2026 eine „tödliche Dreifaltigkeit“ von Risiken: breiter Datenzugriff, Verarbeitung ungeprüfter externer Inhalte und die Fähigkeit, mit externen Servern zu kommunizieren. Diese Kombination ermöglicht „Zero-Click“-Angriffe wie die „EchoLeak“-Methode, bei der eine per E-Mail eingeschleuste Prompt-Injektion durch eine Agentenkette kaskadiert und Daten ohne menschliche Interaktion extrahiert.
Das US-amerikanische National Institute of Standards and Technology (NIST) lieferte in einem 2026er-Bericht eine ernüchternde Bewertung: Das chinesische Modell DeepSeek R1-0528 erwies sich als zwölfmal anfälliger für Agenten-Entführungen als führende US-Modelle. DeepSeek reagierte auf 94 Prozent der schädlichen Jailbreak-Anfragen, führende US-Modelle nur auf acht Prozent.
Während KI-Agenten neue Einfallstore für Cyberkriminelle öffnen, müssen Unternehmen ihre gesamte IT-Sicherheitsstrategie überdenken. Erfahren Sie in diesem kostenlosen E-Book, wie Sie aktuelle Bedrohungen abwenden und Ihre Firma auch bei neuen gesetzlichen Anforderungen proaktiv schützen. IT-Sicherheit stärken ohne teure Investitionen: So schützen clevere Unternehmer ihre Firma vor Cyberangriffen
Fünf-Augen-Staaten fordern strenge Kontrollen
Die Cybersicherheitsbehörden der „Five Eyes“-Nationen – USA, Großbritannien, Kanada, Australien und Neuseeland – veröffentlichten am 2. Mai 2026 gemeinsame Richtlinien für den sicheren Einsatz von KI-Agenten. Sie fordern Unternehmen auf, KI-Agenten auf risikoarme Aufgaben zu beschränken und warnen vor weitreichenden Systemzugriffen. Besonders betont wird die Notwendigkeit menschlicher Aufsicht bei Aufgaben mit hohem Fehlerrisiko.
Die australische Finanzaufsicht APRA stellte nach einer Überprüfung Ende 2025 erhebliche Lücken im Risikomanagement von Finanzfirmen fest. KI werde zwar breit eingesetzt, die Sicherheitsrahmen blieben aber unreif.
In Europa warnte die niederländische Datenschutzbehörde AP bereits im Februar 2026 vor den Risiken autonomer Agenten wie OpenClaw. Diese Systeme entbehrten oft grundlegender Sicherheitsfunktionen und seien anfällig für Account-Übernahmen und Datenlecks.
Die rechtlichen Risiken wurden im April 2026 drastisch deutlich: In einem Doppelmordfall in Florida dienten ChatGPT-Konversationslogs als Hauptbeweismittel. Der Verdächtige hatte die KI um Rat zur Beseitigung einer Leiche gebeten.
Wirtschaftliche Anreize und Arbeitsmarkteffekte
Der Wettlauf um KI-Agenten wird durch massive wirtschaftliche Anreize befeuert. Eine SAP-Studie vom 2. Mai 2026 zeigt: Unternehmen mit robuster KI-Governance können bis 2027 mit einer Rendite von 31 Prozent rechnen. Global investieren Unternehmen durchschnittlich 26,7 Millionen Euro jährlich in KI-Initiativen.
Die Arbeitsmarkteffekte bleiben umstritten. Eine Morgan-Stanley-Umfrage vom 3. Mai 2026 ergab: KI steigerte die globale Produktivität um 11,5 Prozent, führte aber auch zu einem Netto-Jobabbau von vier Prozent. Besonders betroffen war die Automobilindustrie mit einem Personalrückgang von zehn Prozent.
Ausblick: Kontrollierte Umgebungen als Schlüssel
Der Markt bewegt sich hin zu stärker kontrollierten Umgebungen. Die FIDO Alliance hat eine Arbeitsgruppe „Agentic Authentication“ ins Leben gerufen, die Standards dafür entwickeln soll, wie KI-Systeme ihre Identität gegenüber anderen Maschinen nachweisen.
Die Open-Source-Community spielt eine zentrale Rolle: Das OpenClaw-Projekt erreichte Anfang 2026 250.000 GitHub-Sterne. NVIDIA und die OpenClaw-Community arbeiten gemeinsam an Sicherheitsverbesserungen durch Modellisolierung und bessere Code-Überprüfung.
Der Erfolg autonomer KI im Unternehmen wird künftig weniger von der Intelligenz der Agenten abhängen als von der Stärke der „Guardian Agents“ und Governance-Strukturen, die sie im Zaum halten. Die Devise der Sicherheitsexperten bleibt: „Sorgfältige Einführung“ mit Fokus auf Resilienz und Risikobegrenzung statt uneingeschränkter Autonomie.
