Zwei Drittel der IT-Verantwortlichen haben die Kontrolle über ihre eigenen KI-Anwendungen verloren.
Auf dem Snowflake Summit am heutigen Montag in Las Vegas schlugen führende Technologie-Manager Alarm. „Wenn wir diese Systeme nicht steuern können, stellt sich die Frage nach ihrem langfristigen Nutzen“, sagte Snowflake-CEO Sridhar Ramaswamy. Im Zentrum der Debatte steht eine neue Sicherheitslücke: die sogenannte „Control Gap“ – die wachsende Kluft zwischen dem Einsatz autonomer KI-Agenten und den vorhandenen Kontrollmechanismen.
Die rasante Entwicklung autonomer Systeme erfordert klare Leitplanken, um Haftungsrisiken und Kontrollverlust zu vermeiden. Dieser kostenlose Umsetzungsleitfaden zur EU-KI-Verordnung hilft Unternehmen dabei, Risikoklassen richtig einzuschätzen und rechtliche Anforderungen frühzeitig zu erfüllen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Unternehmen laufen der Entwicklung hinterher
Der Wandel ist fundamental, erklärt Nancy Wang, CTO von 1Password: „Früher schützten wir statische Systeme. Heute müssen wir autonome Akteure regieren.“ Die Sicherheitsbranche stehe vor einer völlig neuen Herausforderung, ergänzte Snowflake-Manager Artin Avanes.
Eine aktuelle IBM-Studie untermauert die Dringlichkeit. Zwischen Januar und April 2026 befragten die Forscher 2.000 Technologie-Führungskräfte. Das Ergebnis: 77 Prozent der Unternehmen geben zu, dass ihre KI-Einführung schneller voranschreitet als ihre Governance-Fähigkeiten. Nur elf Prozent fühlen sich auf das Ausmaß der KI-Agenten-Integration vorbereitet.
Der Microsoft Cyber Pulse Report vom Februar 2026 zeichnet ein ähnliches Bild. Demnach nutzen 80 Prozent der Fortune-500-Unternehmen aktive KI-Agenten – aber nur 47 Prozent haben formelle Sicherheitskontrollen etabliert. Besonders brisant: Fast 29 Prozent der Mitarbeiter setzen nicht genehmigte KI-Agenten ein. Experten sprechen bereits von einer neuen „Shadow AI“-Risikoklasse.
Neue Standards für die Agenten-Sicherheit
Die Industrie reagiert mit neuen Rahmenwerken. Die Open Web Application Security Platform (OWASP) veröffentlichte heute ihren Bericht „State of Agentic AI Security and Governance v2.01“. Das Papier fordert, Sicherheit und Betriebssicherheit nicht länger getrennt zu betrachten. Es führt eine detaillierte Taxonomie für KI-Agenten ein – basierend auf ihren Rollen und Autonomiegraden. Unternehmen sollen sofort mit der Inventarisierung ihrer Agenten beginnen.
Die Cloud Security Alliance (CSA) kündigte für das dritte Quartal 2026 die Veröffentlichung von RiskRubric V2 an. Die neue Methodik soll KI-Modellrisiken durch ein Multi-Scanner-Ökosystem und ein neues Konfidenz-Scoring-Modell quantifizieren.
Microsoft-CEO Satya Nadella brachte es auf den Punkt: „Unternehmen müssen KI-Agenten als privilegierte Identitäten behandeln.“ Er empfiehlt, Agenten digitale Identitäten zuzuweisen, ihre Betriebsumgebungen einzuschränken und strenge Zugriffsrichtlinien zu etablieren.
Während neue Standards für die Agenten-Sicherheit entstehen, müssen Firmen auch die rechtlichen Dokumentationspflichten im Blick behalten. Welche Systeme konkret als Hochrisiko gelten und was IT-Abteilungen jetzt tun müssen, klärt dieser kostenlose Praxis-Report. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Die unterschätzte Gefahr: Prompt-Injection
Sicherheitsforscher warnen besonders vor „Prompt Injection“ – einer Schwachstelle, bei der ein KI-Agent ungeprüfte Inhalte als Befehl verarbeitet. Auf der Infosecurity Europe 2026 bezeichneten Forscher dies als ungelöstes architektonisches Problem. Erhalten Agenten Zugriff auf interne Tools und externe Kommunikationskanäle, kann ein erfolgreicher Angriff reale Schäden verursachen.
Die Industrie arbeitet an Lösungen. Silverfort hat Identitätssicherheitskontrollen in den Google Cloud Agent Gateway und Microsoft Copilot Studio integriert. Trend Micro kooperiert mit Anthropic, um eine Compliance-API in seine Vision-One-Plattform einzubinden. Radiant Logic wiederum führt Funktionen zur Verfolgung von „Maschinenidentitäten“ ein – notwendig, weil Agenten oft in Sekunden erstellt und gelöscht werden.
Analysten des Gartner Security & Risk Management Summit im Juni 2026 prognostizieren: Bis 2028 könnten agentenbasierte Angriffsflächen zu 25 Prozent aller Sicherheitsverletzungen beitragen. Die gute Nachricht: KI-gesteuerte Sicherheitsoperationen könnten im gleichen Zeitraum menschliche Sicherheitsvorfälle um 30 Prozent reduzieren – vorausgesetzt, die richtigen Resilienz-Rahmenwerke werden implementiert.
