Mit der zunehmenden Verbreitung autonomer Software-Agenten wächst in Unternehmen die Sorge vor unkontrollierten Prozessen und unbefugten Zugriffen. Da automatisierte Systeme zunehmend eigenständig Aufgaben in Unternehmensnetzwerken ausführen, rücken Schutzschalter und Identitätskonzepte in den Mittelpunkt der Sicherheitsarchitektur. Ein wesentlicher Baustein in dieser Debatte sind Mechanismen, die fehlerhafte oder kompromittierte Bots im Ernstfall unverzüglich stoppen können.
Softwarebasierte Not-Aus-Schalter und digitale Identitäten
Das Sicherheitsunternehmen DigiCert aus Sunnyvale setzt bei diesem Problem auf einen softwarebasierten Kontrollansatz. Wie Geschäftsführer Amit Sinha erläuterte, soll ein digitaler Not-Aus-Schalter es Unternehmen ermöglichen, Handlungen von KI-Agenten innerhalb der eigenen Sicherheitsgrenzen präzise zu steuern und die Bots bei Fehlverhalten sofort abzuschalten. Auf diese Weise soll unter anderem verhindert werden, dass ein autonom agierender Agent unkontrolliert in fremde Unternehmenssysteme eindringt.
Ergänzend zu Abschaltmechanismen verweist das Unternehmen auf ein digitales Passsystem für KI-Bots, über das deren Aktivitäten lückenlos nachverfolgt werden können. Die Diskussion um solche Sicherheitsleinen hat inzwischen auch die Politik erreicht: Unter anderem forderte Kaliforniens Gouverneur Gavin Newsom bereits Notabschaltfunktionen für die KI-Sicherheit.
Risiken durch reguläre Berechtigungen
Dass Sicherheitsrisiken nicht zwingend auf böswillige Ausbrüche aus Testumgebungen zurückgehen müssen, unterstreicht der Sicherheitsanbieter Proofpoint. Dessen Vorstandsvorsitzender Sumit Dhawan wies in einem Fachbeitrag darauf hin, dass die eigentliche Herausforderung für Betriebe oft von Systemen ausgeht, die exakt wie entworfen und mit den ihnen erteilten Berechtigungen agieren, dabei jedoch unerwünschte Ergebnisse erzeugen.
Laut dem „2026 AI and Human Risk Landscape Report“ von Proofpoint setzen bereits 87 Prozent der Organisationen KI-Assistenten über die reine Pilotphase hinaus ein. Gleichzeitig äußerten sich 52 Prozent der Befragten unsicher darüber, ob ihre bestehenden Kontrollsysteme eine Kompromittierung überhaupt erkennen würden.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Um diesen Risiken zu begegnen, stellte das Unternehmen ein Sicherheitssystem für Daten und Agenten in Aussicht, das Governance-Regeln direkt in Laufzeitkontrollen übersetzen soll. Das System stützt sich auf Telemetriedaten von mehr als 14.000 Unternehmen und soll bis Ende 2026 verfügbar sein.
Branchenallianzen und Standards für wachsende Bot-Flotten
Um einheitliche Sicherheitsmaßstäbe über Plattformgrenzen hinweg zu etablieren, schlossen sich Branchenakteure unter Führung des Identitätsdienstleisters Okta in der Blueprint Alliance zusammen. Zu den zwölf Gründungsmitgliedern zählen unter anderem AWS, CrowdStrike, Databricks, Docker, Google Cloud, Lovable, Okta, Proofpoint, Salesforce, ServiceNow, Wiz und Zscaler, beraten von Organisationen wie GE Appliances und World Central Kitchen.
Hintergrund der Initiative ist das prognostizierte Wachstum automatisierter Agenten. Die Allianz verweist auf Erhebungen des Marktforschungsunternehmens Gartner, nach denen Fortune-500-Konzerne bis 2028 durchschnittlich mehr als 150.000 Agenten einsetzen dürften – gegenüber weniger als 15 im Jahr 2025. Gleichzeitig gehen aktuell nur 13 Prozent der Organisationen davon aus, über eine angemessene Governance für KI-Agenten zu verfügen.
Wer sich mit der Absicherung neuer Technologien befasst, muss auch die rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Pflichten, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Zu den Leitprinzipien der Initiative gehören daher eigenständige Sicherheitsidentitäten für jeden Agenten, eng aufgabenbezogene Zugriffsrechte, eine lückenlose Überwachung zur Laufzeit sowie die Möglichkeit zur sofortigen, reversiblen Eindämmung verdächtiger Aktionen.
Besondere Anforderungen an physische Systeme
Über rein softwarebasierte Umgebungen hinaus gewinnen Notfallmechanismen insbesondere dort an Bedeutung, wo künstliche Intelligenz auf physische Maschinen trifft.
Für Roboter, Drohnen, autonome Fahrzeuge und vernetzte Medizingeräte empfehlen Rechtsexperten der Kanzlei Greenberg Traurig physische Not-Aus-Funktionen, Fail-Safe-Mechanismen, operative Einsatzgrenzen und verschlüsselte Gerätekommunikation.
Neben laufenden Tests unter realen Bedingungen raten Fachleute zu früher Governance, klaren vertraglichen Verantwortungszuordnungen sowie zur Orientierung an etablierten Rahmenwerken wie dem AI Risk Management Framework des US-Instituts NIST oder den KI-Prinzipien der OECD.
