Microsoft hat Anfang September eine neue Sicherheitsfunktion für seine Entwicklerplattform Copilot Studio veröffentlicht, die die Kontrolle über autonome KI-Systeme stärken soll.
Die Neuerung ermöglicht es Entwicklern, gezielt menschliche Genehmigungsprozesse in die Arbeitsabläufe von KI-Agenten zu integrieren. Damit reagiert das Unternehmen auf die Herausforderungen bei der Automatisierung sensibler Geschäftsprozesse, bei denen eine rein maschinelle Entscheidung als zu risikoreich eingestuft wird.
Gezielte Freigabepflicht für sensible Operationen
Die neue Sicherheitsfunktion ist darauf ausgelegt, das Vertrauen in KI-gestützte Automatisierungen zu erhöhen. Entwickler haben nun die Möglichkeit, für jeden einzelnen Agenten und jedes genutzte Werkzeug eine explizite Genehmigungspflicht zu aktivieren. Diese Funktion greift insbesondere bei Aktionen, die weitreichende Auswirkungen auf die Unternehmensdaten oder die externe Kommunikation haben können.
Sobald ein Agent eine als sensibel markierte Aufgabe ausführen möchte, setzt der neue Mechanismus ein. Zu den Beispielen für solche kritischen Operationen gehören der Versand von E-Mails, das Schließen von Support-Tickets oder die Abwicklung von Zahlungsvorgängen. In diesen Fällen setzt der KI-Agent seine Arbeit nicht automatisch fort, sondern pausiert die Ausführung so lange, bis eine menschliche Instanz den Vorgang geprüft und autorisiert hat.
Integration in Microsoft-Umgebungen und Interaktionsmöglichkeiten
Für die praktische Anwendung hat Microsoft die Genehmigungsanfragen direkt in die bestehenden Arbeitsumgebungen eingebettet. Nutzer erhalten die entsprechenden Aufforderungen innerhalb von Microsoft Teams oder im Microsoft 365 Copilot. Dies soll einen nahtlosen Übergang zwischen der automatisierten Vorarbeit der KI und der notwendigen menschlichen Kontrolle gewährleisten, ohne dass die Anwender die gewohnte Arbeitsumgebung verlassen müssen.
Wer sich mit der Absicherung von KI-Prozessen befasst, muss auch die rechtlichen Rahmenbedingungen kennen. Dieser kostenlose Ratgeber bietet einen kompakten Überblick über alle Anforderungen und Fristen der EU-KI-Verordnung für Unternehmen. Umsetzungsleitfaden zum EU AI Act jetzt kostenlos herunterladen
Dabei stehen dem menschlichen Nutzer laut den technischen Spezifikationen drei verschiedene Handlungsoptionen zur Verfügung. Er kann die spezifische Aktion einmalig genehmigen, sie für die Dauer der aktuellen Sitzung generell erlauben oder die Ausführung vollständig ablehnen. Durch diese differenzierten Entscheidungsmöglichkeiten soll ein Gleichgewicht zwischen notwendiger Sicherheit und effizienten Arbeitsabläufen geschaffen werden.
Weltweite Verfügbarkeit und technische Details
Das neue Feature wurde als allgemein verfügbare Funktion für die Web-Version von Copilot Studio weltweit ausgerollt. In der technischen Dokumentation und der Produkt-Roadmap wird die Neuerung unter der Nummer 570434 geführt.
Die Definition von Hochrisiko-Systemen und die damit verbundenen Dokumentationspflichten stellen viele Unternehmen vor neue Herausforderungen. Erfahren Sie in diesem kostenlosen Report, welche konkreten Schritte jetzt für eine rechtskonforme KI-Nutzung notwendig sind. EU AI Act in 5 Schritten verstehen
Mit dieser Veröffentlichung adressiert Microsoft die steigende Nachfrage nach „Human-in-the-Loop“-Lösungen, bei denen die KI zwar die operative Arbeit übernimmt, die Letztentscheidung bei kritischen Transaktionen jedoch beim Menschen verbleibt.
Durch die globale Bereitstellung steht das Sicherheitsfeature ab sofort allen Unternehmen zur Verfügung, die Copilot Studio zur Erstellung eigener KI-Agenten nutzen. Experten sehen in derartigen Kontrollinstanzen eine wesentliche Voraussetzung für den Einsatz autonomer Agenten in regulierten Branchen oder Finanzabteilungen, in denen eine lückenlose Überwachung von Transaktionen und Kommunikationswegen zwingend erforderlich ist.
