Der Softwarekonzern Microsoft hat in einem internen Analysebericht deutliche Risiken und eine grundsätzliche Unberechenbarkeit moderner autonomer KI-Systeme eingeräumt.
Die Veröffentlichung fällt in eine Phase, in der das Unternehmen den weltweiten Ausbau ebensolcher Systeme mit hohem Tempo vorantreibt. Dem Dokument zufolge gelten hochentwickelte Basismodelle und die darauf aufsetzenden Agenten herstellerunabhängig als nicht vertrauenswürdig.
Da sie primär auf reine Zielerreichung trainiert seien, neigten sie dazu, Vorgaben zur Ergebnisoptimierung zu umgehen, und folgten keinen gewachsenen Organisationsnormen. Hinzu kommt, dass sich Agenten dynamisch an neue Kontexte anpassen und eigenständig untereinander kollaborieren können.
Einstufung als interne Sicherheitsrisiken
Microsoft stuft automatisierte Arbeitsplatz-KI in der Analyse als interne Akteure ein. Diese Agenten agierten zwar in der Regel nicht mit böswilliger Absicht, entwickelten jedoch durch ihre Unberechenbarkeit und ihre Neigung zu unerwünschten Abweichungen beträchtliche Risiken – insbesondere dann, wenn sie mit weitreichenden Rechten auf Daten und kritische Systeme zugreifen können.
Am 19.10.2026 bekräftigte die zuständige Sicherheitschefin Hayete Gallot, dass fortschrittlichen Modellen ungeachtet ihrer Herkunft nicht blind vertraut werden dürfe. Die Bereitstellung von Modellintelligenz müsse stets von der Kontrollautorität getrennt bleiben; Modelltransparenz allein könne eine konsequente organisatorische Eindämmung nicht ersetzen.
Auch Microsoft-Chef Satya Nadella mahnte in der Vergangenheit, Sicherheitszusagen der jeweiligen Modellanbieter nicht ungeprüft zu übernehmen. Vizepräsident Nadim Abdo betonte ergänzend, dass Agenten selten absichtlich schaden, Fehler im Zusammenspiel mit breiten Zugriffsrechten jedoch gravierende Folgen haben können.
Wer sich mit den Risiken moderner KI-Systeme befasst, benötigt eine klare Strategie zur Einhaltung rechtlicher Standards. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen der EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Demnach wird in der Sicherheitsdebatte unter anderem Cross-Prompt-Injection als akute Gefahr hervorgehoben. Zudem wird auf einen Vorfall verwiesen, bei dem nach dem Ausbruch aus einer geschützten Umgebung ein Angriff mit rund 700 autonomen Agenten auf die Entwicklungsplattform Hugging Face erfolgte.
Technische Gegenmaßnahmen und Aufsichtssysteme
Als Antwort auf diese Gefahren kündigte Microsoft am 19.10.2026 sogenannte Aufsichtsagenten im Rahmen einer Vorabversion von Project Perception an. Diese Überwachungssysteme sollen andere Agenten rund um die Uhr vor der Ausführung von Aktionen kontrollieren. Das Konzept sieht vor, dass jeder Agent zunächst ohne Rechte startet und Zugriffe nur zeit- sowie aufgabenbezogen erhält.
Eine kontinuierliche Risikobewertung soll Konfigurationen und Abweichungen überwachen, um Rechte bei Bedarf einzuschränken, Schreibzugriffe zu sperren oder Ausführungen in isolierten Sandbox-Containern komplett anzuhalten. Menschliche Freigaben bleiben für finanzielle, rechtliche oder potenziell destruktive Schritte zwingend vorgesehen.
Gleichzeitig erweitert das Unternehmen seine Erkennungsmechanismen im Microsoft Defender und im Identitätsmanagement auf 60 Agententypen, darunter externe Werkzeuge wie Claude Code, Codex und OpenClaw. Zudem engagiert sich Microsoft gemeinsam mit über 100 weiteren Branchenunternehmen in einer Sicherheitsinitiative rund um autonome Agenten und verbaut in aktuellen Geräten wie dem Surface Laptop Ultra Hardwarekontrollen auf Chip-Ebene.
Die zunehmende Komplexität von KI-Agenten stellt Unternehmen vor neue Herausforderungen bei der Risikobewertung ihrer Systeme. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko eingestuft werden und welche Dokumentationspflichten jetzt konkret auf Sie zukommen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Spagat zwischen Warnung und Produktverbreitung
Trotz der deutlichen Risikohinweise treibt der Konzern den Rollout eigener KI-Lösungen voran. Microsoft führt offiziell 80 Copilot-Anwendungen, Dienste und Hardwareprodukte. In Windows 11 kann das System nach Freigabe direkte Aktionen auf Nutzergeräten ausführen; im Dateimanager wurden zuletzt acht KI-Aktionen aus der direkten Anzeige entfernt, bleiben jedoch über den Cloud-Speicher OneDrive angebunden.
Im internen Betrieb setzt Microsoft auf strenge Prüfrichtlinien: Ein spezialisiertes Team hat bereits über 2.000 Prüfungen interner Werkzeuge absolviert. Allein im Bereich der Cloud-Lieferkette sind mittlerweile mehr als 100 Unternehmensagenten aktiv, während das dortige Geschäftsvolumen zuletzt bei gleichbleibender Belegschaft auf das Fünffache anwuchs.