Branchenberichten zufolge können KI-Assistenten wie Microsoft 365 Copilot übermäßig freigegebene Daten in SharePoint, Teams und E-Mails auffinden und offenlegen. Dies geschieht insbesondere dann, wenn Berechtigungen und Sicherheitsrichtlinien innerhalb der Organisationen nicht korrekt konfiguriert sind.
Da die KI-Systeme auf bestehende Zugriffsrechte aufbauen, werden Informationen, die für einzelne Nutzer eigentlich nicht zugänglich sein sollten, durch die automatisierten Such- und Analysefunktionen der Assistenten sichtbar gemacht.
Steigende Kosten und mangelnde Zugriffskontrollen
Die finanziellen Folgen mangelhafter KI-Sicherheit nehmen laut aktuellen Analysen zu. Wie aus dem IBM Cost of a Data Breach Report 2026 hervorgeht, waren 25 % der untersuchten böswilligen Datenpannen KI-gestützt, was einer Steigerung von 56 % gegenüber dem Vorjahr entspricht.
Solche Vorfälle verursachten durchschnittliche Kosten von 6 Mio. US-Dollar, während der globale Durchschnitt bei 4,99 Mio. US-Dollar lag. IBM stellte zudem fest, dass 92 % der Organisationen, die von einer KI-bezogenen Datenpanne betroffen waren, über keine wirksamen KI-Zugriffskontrollen verfügten.
Demgegenüber konnten Unternehmen, die KI und Automatisierung in ihren Sicherheitsabläufen einsetzten, durchschnittlich 1,93 Mio. US-Dollar je Datenpanne einsparen.
Angesichts steigender Kosten durch Datenpannen im KI-Kontext müssen Unternehmen ihre Compliance-Strategie dringend anpassen. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, Risikoklassen richtig einzuschätzen und die notwendige Dokumentation rechtssicher zu erstellen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Eine Cisco-Umfrage unter 3.472 IT-Führungskräften von Anfang des Jahres verdeutlicht die wachsende Besorgnis in der Branche. Demnach nannten 72 % der Befragten erhöhte Sicherheitsrisiken oder eine größere Angriffsfläche als Haupttreiber für eine Modernisierung ihrer KI-Netzwerke. 71 % der IT-Entscheider erwarten, dass KI-gestützte Bedrohungen die bestehenden Kontrollmechanismen überholen werden.
Mehr als 76 % rechnen mit weiter steigenden Sicherheitsrisiken durch künstliche Intelligenz, während fast 70 % über wachsende Blindstellen im Netzwerk berichteten. Trotz der Einführung KI-spezifischer Kontrollen bei fast 90 % der Unternehmen hält die Mehrheit diese für unzureichend. Infolgedessen warten 61 % der Befragten mit einer weiteren Ausweitung der KI-Nutzung.
Herausforderungen durch unkontrollierte KI-Tools
Die Aufsicht über eingesetzte KI-Werkzeuge erweist sich als problematisch. Ein Bericht von Reco zum Status der Agenten-Sicherheit zeigt, dass nur 20 % der KI-Tools in Unternehmen aktiv von der IT-Abteilung kontrolliert werden.
Die restlichen 80 % laufen ohne entsprechende Aufsicht. Bei der Untersuchung von 500 MCP-Servern wurde festgestellt, dass 62 % den lokalen Dateizugriff mit einer ausgehenden Netzwerkverbindung kombinierten, was ein erhebliches Sicherheitsrisiko darstellt.
Reco erfasste zudem 637 Schwachstellenmeldungen zu Agenten- und LLM-Tools, von denen 525 in den letzten 18 Monaten gemeldet wurden. Die monatlichen Meldungen stiegen von weniger als fünf in den Jahren 2023 und 2024 auf etwa 29 seit Januar 2025.
Wer sich mit der Absicherung von Netzwerken und dem Schutz vor KI-gestützten Bedrohungen befasst, sollte auch die aktuellen gesetzlichen Anforderungen kennen. Ein kostenloser Report klärt auf, welche neuen Pflichten auf Unternehmer zukommen und wie man proaktiv Sicherheitslücken schließt. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Im Einzelhandel zeigt sich eine Verschiebung bei der Nutzung. Eine Auswertung von Netskope für den Zeitraum von Juli 2025 bis Juli 2026 ergab, dass der Anteil der Beschäftigten, die nicht genehmigte KI-Tools nutzen, von 70 % auf 44 % sank.
Gleichzeitig stieg die Nutzung offiziell genehmigter Werkzeuge von 40 % auf 73 %. Dennoch nutzen etwa zwei Drittel der Angestellten eigenständige KI-Tools. Bei Verstößen gegen Datenrichtlinien im Zusammenhang mit KI betrafen 56 % regulierte Daten, 20 % Quellcode und 16 % Passwörter oder API-Schlüssel.
Microsofts Anpassungen bei Copilot und Sicherheitsarchitektur
Microsoft hat kürzlich eine umfassende Überarbeitung des Copilot-Systems vorgenommen. KI-Agenten erhalten nun eigene Entra-Identitäten sowie Zugriff auf E-Mail, Kalender, OneDrive und Teams.
Der Dienst wurde in die Modi Home, Code und Autopilot unterteilt, wobei der früher als Scout bekannte Agent nun unter der Bezeichnung Autopilot geführt wird. Dieser erhält eigene Berechtigungen und Audit-Logs; sensible Aktionen können zudem eine menschliche Freigabe erfordern. Die Abrechnung für bestimmte Dienste wie Work IQ APIs erfolgt über sogenannte Copilot Credits.
Laut Microsoft-Präsident Brad Smith seien eine verstärkte Überwachung von Agenten, Ausgabenlimits und mehrstufige Abschaltmöglichkeiten notwendig, um die Sicherheit zu gewährleisten.
In einem Pilotprojekt zur Beweissicherung im Rahmen von Compliance-Audits konnte die Bearbeitungszeit durch den Einsatz von Copilot von 4,2 Stunden auf 18 Minuten gesenkt werden. Microsoft empfiehlt für solche Prozesse eine Mindestkonfidenz von 85 % sowie die Nutzung nachvollziehbarer Quellenbelege und Audit-Logs.
Um die Sicherheitsinfrastruktur zu stärken, wurde zudem das Integrated Security Operations Center (ISOC) in Microsoft Defender vorgestellt, das Funktionen wie Fallmanagement und Automatisierung integriert. Dennoch zeigen aktuelle Vorfälle die Verwundbarkeit der Cloud-Infrastrukturen.
So nutzte die Gruppe Storm-3168 kompromittierte Azure-Service-Principals für Leseoperationen und Angriffe auf Azure Storage und Key Vault. Das australische Cyber Security Centre veröffentlichte jüngst eine entsprechende Warnung zu den Risiken.
Experten raten Unternehmen dazu, vor dem breiten KI-Einsatz Daten konsequent zu klassifizieren, Sensitivitätslabels zu vergeben und die Berechtigungen umfassend zu prüfen. Die Überwachung von Insider-Risiken sollte dabei gezielt und verhältnismäßig erfolgen, um eine saubere Datenbasis für die KI-gestützte Sicherheitsüberwachung zu schaffen.
