Ein großer Teil der IT-Infrastruktur läuft ja in Microsofts Cloud und wird per Entra ID verwaltet. Die Tage bin ich auf einen Blogbeitrag gestoßen, der zeigt, wie KI, JavaScript-Browser-Automatisierung und Microsoft Graph-API-Aufrufe genutzt werden können, um die böswillige Löschung und Sperrung von Entra ID-Mandanten zu automatisieren.
Ransomware für die Cloud?
Es war der nachfolgende Tweet, der mich aufmerken ließ und zum Beitrag Automating Entra ID tenant destruction with AI des Sicherheitsanbieters Netwrix führte.
Die netwrix Sicherheitsspezialisten haben sich die Frage gestellt, was ein Browser mit Javascript und etwas AI über die Microsoft Graph API-Schnittstelle bei einem Entra ID-Tenant anrichten kann, wenn das missbraucht wird.
MS Graph Explorer und Zutaten für böswillige Aktionen
Der Microsoft Graph Explorer ist ein browserbasiertes Tool zum Senden von Microsoft Graph-API-Anfragen an einen Entra ID-Mandanten. Er wird in der Regel von Administratoren und Entwicklern genutzt, um API-Aufrufe zu testen, Antworten zu überprüfen und zu ermitteln, welche Berechtigungen erforderlich sind.
Für ihr Experiment haben die Sicherheitsspezialisten von netwrix Claude for Chrome zum Zugriff auf eine AI verwendet. Zudem war im Browser JavaScript aktiviert. Mit "Claude for Chrome" wird Claude als AI-Lösung direkt in den Browser integriert, wo es mit Webseiten interagieren, UI-Elemente untersuchen und bei der Ausführung von Aktionen helfen kann. Alles passiert über dieselbe Oberfläche, die ein Benutzer normalerweise manuell nutzen würde.
In Kombination mit den Chrome-Entwicklertools und browserseitigem JavaScript gehen die Möglichkeiten über einfache Eingabeaufforderungen hinaus und ermöglichen die Automatisierung von Arbeitsabläufen innerhalb des Graph Explorers. Damit war eine KI-gestützte Browser-Automatisierung möglich, die den Microsoft Graph Explorer in eine zerstörerische Entra ID-Verwaltungsschnittstelle verwandeln kann.
Voraussetzung ist lediglich, dass das Ganze unter einem angemeldeten Benutzerkonto, welches bereits über einen privilegierten Zugriff verfügt, ausgeführt wird. Beim KI-Einsatz in Unternehmen kein wirklichkeitsfremdes Szenario mehr. Dann reichten Microsoft Graph-Batch-Anfragen, um zerstörerische Aktionen wie das Löschen von Benutzern, das Deaktivieren von Konten, das Zurücksetzen von Passwörtern, das Widerrufen von Sitzungen und das Entfernen von Richtlinien für den bedingten Zugriff (Conditional Access) direkt aus der Browsersitzung heraus automatisieren. Details lassen sich dem verlinkten Artikel entnehmen.
MVP: 2013 – 2016
Die Angriffsvektoren XSS/CSRF/u.ä. müssen da wohl neu gelernt werden.
Admins strikt getrennt und ohne KI‑Plugins arbeiten lassen und wichtige Entra‑Einstellungen so absichern, dass niemand sie schnell löschen oder missbrauchen kann. Damit ist der größte Teil des Risikos weg.
@Bärbel Patzig schreibt: "ohne KI‑Plugins arbeiten lassen" –> Risiko weg.
Dieser Zusammenhang stimmt zwar, aber wo bleibt denn da der ökonomische Fortschritt. Der "Chef" will doch gerade Effizienzgewinne sehen, fordert aktiv zur Nutzung von KI auf (natürlich immer mit "Human in the loop") und glaubt damit das Risiko im Griff zu haben.
zu "Entra‑Einstellungen so absichern, dass niemand sie schnell löschen oder missbrauchen kann"
Kennst Du da Einstellungen, die das ermöglichen? Link dazu?
Wenn man MFA + Conditional Access + PIM + restriktive App Registrierungen + Gastkontrolle + Audit Logs absichert.
@Bärbel Patzig: Deine Erwähnungen sind jetzt nicht gerade "Geheimtipps" ;-)
Letztendlich sind das alles "Best practices", aber wie so oft im Leben – man muss sie halt auch in der Praxis anwenden – und das kostet Kraft und Ressourcen.
Waghalsige Idee:
Das Folgende komplett so kopieren und damit zum Copiloten – der spuckt dir was aus, was aber mit Vorsicht zu genießen ist – ohne Gewähr (durchlesen schadet aber nicht):
Wichtige Entra-Einstellungen so absichern, dass niemand sie schnell löschen oder missbrauchen kann – zeige mir diese Einstellungen.
—
Nach dem lesen, vielleicht noch den Piloten fragen:
Zeige mir die entsprechenden Links dazu, oder: gibt es entsprechende Links dazu?
Viel Glück
Wenn man zur Angabe von Quellen aufgefordert wird, einfach an die Microslop KI verweisen.
Den merke ich mir, das ist ja noch fauler, als einfach die Links aus dieser zu kopieren.
@Bärbel Patzig: Ich hab's tatsächlich gewagt und war so mutig, Copilot zu fragen ;-)
Keine schlechten Antworten. Sie decken sich mit Deinen Vorschlägen.
"Geheimtipps" waren allerdings nicht dabei 😁.
Egal: Mein Fazit: Es braucht Zeit, Wissen und Energie, all die Schutzmechanismen (und es sind nicht wenig!) umzusetzen.
Sobald es einen öffentlichen Link dazu gibt kennt Claude den Trick auch.
Er will ja nur spielen und macht hier genau das was man ihm sagt:
Wir sparen sämtliche Lizenzgebühren ein indem wir alle Accounts auf einmal löschen. Effizienter geht es ja nicht, oder? ;)
Chefs die immer noch meinen man könnte mit KI einfach mal so Kohle einsparen werden die Realität halt noch auf die harte Tour kennen lernen müssen.
Der verlinkte Netwrix-Artikel beschreibt eindrucksvoll, wie stark sich die "Werkzeuge" von Hackern verbessern/beschleunigen/optimieren lassen.
Wichtig: Der Bericht zeigt keine Sicherheitslücke von EntraID auf, denn die Voraussetzung für das Löschen/Sperren von Accounts, Registered Apps, Conditional access polices … war: "once the right permissions are already available."
Ich würde das Vorgehen eher als optimistischen (oder je nach Einschätzung pessimistischen) Hinweis für jetzige/zukünftige IT-Administratoren lesen: Was beim "Bösen" die Arbeit beschleunigt, gilt natürlich auch für den "Guten".
Für mich war klar, dass es keine Sicherheitslücke in Entra ID ist. Aber ich höre doch immer, dass Alle KI nutzen sollen und müssen – Administratoren nicht ausgeschlossen. Manche CEOs sieben doch das Personal – "wer keine KI nutzt, fliegt". Und dann fange ich an, 1+1 zusammen zu zählen und das zu berücksichtigen, was ich über KI-Agenten und deren Sicherheitsrisiken gelernt habe. Netwrix hat es dann mal praktisch aufgezeichnet, was geht.
Natürlich kann ich Administratoren verbieten, KI in ihren Konten zur Entra ID-Tenant-Verwaltung zu verwenden. Aber wie läuft es in der Praxis … ?
@Günter: Sprichst Du die Gefahr an, dass eine KI – eingesetzt von "guten" Administratoren – auch "Amok laufen" kann?
Falls ja, zeigt der Bericht, wie "schlau" die KI geworden ist, um z.B. Token zu re-usen, Schritte zu parallelisieren etc.
So schnell kann man gar nicht schauen, und die KI hat es ausgeführt.
Zwar spricht man immer vom "Human in the loop", aber wie ein Admin diese Raffinesse, Schnelligkeit und Komplexität wirklich kontrollieren soll, das wird noch die größte Herausforderung für die Zukunft.
"angemeldeten Benutzerkonto, welches bereits über einen privilegierten Zugriff"
Da hab ich dann aufgehört zu lesen. Ja, man muss aufpassen, wem man wie lange welche Rechte gibt. Housekeeping. Normaler Admin-Job.
Ich fühle mich in meinen JOB dank KI wie ein Esoteriker,inn…..was läuft gerade falsch? Google und Co. funktioniert nicht mehr…. Ich glaube ich gehe Richtung Hardwarentwicklung….
KI ist doch super, das Unternehmensnetz ohne Entra aber sicherer.
Man muss das Beste aus beiden Welten holen.