{"id":298229,"date":"2024-08-11T00:01:00","date_gmt":"2024-08-10T22:01:00","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=298229"},"modified":"2024-08-11T07:22:02","modified_gmt":"2024-08-11T05:22:02","slug":"blackhat-2024-remote-code-execution-angriff-auf-m365-copilot-per-e-mail","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2024\/08\/11\/blackhat-2024-remote-code-execution-angriff-auf-m365-copilot-per-e-mail\/","title":{"rendered":"BlackHat 2024: Remote Code Execution-Angriff auf M365 Copilot per E-Mail"},"content":{"rendered":"<p><img decoding=\"async\" style=\"float: left; margin: 0px 10px 0px 0px; display: inline;\" title=\"Sicherheit (Pexels, allgemeine Nutzung)\" src=\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/04\/Sicherheit_klein.jpg\" alt=\"Sicherheit (Pexels, allgemeine Nutzung)\" width=\"200\" align=\"left\" \/>[<a href=\"https:\/\/borncity.com\/win\/2024\/08\/11\/blackhat-2024-remote-code-execution-attack-on-m365-copilot-via-email\/\" target=\"_blank\" rel=\"noopener\">English<\/a>]Nettes Thema zum Sonntag: Microsoft dr\u00fcckt ja seinen Copilot in Microsoft 365 auf die Anwenderschaft. Da kann jeder Mann und jede Frau etwas in AI machen &#8211; ob's gebraucht wird, ist zweitrangig. Vergr\u00f6\u00dfert nat\u00fcrlich die Angriffsoberfl\u00e4che und Administratoren m\u00fcssen sich Gedanken um die Absicherung machen. Auf der BlackHat 2024 hat Michael Bargury RCE-Angriffe auf M365 Copilot gezeigt &#8211; eine E-Mail reicht, um Sensitives zu suchen. Insgesamt stellt Bargury f\u00fcnf verschiedene Angriffsmethoden auf Microsofts AI-L\u00f6sungen vor. Hier mal ein kurzer Abriss zu diesem Thema.<\/p>\n<p><!--more--><\/p>\n<h2>Microsoft Copilot, Schlaraffenland f\u00fcr Angreifer?<\/h2>\n<p><img loading=\"lazy\" decoding=\"async\" src=\"https:\/\/vg09.met.vgwort.de\/na\/35539a38a96944b6a951513154c50d94\" alt=\"\" width=\"1\" height=\"1\" \/>Microsoft wird ja nicht m\u00fcde, seinen Copilot in die Anwenderschaft zu dr\u00fccken. Und die Unternehmen implementieren in rasantem Tempo die KI-basierten Chatbots von Microsoft Copilot. Die Hoffnung ist, aus diesen Chatbots bzw. AI-Modellen besser Daten zu sammeln und die Arbeitsorganisation der Mitarbeiter zu verbessert.<\/p>\n<p>Aber AI-L\u00f6sungen wie Microsofts Copilot, der in MS365 steckt, sind auch ein ideales Werkzeug f\u00fcr Bedrohungsakteure. Der Sicherheitsforscher Michael Bargury ist ein ehemaliger Senior Security Architect im Azure Security CTO Office von Microsoft und jetzt Mitbegr\u00fcnder und Chief Technology Officer von Zenity. Bargury sagt, dass Angreifer Copilot nutzen k\u00f6nnen, um nach Daten zu suchen, und sie zu exfiltrieren, ohne Protokolle zu erstellen, und Opfer auf Phishing-Seiten zu lenken, selbst wenn sie keine E-Mails \u00f6ffnen oder auf Links klicken.<\/p>\n<h2>Blackhat 2024: Die Sache mit den CoPilot-RCEs<\/h2>\n<p>Ich bin Donnerstag auf Freitag-Nacht auf nachfolgenden <a href=\"https:\/\/x.com\/mbrg0\/status\/1821551825369415875\" target=\"_blank\" rel=\"noopener\">Tweet<\/a> des Nutzers <em>mgb<\/em> gesto\u00dfen, der mich neugierig machte. Die Aussage des Nutzers <em>mb<\/em>g (steht f\u00fcr Michael Bargury) lautete: \"Wir haben eine RCE auf M365 Copilot durch Senden einer E-Mail.\"<\/p>\n<p><a href=\"https:\/\/x.com\/mbrg0\/status\/1821551825369415875\" target=\"_blank\" rel=\"noopener\"><img decoding=\"async\" title=\"CoPilot RCE\" src=\"https:\/\/i.postimg.cc\/gJPVfqpS\/image.png\" alt=\"CoPilot RCE\" \/><\/a><\/p>\n<p>Im Tweet ist ein Video eingebettet, welches den Remote Code Angriff (RCE) zeigen soll. Die per Mail \u00fcbermittelten Schadfunktionen nutzen Remote Code Execution (RCE) zur Suche nach sensiblen Inhalten (in Sharepoint, E-Mail, Kalender, Teams), zur Ausf\u00fchrung von Plugins und f\u00fcr Ausgaben, zum Umgehen von Data Loss Prevention (DLP) Kontrollen, oder um Verweise zu manipulieren, sowie im Namen des Nutzers Social Engineering zu betreiben.<\/p>\n<h2>Mehr Details f\u00fcr Interessierte<\/h2>\n<p>In Folge-Tweets versprach Michael Bargury seine Reverse-Engineering-Erkenntnisse von Copilot, die RCE-Methode, das \u00dcbermitteln von Nutzlasten und weiteren Bl\u00f6dsinn vorzustellen. Er wollte auch LOLCopilot vorstellen, ein Modul, mit dem Nutzer das selbst ausprobieren k\u00f6nnen. Es handelt sich um die Inhalte eines Vortrags, den er auf der BlackHat 2024-Konferenz gehalten hat.<\/p>\n<p>Zum Thema Angriff auf MS365 Copilot gibt es m.W. noch nicht all zu viel Material im Internet. Ich habe daher noch kurz recherchiert und die Folge-Tweets durchgesehen.<\/p>\n<p>Jeffry Schwarz hat zeitnah zum 8. August 2024 auf Darkreading den Artikel <a href=\"https:\/\/www.darkreading.com\/application-security\/how-to-weaponize-microsoft-copilot-for-cyberattackers\" target=\"_blank\" rel=\"noopener\">How to Weaponize Microsoft Copilot for Cyberattackers<\/a> ver\u00f6ffentlicht. Der Artikel gibt die Ausf\u00fchrungen von Michael Bargury auf der BlackHat 2024-Konferenz wieder.<\/p>\n<p>Michael Bargury selbst hat die Informationen zu Angriffstechniken aus seinem BlackHat 2024-Vortrag \"Living off Microsoft Copilot\" in <a href=\"https:\/\/labs.zenity.io\/p\/links-materials-living-off-microsoft-copilot\" target=\"_blank\" rel=\"noopener\">diesem Artikel<\/a> verlinkt. Es gibt diverse Videos, die die Angriffstechniken wie:<\/p>\n<ul>\n<li>Copilot per RCE dazu zu bringen, sensible Daten \u00fcber Bing-Suchergebnisse zu suchen, zu analysieren und zu exfiltrieren.<\/li>\n<li>Copilot per RCE dazu zu bringen, Bankdaten zu manipulieren und dabei die urspr\u00fcnglichen Dateiverweise f\u00fcr die Vertrauensw\u00fcrdigkeit beizubehalten.<\/li>\n<li>Copilot per RCE dazu zu bringen, seine Nutzer auf unsere b\u00f6sartige Phishing-Website zu locken.<\/li>\n<\/ul>\n<p>demonstrieren. Das Ganze ist quasi der Alptraum eines jeden Sicherheitsverantwortlichen in einem Unternehmen. Dieser versucht, die L\u00f6cher mit Data Loss Prevention (DLP) zu stopfen. Und dann kommt Microsoft mit seiner \"<a href=\"https:\/\/borncity.com\/blog\/2023\/11\/05\/microsoft-ankndigung-einer-secure-future-initiative\/\">Microsoft Ank\u00fcndigung einer Secure Future Initiative<\/a>\" um die Ecke, macht Sicherheit zur Top Priorit\u00e4t (siehe <a href=\"https:\/\/borncity.com\/blog\/2024\/05\/04\/microsoft-macht-ab-sofort-security-zur-top-prioritt\/\">Microsoft macht ab sofort Security zur Top Priorit\u00e4t<\/a>) und dr\u00fcckt den Nutzern mit CoPilot ein Tool auf's Auge, welches ein Schlaraffenland f\u00fcr Cyberangreifer darstellt. Genau mein Humor &#8211; oder ich muss was grundlegend falsch verstanden haben.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>[English]Nettes Thema zum Sonntag: Microsoft dr\u00fcckt ja seinen Copilot in Microsoft 365 auf die Anwenderschaft. Da kann jeder Mann und jede Frau etwas in AI machen &#8211; ob's gebraucht wird, ist zweitrangig. Vergr\u00f6\u00dfert nat\u00fcrlich die Angriffsoberfl\u00e4che und Administratoren m\u00fcssen sich &hellip; <a href=\"https:\/\/borncity.com\/blog\/2024\/08\/11\/blackhat-2024-remote-code-execution-angriff-auf-m365-copilot-per-e-mail\/\">Weiterlesen <span class=\"meta-nav\">&rarr;<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[426,7459],"tags":[8393,4328,3836],"class_list":["post-298229","post","type-post","status-publish","format-standard","hentry","category-sicherheit","category-software","tag-copilot","tag-sicherheit","tag-software"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/298229","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=298229"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/298229\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=298229"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=298229"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=298229"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}