{"id":295493,"date":"2024-05-22T15:51:39","date_gmt":"2024-05-22T13:51:39","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=295493"},"modified":"2024-05-23T10:38:36","modified_gmt":"2024-05-23T08:38:36","slug":"microsofts-sicherheitsrisiko-recall-openai-und-weitere-ki-informationssplitter-teil-2","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2024\/05\/22\/microsofts-sicherheitsrisiko-recall-openai-und-weitere-ki-informationssplitter-teil-2\/","title":{"rendered":"Microsofts Sicherheitsrisiko Recall, OpenAI und weitere KI-Informationssplitter – Teil 2"},"content":{"rendered":"

[English<\/a>]Mit dem zum 20. Mai 2024 vorgestellten \"Copilot+PC\" Konzept macht Microsoft zwar das n\u00e4chste gro\u00dfe Fass (Hardware mit AI-Support und Copilot) auf. Aber ich bin mich nicht so sicher, ob der Schuss nicht nach hinten los geht. Sicherheitsforscher laufen Sturm gegen die \"Recall\"-Funktion, die st\u00e4ndig Screenshots von allem, was auf dem System passiert, machen und per AI auswerten lassen soll. Derweil hat die EU-Kommission eine Untersuchung gegen Microsoft eingeleitet, und will wissen, ob die Sicherheitsanforderungen mit Blick auf AI-Risiken eingehalten werden. Hier ein Blick auf diese Gemengelage.<\/p>\n

<\/p>\n

Wird Recall zum Sicherheitsdesaster?<\/h2>\n

\"\"In Teil 1 (Microsofts AI-PC mit Copilot \u2013 KI-Informationssplitter<\/a>) hatte ich das von Microsoft vorgestellte \"Copilot+PC\" Konzept thematisiert und am Rande die sogenannte Recall-Funktion erw\u00e4hnt. Diese erm\u00f6glicht es Windows, st\u00e4ndig Screenshots vom Bildschirm des Benutzers zu machen und ein generatives KI-Modell zu verwenden, um die Daten zu verarbeiten und sie durchsuchbar zu machen. Das ist dann die ultimative Wanze in jedem PC. Bewog Elon Musk zur Empfehlung, dass die Nutzer auf Linux wechseln sollen.<\/p>\n

Satya Nadella, Chef von Microsoft, sagte zwar w\u00e4hrend eines Interviews, wo er die AI-PCs vorstellte und nach den Bedenken der Menschen bez\u00fcglich dieser Recall- Funktion gefragt wurde: \"Man muss zwei Dinge zusammenbringen. Das ist mein Computer, das ist mein Recall, und das wird alles lokal gemacht. Das ist also das Versprechen. Das ist einer der Gr\u00fcnde, warum Recall wie eine magische Sache funktioniert, denn ich kann darauf vertrauen, dass es auf meinem Computer ist.\"<\/p>\n

Benutzer sollen die Funktion Recall auch davon abhalten k\u00f6nnen, Screenshots zu machen, falls sie um ihre Privatsph\u00e4re besorgt sind oder die Funktion nicht nutzen wollen. Martin Geu\u00df hat in diesem Artikel<\/a> mal die technische Dokumentation zu Recall<\/a> verlinkt, in der Microsoft viel von \"Privacy\" erz\u00e4hlt.\u00a0 Martin schreibt, dass Recall alle f\u00fcnf Sekunden einen Screenshot aufnimmt und abspeichert. Und nach der Ersteinrichtung von Windows sei Recall standardm\u00e4\u00dfig eingeschaltet.<\/p>\n

\"Surveillance<\/a><\/p>\n

vx-underground, die sich mit Ransomware und Sicherheit befassen, haben es in obigem Tweet<\/a> auf den Punkt gebracht: \"Microsoft f\u00fchrt eine 24\/7-\u00dcberwachungsfunktion f\u00fcr die NSA und\/oder CIA ein, vermarktet sie aber als eine Funktion, die den Leuten gefallen wird\". Im Tweet ist das Interview von Nadella verlinkt. Und Sicherheitsforscher Kevin Beaumont zerrei\u00dft in einer Reihe Tweets<\/a> das Konzept von Recall als das d\u00fcmmste, was es jemals gegeben habe.<\/p>\n

<\/a><\/p>\n

Aktuell w\u00fcrde InfoStealer-Malware die gespeicherten Kennw\u00f6rter der Nutzer speichern. K\u00fcnftig sei CoPilot Recall die \"Malware\", die alles stiehlt, was der Nutzer jemals am Rechner eingegeben oder angesehen habe, und das dann in einer bereits angelegten Datenbank speichert. Es reicht, einfach die Recall-Datenbank anstatt nur die lokale Browser-Passwortdatenbank, abzuziehen, um auf die Kronjuwelen zuzugreifen. Finanzdaten, Chats usw. liegen offen herum und sind sehr wertvoll.<\/p>\n

Beaumont hat diesen Beitrag<\/a> auf Double-Pulsar ver\u00f6ffentlicht und zeigt, wie Microsoft die Sicherheit von Windows mit Recall unterminiert. In obigem Tweet spielt Beaumont mit dem Satz \"Earlier this month, the person who demo'd this wrote in a memo to staff \"If you're faced with the tradeoff between security and another priority: do security\"\" auf das Versprechen Microsofts an, k\u00fcnftig Sicherheit ernst zu nehmen (siehe Microsoft macht ab sofort Security zur Top Priorit\u00e4t<\/a>).<\/p>\n

Wie meint Kevin Beaumont: \"Danke, Microsoft, dass Sie b\u00f6swilligen Hackern den Weg ebnen.\" und gibt auf X an, dass ein einfacher PowerShell-Befehl reicht<\/a>, um Recall wieder einzuschalten. Und in diesem Tweet<\/a> schreibt Beaumont dass der Copilot+Recall jetzt in Microsoft Intune global aktiviert sei, wenn man ein Copilot+-kompatibles Ger\u00e4t verwendet. Nutzer m\u00fcssen die Funktion manuell in den Benutzereinstellungen deaktivieren (siehe auch<\/a>).<\/p>\n

Auch von Malwarebytes wird in einem Tweet<\/a> auf die Gefahren von Recall hingewiesen, da alles aufgezeichnet wird. Mitja Kolsek von ACROS Security schreibt in einem Tweet<\/a> \"Etwas sagt mir, dass @0patch [etwas f\u00fcr] viele Kunden haben wird, die f\u00fcr immer bei Windows 10 bleiben wollen.\" ACROS Security bietet ja ein Micropatching f\u00fcr Windows an, so dass das Betriebssystem Windows 10 nach dem offiziellen Supportende von Windows 10 sicher betrieben werden kann.<\/p>\n

Elon Musk hatte ja auf Linux hingewiesen (siehe oben). In diesem Tweet<\/a> meint jemand, dass \"der letzte Winkelzug von Microsoft ein guter Grund sei, Windows abzuschreiben. Wechseln Sie zu macOS (es sei denn, Apple plant auch diesen Wahnsinn) oder Linux\" hei\u00dft es auch dort. Microsoft habe die Orientierung verloren und man k\u00fcmmert sich nicht mehr um die Sicherheit oder Privatsph\u00e4re ihrer Nutzer.<\/p>\n

\"Windows<\/a><\/p>\n

Und Sven Herbig meint in diesem Tweet<\/a>: \"Von 'Sicherheit wird oberste Priorit\u00e4t' zu 'unsere Software wird Spionage und \u00dcberwachung auf ein neues Level heben' in unter einem Monat. Sportlich, Microsoft.\"<\/p>\n

EU schaut bei Microsoft Bing genauer hin<\/h2>\n

Die EU-Kommission hat ein rechtsverbindlichen Auskunftsersuchen an Microsoft gegen deren Suchmaschine Bing gestellt. Es geht um Ausk\u00fcnfte bez\u00fcglich spezifischer Risiken bei CoPilot (basiert auf ChatGPT) in Bezug auf den Digital Service Act (DSA). heise hat das Ganz beispielsweise in diesem Beitrag<\/a> aufbereitet.<\/p>\n

Und Techcrunch weist hier<\/a> darauf hin, dass Microsoft eine Millionen-Strafe droht, wenn die gegen den DSA versto\u00dfen. Hintergrund ist, dass die EU-Kommission bereits im M\u00e4rz 2024 von Microsoft und einer Reihe anderer Tech-Giganten Informationen \u00fcber systemische Risiken, die von generativen KI-Tools ausgehen, angefertigt habe. Letzten Freitag (17.5.) erkl\u00e4rte die Kommission, Microsoft habe einige der angeforderten Dokumente nicht vorgelegt. In einer aktualisierten Version der Pressemitteilung der Kommission wurde jedoch die Formulierung ge\u00e4ndert und die fr\u00fchere Behauptung, die EU habe keine Antwort von Microsoft erhalten, gestrichen. In der \u00fcberarbeiteten Fassung hei\u00dft es, dass die EU die Durchsetzungsma\u00dfnahmen \"im Anschluss an ein erstes Auskunftsersuchen\" versch\u00e4rft. Die Kommission habe Microsoft eine Frist bis zum 27. Mai gesetzt, um die angeforderten Daten zu \u00fcbermitteln, hei\u00dft es. Da dr\u00e4ut noch was.<\/p>\n

Copilot als Sicherheitsrisiko<\/h2>\n

In diesem Kontext sind auch auch einige Informationen ganz aufschlussreich, die mir ein Leser bereits Ende April 2024 per Mail zukommen lie\u00df. \u00dcber den Radiobeitrag \"KI als Hacker – Verbreiten Chatbots fiese Computerviren?<\/a>\" vom 18.04.2024 ist der Leser auf dem Angriffsvektor \"Prompt Injection\" aufmerksam geworden. Der\u00a0 lokal auf dem eigenen Computer laufende Copilot kann durch gezielte Prompt Injection dazu verleitet werden, dass er die eigenen Daten preisgibt\/versendet, wenn man auf eine pr\u00e4parierte Internetseite st\u00f6\u00dft. Diese sch\u00e4dliche Webseite ist mit Anweisungen gef\u00fcttert, die vom Copilot lokal ausgef\u00fchrt werden.<\/p>\n

Der Leser hat die Internetseite \"Who Am I? Conditional Prompt Injection Attacks with Microsoft Copilot<\/a>\" vom 02.03.2024 verlinkt, die sich mit der Thematik befasst.\u00a0 Microsoft ist sich der Probleme bewusst, wie man dem Techcommunity-Beitrag \"Azure AI announces Prompt Shields for Jailbreak and Indirect prompt injection attacks<\/a>\" vom 28.03.2024 und dem Artikel \"Microsoft doesn't want you to use prompt injection attacks to trick Copilot AI into spiraling out of control, and it now has the tool to prevent this<\/a>\" vom 01.04.2024 entnehmen kann. In seinen FAQs<\/a> wie hier schwurbelt Microsoft um eine Antwort herum.<\/p>\n

Weitere AI-Splitter<\/h2>\n

Was ich von der hier<\/a> aufgegriffenen Warnung von KI-Koryph\u00e4en vor k\u00fcnstlicher Intelligenz halten soll, wei\u00df ich ehrlich gesagt nicht. Man h\u00f6rt dies, man h\u00f6rt das. Derweil gehen OpenAI einige K\u00f6pfe, die f\u00fcr die Sicherheit der AI-Modelle zust\u00e4ndig waren, von der Fahne. In diesem Wired-Beitrag<\/a> hei\u00dft es, dass das Team bei OpenAI, das sich mit den existenziellen Gefahren der KI befasste, aufgel\u00f6st habe. Die Leute haben entweder gek\u00fcndigt oder sind in anderen Forschungsgruppen aufgegangen. Jan Leike hat in einer Reihe von Tweets<\/a> seinen Webgang von OpenAI erkl\u00e4rt. Keine guten Aussichten. Golem widmet sich in diesem Artikel<\/a> dem Thema.<\/p>\n

\"Slack<\/a><\/p>\n

Stack Overflow k\u00e4mpft mit dem Deal, den sie mit OpenAI eingegangen sind, um die Inhalte der Nutzer Trainingszwecke bereitzustellen. Jetzt sabotieren Nutzer<\/a> bei Stack Overflow ihre Postings, um diese Daten unbrauchbar f\u00fcr eine Verwendung durch OpenAI zu machen. Der n\u00e4chste \u00c4rger k\u00f6nnte hier<\/a> drohen, da OpenAI ein Abkommen geschlossen hat, um Reddit-Inhalte auf ChatGPT zu bringen.<\/p>\n

Und Google-Nutzer sind von den AI-gest\u00fctzten Suchergebnisse gefrustet, wie ich k\u00fcrzlich bei Bleeping Computer las<\/a>. Es geht um KI-\u00dcbersichten, auch bekannt als \"Search Generative Experience\". Das\u00a0 ist Googles neue Suchfunktion, die Webinhalte mithilfe der hauseigenen LLM (Large Language Models) zusammenfasst. Laut Google sollen die KI-\u00dcbersichten nur dann angezeigt werden, wenn die Suchmaschine der Meinung ist, dass sie einen gr\u00f6\u00dferen Nutzen als herk\u00f6mmliche Links bieten. Seit Google dieses Feature aktiviert hat, haben viele Nutzer versucht, diese Funktion, wegen der h\u00e4ufigen falschen Ergebnis, zu deaktivieren. Das geht nicht.<\/p>\n

Ach ja, dass BSI hat eine Brosch\u00fcre Einfluss von KI auf die<\/a> ver\u00f6ffentlicht. Das sind nur einige Informationsh\u00e4ppchen rund um das Thema \"k\u00fcnstliche Intelligenz\", die mir in den letzten Tagen unter die Augen kamen.<\/p>\n

Abschlie\u00dfende Gedanken<\/h2>\n

\u00dcberblicke ich mal die beiden Artikel (Teil 1 und Teil 2) meiner AI-Serie, kann ich mich des Eindrucks nicht erwehren, dass das Ganze AI-Zeugs halbfertig auf die Anwender geworfen wird und sich alles in die falsche Richtung entwickelt. Privatsph\u00e4re und Sicherheit scheinen Nebensache zu sein. Interessant fang ich das Thema Copilot+PC und Recall. Erste Artikel in US-Medien waren unkritische Lobeshymnen. Aber seit gestern mehren sich die kritischen Stimmen, die von einem \"geht gar nicht\" ausgehen.<\/p>\n

Es wird nun spannend, ob Microsoft mit diesem Schwenk richtig ins Klo gegriffen hat – oder es es genug Lemminge gibt, die auf diese Entwicklung h\u00fcpfen. Aus meiner Sicht sind die \"DSGVO-Schlachten\" rund um die Windows-Telemetrie oder Microsoft Office 365 nur ein laues L\u00fcftchen gegen den Sturm, der sich mit den jetzt vorgestellten AI-L\u00f6sungen zusammen braut. M\u00f6glicherweise hat Nadella Microsoft in die gr\u00f6\u00dfte Krise seit dem Weggang von Steve Ballmer gef\u00fchrt. Bei der Sicherheit brennt sinnbildlich die H\u00fctte und Microsoft steht mit dem R\u00fccken zur Wand. Statt umzusteuern gibt es Lippenbekenntnisse und jetzt gie\u00dft man, zumindest gef\u00fchlt, mit der Recall-Funktion noch Bandbeschleuniger ins Feuer. Das kann nur schief gehen – w\u00e4re sch\u00f6n, wenn ich mich t\u00e4usche.<\/p>\n

\u00c4hnliche Artikel:<\/strong>
\nMicrosofts AI-PC mit Copilot \u2013 KI-Informationssplitter<\/a> – Teil 1
\nMicrosofts Sicherheitsrisiko Recall, OpenAI und weitere KI-Informationssplitter<\/a> – Teil 2<\/p>\n","protected":false},"excerpt":{"rendered":"

[English]Mit dem zum 20. Mai 2024 vorgestellten \"Copilot+PC\" Konzept macht Microsoft zwar das n\u00e4chste gro\u00dfe Fass (Hardware mit AI-Support und Copilot) auf. Aber ich bin mich nicht so sicher, ob der Schuss nicht nach hinten los geht. Sicherheitsforscher laufen Sturm … Weiterlesen →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[426],"tags":[8382,4328,3288],"class_list":["post-295493","post","type-post","status-publish","format-standard","hentry","category-sicherheit","tag-ai","tag-sicherheit","tag-windows-en"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/295493","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=295493"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/295493\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=295493"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=295493"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=295493"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}