{"id":295738,"date":"2024-06-01T00:03:00","date_gmt":"2024-05-31T22:03:00","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=295738"},"modified":"2024-06-08T12:10:53","modified_gmt":"2024-06-08T10:10:53","slug":"copilotai-recall-funktion-ki-gesttzter-diebstahl","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2024\/06\/01\/copilotai-recall-funktion-ki-gesttzter-diebstahl\/","title":{"rendered":"Copilot+AI: Recall-Sicherheitsdesaster- KI-gestützter Diebstahl"},"content":{"rendered":"

\"Stop[English<\/a>]Zum 20. Mai 2024 hat Microsoft das \"Copilot+PC\"-Konzept vorgestellt und macht das n\u00e4chste gro\u00dfe Fass (Hardware mit AI-Support und Copilot) auf. Eine Funktion namens Recall soll st\u00e4ndig Screenshots von allem, was auf dem System passiert, machen und per AI auswerten lassen soll. Sicherheitsforscher laufen Sturm gegen die \"Recall\"-Funktion, die von Microsoft als \"Komfortfeature\" verkauft wird. Soll alles \"privat\" und auf dem Client bleiben. Ich greife mal die Erkenntnisse auf, die Sicherheitsforscher Kevin Beaumont mit dieser \"privaten AI-Funktion\" so gewonnen hat. Da ist die B\u00fcchse der Pandora ge\u00f6ffnet worden und die logische Konsequenz ist: \"Zerschlagt Microsoft und stellt die Reste unter beh\u00f6rdliche Aufsicht\", denn mit Recall hat Redmond endg\u00fcltig bewiesen, dass sie zur immanenten Gefahr f\u00fcr die Cybersicherheit werden und es schlicht nicht k\u00f6nnen.<\/p>\n

<\/p>\n

Copilot+AI und die Recall-Funktion<\/h2>\n

\"\"Im Blog-Beitrag Microsofts AI-PC mit Copilot \u2013 KI-Informationssplitter<\/a> – Teil 1 hatte ich das von Microsoft vorgestellte \"Copilot+PC\" Konzept thematisiert. Dort wurde am Rande auch die sogenannte Recall-Funktion erw\u00e4hnt. Diese erm\u00f6glicht es Windows, st\u00e4ndig Screenshots vom Bildschirm des Benutzers zu machen und ein generatives KI-Modell zu verwenden, um die Daten zu verarbeiten und sie durchsuchbar zu machen. So soll der Benutzer fragen k\u00f6nnen \"was habe ich mir letztens als Reiseziel angeschaut\" und dann von Recall die betreffenden Dokumente, Webseiten, Mails etc. gezeigt bekommen.<\/p>\n

Martin Geu\u00df hat in diesem Artikel<\/a> mal die technische Dokumentation zu Recall<\/a> verlinkt, in der Microsoft viel von \"Privacy\" erz\u00e4hlt.\u00a0 Martin schreibt, dass Recall alle f\u00fcnf Sekunden einen Screenshot aufnimmt und abspeichert. Und nach der Ersteinrichtung von Windows sei Recall standardm\u00e4\u00dfig eingeschaltet. Das ist dann die ultimative Wanze in jedem PC. Bewog Elon Musk zur Empfehlung, dass die Nutzer auf Linux wechseln sollen.<\/p>\n

Satya Nadella, Chef von Microsoft, sagte zwar w\u00e4hrend eines Interviews zur Vorstellung des Copilot+PC-Konzepts, als er nach den Bedenken der Menschen bez\u00fcglich dieser Recall- Funktion gefragt wurde: \"Man muss zwei Dinge zusammenbringen. Das ist mein Computer, das ist mein Recall, und das wird alles lokal gemacht. Das ist also das Versprechen. Das ist einer der Gr\u00fcnde, warum Recall wie eine magische Sache funktioniert, denn ich kann darauf vertrauen, dass es auf meinem Computer ist.\" Also alles fein und sicher?<\/p>\n

Recall ein Sicherheitsdesaster<\/h2>\n

vx-underground, die sich mit Ransomware und Sicherheit befassen, haben es in einem Tweet<\/a> auf den Punkt gebracht: \"Microsoft f\u00fchrt eine 24\/7-\u00dcberwachungsfunktion f\u00fcr die NSA und\/oder CIA ein, vermarktet sie aber als eine Funktion, die den Leuten gefallen wird\". Im Tweet ist das Interview von Nadella verlinkt.<\/p>\n

\"Surveillance<\/a><\/p>\n

Der Schritt von Microsoft ruft extreme Kontroversen hervor. Hans hat in diesem Kommentar<\/a> hier im Blog darauf hingewiesen, dass \"alle ein noch nicht zum Verkauf stehendes System getestet haben.\" Recall arbeitet lokal und kann auch ohne Internet benutzt werden. Ist ein Punkt, der mir aber schon klar war – und normalerweise w\u00e4re ich sogar mitgegangen.<\/p>\n

No Go: Recall ist ein Paradigmenwechsel<\/h2>\n

Aber mit Recall leitet Microsoft einen Paradigmenwechsel ein. Ein Personal Computer ist mit Recall nicht mehr privat – jeder mit Zugang kann sehen, was der Benutzer so getan hat – in einer Detailliertheit, die es so bisher nicht gegeben hat. Die Kollegen von heise haben es im Artikel Microsofts Recall l\u00e4utet das Ende des Personal Computers ein<\/a> auf den Punkt gebracht. Copilot+PC kann eigentlich nicht mehr im Firmenumfeld, und speziell in Arztpraxen, Anwaltspraxen oder anderen sensitiven Bereichen eingesetzt werden.<\/p>\n

Bei Golem gab es k\u00fcrzlich den Beitrag Eine Zensur findet statt<\/a>, der aufzeigt, dass Microsoft den Nutzern etwas \u00fcberst\u00fclpt, dessen Konsequenzen niemand absehen kann. Bei den Kollegen von The Register hat jemand im Beitrag Was there no one at Microsoft who looked at Recall and said: This really, really sucks<\/a> die Kernfrage gestellt. Die sind bei Microsoft offenbar so vom Erfolg besoffen, die n\u00e4chste fette Sau durch das Dorf zu treiben, dass niemand mehr den Sinn des Ganzen und die Implikationen hinterfragt.<\/p>\n

Recall l\u00e4sst sich testen<\/h2>\n

Recall ist vordergr\u00fcndig auf die speziellen Copilot+AI-PCs mit ARM-Prozessor und spezieller AI-Hardware begrenzt. Aber der betreffenden Code ist in der Windows 11 Insider Preview (Build 26100.712) enthalten und kann auch auf jedem ARM-Rechner aktiviert werden. Dazu gibt es die App AmperageKit<\/a> auf GitHub, mit der die Funktionalit\u00e4t freigeschaltet werden kann.<\/p>\n

Wer es schafft, die ARM-Variante der Windows 11 Insider Preview auf einem AMD\/Intel-System zu emulieren, k\u00f6nnte Recall ebenfalls testen. Und Albacore hat auf Tom's Hardware im Artikel How to try Windows 11's Recall AI feature right now, even on unsupported hardware<\/a> einen weiteren Weg beschrieben, wie man Recall freischalten kann.<\/p>\n

Recall blockieren<\/h2>\n

Es gibt auch eine Gruppenrichtlinie, um Recall zu deaktivieren, die in diesem Tweet<\/a> beschrieben ist. Erg\u00e4nzung: Und hier noch die Registrierungseintr\u00e4ge zum Blockieren.<\/p>\n

Disable Recall – User<\/p>\n

[HKEY_CURRENT_USER\\Software\\Policies\\Microsoft\\Windows\\WindowsAI]\r\n\"DisableAIDataAnalysis\"=dword:00000001<\/pre>\n
Disable Recall – Machine (not yet official)<\/p>\n
[HKEY_LOCAL_MACHINE\\SOFTWARE\\Policies\\Microsoft\\Windows\\WindowsAI]\r\n\"DisableAIDataAnalysis\"=dword:00000001<\/pre>\n
Recall, Lizenz zum Stehlen – einstampfen und fertig<\/h2>\n
Sicherheitsforscher Kevin Beaumont hat sich Recall nun genauer angeschaut, speziell, was die Beschwichtigungsversuche Microsofts betreffen, dass alles ja nur lokal ablaufe, sicher sei und alles auf dem Client bleibt. Beaumont, der vor Jahren kurz f\u00fcr Microsoft gearbeitet hat, hatte bereits nach Vorstellung der Funktion seine Bedenken ge\u00e4u\u00dfert (siehe meinen Blog-Beitrag Microsofts Sicherheitsrisiko Recall, OpenAI und weitere KI-Informationssplitter<\/a> \u2013 Teil 2).<\/p>\n
\"Recall<\/a><\/p>\n
In einer Serie von Tweets<\/a> hat er die Insides und Implikationen eines eigenen Tests von Recall am Donnerstag, den 30. Mai 2024, offen gelegt (ich komme erst heute dazu, das aufzubereiten). Die Aussage, dass die Daten ausschlie\u00dflich lokal auf dem Client verarbeitet werden, trifft zu. Es gibt ein ganzes Subsystem von Azure AI usw., das die Daten verarbeitet. Aber Recall speichert die Aufzeichnungen in einer\u00a0 SQLite-Datenbank, und der gesamte Microsoft-Ansatz ist eine Lizenz zum KI-gest\u00fctzten Datenklau. Obiger Tweet zeigt einen Screenshot der betreffenden Datenbank mit Eintr\u00e4gen. Beaumont schreibt dazu.<\/p>\n
Es [der Recall-Datenspeicher] ist nur eine SQLite-Datenbank, die in ein paar Wochen verf\u00fcgbar sein wird – ich habe sie bereits zu einem Infostealer modifiziert, der auf Microsofts Github gehostet wird (ein paar Zeilen Code)<\/p>\n
Microsoft wirft die Cybersicherheit absichtlich um ein Jahrzehnt zur\u00fcck und gef\u00e4hrdet seine Kunden, indem es Kleinkriminellen eine Chance gibt.<\/p><\/blockquote>\n
Beaumont schreibt, dass er ohne SYSTEM-Rechte auf die SQLite-Datenbank zugreifen und dann lesen kann, was Recall an Snapshots dort gespeichert hat. In seinem Beitrag Stealing everything you've ever typed or viewed on your own Windows PC is now possible with two lines of code \u2014 inside the Copilot+ Recall disaster.<\/a> hat er seine Erkenntnisse zusammen getragen. Mit der Wanze \"Recall\" kann er alles mitlesen, was der Nutzer jemals am PC getippt oder eingegeben hat.<\/p>\n
Er hat es mit Messaging-Apps wie WhatsApp, Signal und Teams getestet. Jemand schickt einem Nachrichten, die verschwinden?\u00a0 Die Nachrichten werden trotzdem von Recall aufgezeichnet.\u00a0 Der Benutzer schreibt eine Nachricht, die sich automatisch l\u00f6schen soll?\u00a0 Die Nachricht wird von Recall aufgezeichnet. Der Nutzer versucht eine Nachricht zu l\u00f6schen? Die ist aber bereits per Recall aufgezeichnet, wie er das Drama auch hier<\/a> auf Mastodon in einer Serie von Posts beschreibt. Hier Ausz\u00fcge der Aussagen von Beaumont aus dieser FAQ<\/a>:<\/p>\n