{"id":318011,"date":"2025-11-09T12:34:59","date_gmt":"2025-11-09T11:34:59","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=318011"},"modified":"2025-11-09T13:56:05","modified_gmt":"2025-11-09T12:56:05","slug":"microsoft-findet-seitenkanalangriff-whisper-leak-in-llms","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/11\/09\/microsoft-findet-seitenkanalangriff-whisper-leak-in-llms\/","title":{"rendered":"Microsoft findet Seitenkanalangriff Whisper-Leak in LLMs"},"content":{"rendered":"

\"Copilot\"Sicherheitsforscher haben eine neue Whisper-Leaks genannte Methode entdeckt, um einen Seitenkanalangriff auf die Kommunikation mit Sprachmodellen im Streaming-Modus durchzuf\u00fchren. Durch geschicktes Ausnutzung von Netzwerkpaketgr\u00f6\u00dfen und -timings k\u00f6nnten Informationen abgezogen werden.<\/p>\n

<\/p>\n

\"\"Mit der KI-Welle werden immer h\u00e4ufiger gro\u00dfe Sprachmodelle (LLMs), KI-gest\u00fctzte Chatbots und AI-Agenten in Unternehmen und im Privatumfeld eingesetzt. Solche KI-Systeme werden zunehmend auch in sensiblen Bereichen eingesetzt, darunter im Gesundheitswesen, in der Rechtsberatung und in der pers\u00f6nlichen Kommunikation von Nutzern. Daher ist es von entscheidender Bedeutung, dass die zwischen Menschen und Sprachmodellen ausgetauschten Daten anonym und sicher bleiben. Sicherheitsforscher untersuchen KI-L\u00f6sungen daher auf m\u00f6gliche Schwachstellen<\/p>\n

Whisper-Leaks Seitenkanalangriff entdeckt<\/h2>\n

Sicherheitsforscher von Microsoft sind auf eine neue Angriffsm\u00f6glichkeit gesto\u00dfen, die die Kommunikation mit Sprachmodellen (LLMs) belauscht.\u00a0Die Information \u00fcber den Whisper-Leaks genannten Seitenkanalangriff ist mir die Woche \u00fcber nachfolgenden Tweet bereits untergekommen. Ein Blog-Leser hat die Tage ebenfalls auf den Microsoft-Beitrag \u200b\u200bWhisper Leak: A novel side-channel attack on remote language models<\/a> hingewiesen (danke daf\u00fcr).<\/p>\n

\"Whisper-Leak<\/a><\/p>\n

Die Kurzfassung des Artikels:\u00a0Ein Angreifer, der in der Lage ist, den per TLS verschl\u00fcsselten Datenverkehr zwischen Nutzer bzw. AI-Agenten und einem Sprachmodell (LLM) zu beobachten, k\u00f6nnte eine Art von Seitenkanalangriff nutzen, um R\u00fcckschl\u00fcsse auf die Gespr\u00e4chsthemen des Sprachmodells zu ziehen. Dies k\u00f6nnte die Privatsph\u00e4re der Nutzer und Unternehmen bei der Kommunikation mit Chatbots trotz End-to-End-Verschl\u00fcsselung \u00fcber TLS gef\u00e4hrden.<\/p>\n

Eine Auswertung der Microsoft-Analyse zeigt, dass bei vielen Sprachmodellen der Whisper-Leak-Seitenkanalangriff Trefferquoten von \u00fcber 98 % erreichte. Das bedeutet, dass die einzigartigen digitalen \"Fingerabdr\u00fccke\", die Konversationen mit LLMs zu einem bestimmten Thema hinterlassen, so eindeutig sind, dass Microsofts KI-gest\u00fctzter Lauschalgorithmus diese in einem kontrollierten Test zuverl\u00e4ssig herausfiltern konnte. Das hei\u00dft:\u00a0Fast jedes \"Gespr\u00e4ch\" zwischen Nutzer und AI, das der Cyberangreifer als verd\u00e4chtig markiert, w\u00fcrde tats\u00e4chlich das sensible Thema betreffen \u2013 ohne Fehlalarme. Diese Genauigkeit bedeutet, dass ein Cyberangreifer mit hoher Sicherheit agieren k\u00f6nnte, da er wei\u00df, dass er keine Ressourcen f\u00fcr Fehlalarme verschwendet.<\/p>\n

Microsoft veranschaulicht die Brisanz so: \u00dcberwacht eine Regierungsbeh\u00f6rde oder ein Internetdienstanbieter den Datenverkehr zu einem beliebten KI-Chatbot, k\u00f6nnten Nutzer zuverl\u00e4ssig identifiziert werden, die Fragen zu bestimmten sensiblen Themen stellen \u2013 sei es Geldw\u00e4sche, politische Dissidenz oder andere \u00fcberwachte Themen \u2013, obwohl der gesamte Datenverkehr verschl\u00fcsselt ist.<\/p>\n

In den USA wurde im Oktober 2025 bekannt<\/a>, dass Jonathan Rinderknecht wegen eines in Kalifornien gelegten Feuers, welches mehrere Todesopfer forderte, verhaftet wurde. Mit zur Verhaftung trugen Anfragen der Person an ChatGPT zu diesem Themenfeld bei.<\/p><\/blockquote>\n

Microsoft hat mit mehreren Cloud-Anbietern von Sprachmodellen zusammengearbeitet, um das Risiko zu mindern, und sichergestellt, dass die eigenen Sprachmodell-Frameworks vor dieser Art Angriffen gesch\u00fctzt sind, hei\u00dft es im Artikel.<\/p>\n","protected":false},"excerpt":{"rendered":"

Sicherheitsforscher haben eine neue Whisper-Leaks genannte Methode entdeckt, um einen Seitenkanalangriff auf die Kommunikation mit Sprachmodellen im Streaming-Modus durchzuf\u00fchren. Durch geschicktes Ausnutzung von Netzwerkpaketgr\u00f6\u00dfen und -timings k\u00f6nnten Informationen abgezogen werden.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,426],"tags":[8382,4328],"class_list":["post-318011","post","type-post","status-publish","format-standard","hentry","category-ai","category-sicherheit","tag-ai","tag-sicherheit"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/318011","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=318011"}],"version-history":[{"count":0,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/318011\/revisions"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=318011"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=318011"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=318011"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}