{"id":309439,"date":"2025-03-16T00:25:24","date_gmt":"2025-03-15T23:25:24","guid":{"rendered":"https:\/\/www.borncity.com\/blog\/?p=309439"},"modified":"2025-03-24T00:04:19","modified_gmt":"2025-03-23T23:04:19","slug":"kann-eine-ai-wie-deepseek-malware-und-keylogger-erstellen","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2025\/03\/16\/kann-eine-ai-wie-deepseek-malware-und-keylogger-erstellen\/","title":{"rendered":"Kann eine AI wie DeepSeek Malware und Keylogger erstellen?"},"content":{"rendered":"

\"Paragraph\"[English<\/a>]Sicherheitsexperten treibt die Frage um, ob Large Language Modelle (LLMs), allgemein als KI-L\u00f6sungen (AI) gehandelt, sich missbrauchen lassen, um Malware oder Keylogger zu erstellen. Sicherheitsforscher haben das mit der chinesischen AI DeepSeek getestet und konnten die Sicherheitsmechanismen aushebeln.<\/p>\n

<\/p>\n

Die latente Gefahr von AI-L\u00f6sungen<\/h2>\n

\"\"Es ist in Sicherheitskreisen klar, dass Cyberkriminelle sich AI-L\u00f6sungen bedienen, um Cyber-Angriffe durchzuf\u00fchren und auch Software f\u00fcr solche Vorhaben entwickeln zu lassen. Andererseits beteuern die AI-Anbieter immer, alles zu unternehmen, um sch\u00e4dliche Ausgaben ihrer Modell zu unterbinden.<\/p>\n

Ein ChatGPT-Vorfall<\/h3>\n

Ich hatte ja im gestrigen Beitrag Exchange Online- und MS365-Probleme durch Schwachstelle? (M\u00e4rz 2025)<\/a> ein mutma\u00dfliches Problem von Microsofts AI-L\u00f6sung ChatGPT angesprochen. Wenn die Geschichte stimmt, hat ChatGPT einem IT-Supporter ein Script geliefert, das bei Exchange Online Tenant-\u00fcbergreifend Probleme bereitet, obwohl dies eigentlich nicht m\u00f6glich sein d\u00fcrfte.<\/p>\n

Gartner-Vorhersage zum GenAI-Missbrauch<\/h3>\n

Die rasante Verbreitung von GenAI<\/a>-Technologien hat die Entwicklung von Datenschutz- und Sicherheitsma\u00dfnahmen \u00fcberholt. Besonders die f\u00fcr diese Technologien erforderliche zentrale Rechenleistung wirft Fragen zur Datenlokalisierung auf.<\/span><\/p>\n

Mir liegt eine Analyse mit dem Titel Gartner Predicts 40% of AI Data Breaches Will Arise from Cross-Border GenAI Misuse by 2027<\/a> der Unternehmensberatung Gartner, Inc., von Mitte Februar 2025 vor, dass bis 2027 mehr als 40 % aller Datenschutzverletzungen im Zusammenhang mit K\u00fcnstlicher Intelligenz, durch den unsachgem\u00e4\u00dfen grenz\u00fcberschreitenden Einsatz generativer KI (GenAI), verursacht werden.<\/p>\n

\"Unbeabsichtigte grenz\u00fcberschreitende Daten\u00fcbertragungen entstehen oft durch mangelnde Kontrolle \u2013 insbesondere dann, wenn GenAI unbemerkt in bestehende Produkte integriert wird, ohne klare Hinweise oder Ank\u00fcndigungen\", erkl\u00e4rt <\/span>J\u00f6rg Fritsch<\/span><\/span>,<\/span> VP Analyst bei Gartner. <\/span><\/p>\n

\"Unternehmen stellen Ver\u00e4nderungen in den Inhalten fest, die ihre Mitarbeitenden mit GenAI-Tools erstellen. Zwar k\u00f6nnen diese Tools f\u00fcr autorisierte Gesch\u00e4ftsanwendungen genutzt werden, doch sie bergen erhebliche Sicherheitsrisiken, wenn sensible Eingaben an KI-Tools oder APIs gesendet werden, die an unbekannten Standorten gehostet sind.\"\u00a0<\/span><\/p>\n

Experiment: Kann DeepSeek Malware erzeugen<\/h2>\n

Da generative k\u00fcnstliche Intelligenz (GenAI) seit der Einf\u00fchrung von ChatGPT immer beliebter geworden ist, haben Cyberkriminelle eine Vorliebe f\u00fcr GenAI-Tools entwickelt, die sie bei ihren verschiedenen Aktivit\u00e4ten unterst\u00fctzen.<\/p>\n

Die meisten herk\u00f6mmlichen GenAI-Tools verf\u00fcgen jedoch \u00fcber verschiedene Sicherheitsvorkehrungen, um Versuche zu bek\u00e4mpfen, sie f\u00fcr b\u00f6sartige Zwecke zu nutzen. Cyberkriminelle haben ihre eigenen b\u00f6sartigen gro\u00dfen Sprachmodelle (LLMs) wie WormGPT, FraudGPT, Evil-GPT und k\u00fcrzlich GhostGPT entwickelt. Auf diese b\u00f6sartigen LLMs kann durch eine einmalige Zahlung oder eine Abonnementgeb\u00fchr zugegriffen werden.<\/p>\n

Mit der j\u00fcngsten Open-Source-Ver\u00f6ffentlichung der lokalen LLMs von DeepSeek, wie DeepSeek V3 und DeepSeek R1 gehen Sicherheitsforscher davon aus, dass Cyberkriminelle diese LLMs ebenfalls nutzen.<\/p>\n

Sicherheitsforscher von Tenable wollten dann genauer wissen, ob sich DeepSeek f\u00fcr solche Zwecke missbrauchen l\u00e4sst. Tenable Research hat daher im Rahmen eines Experiments versucht, das chinesische AI-Modell DeepSeek R1 so zu manipulieren, dass es Keylogger und Ransomware entwickelt. Ziel ware folgendes:<\/p>\n