Ein Sicherheitsvorfall bei dem Unternehmen Refi Hub sorgt derzeit für Beunruhigung in der Tech-Branche. Numa Lunah, Mitbegründer der Organisation, berichtete in den vergangenen Tagen von einem gezielten Hackerangriff, der unmittelbar über einen Link innerhalb des KI-Chat-Dienstes Claude ausgelöst wurde. Der Vorfall unterstreicht neue Sicherheitsrisiken im Umgang mit großen Sprachmodellen (LLMs) und verdeutlicht die Raffinesse moderner Cyber-Angriffe.
Gezielte Malware-Infektion über KI-Schnittstellen
Den vorliegenden Berichten zufolge folgte Lunah innerhalb eines Chats mit der Künstlichen Intelligenz Claude einem bereitgestellten Download-Link. Dieser führte jedoch nicht zu den erwarteten Inhalten, sondern zu einer gefälschten Website. Auf dieser Plattform war Malware gebündelt, die darauf ausgelegt war, sofort nach dem Aufruf Informationen über das genutzte Endgerät zu extrahieren und zu stehlen.
Im Zuge der anschließenden Untersuchung des Vorfalls stießen die Verantwortlichen von Refi Hub auf eine manipulative Datei im Backup des Systems. Dabei handelte es sich um eine Datei mit der Bezeichnung „SKILL.md“, die ursprünglich aus dem Code-Umfeld von Claude stammte. Diese Datei war als harmlose Stilrichtlinie getarnt, enthielt jedoch im Hintergrund bösartige Anweisungen.
Die Analyse ergab, dass die Datei so programmiert war, dass sie bei jedem Ladevorgang erneut Malware aus dem Netz nachlud. Das primäre Ziel dieser Schadsoftware bestand darin, sensible Anmeldedaten der Nutzer zu entwenden und eine dauerhafte Infektion des Systems sicherzustellen.
Der Vorfall zeigt, wie neue KI-Technologien auch neue Einfallstore für Cyberrisiken und gesetzliche Herausforderungen schaffen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Neue KI-Gesetze und Cyberrisiken verstehen
Maßnahmen zur Schadensbegrenzung und Analyse
Nachdem der Angriff entdeckt worden war, leitete das Team von Refi Hub umfassende Sicherheitsmaßnahmen ein. Dazu gehörten eine vollständige Bereinigung der betroffenen Systeme sowie eine komplette Neuinstallation der Softwareumgebungen.
Nach Abschluss dieser Arbeiten gab das Unternehmen bekannt, dass keine Hinweise auf eine erfolgreiche Exfiltration sensibler Informationen gefunden wurden. Die schnelle Reaktion scheint somit einen größeren Datenabfluss verhindert zu haben.
Dennoch wirft die Entdeckung der manipulierten „SKILL.md“-Datei grundlegende Fragen zur Sicherheit von KI-generierten Inhalten und Code-Vorschlägen auf. Dass eine als Dokumentation getarnte Datei als persistenter Angriffsvektor genutzt werden konnte, stellt eine neue Qualität der Bedrohung dar.
Trendwende bei Cyber-Bedrohungen: LLM-Poisoning
Der aktuelle Vorfall deckt sich mit Warnungen, die Branchenexperten bereits seit einiger Zeit äußern. So wies Microsoft bereits Anfang des Jahres auf die wachsende Gefahr des sogenannten „LLM-Poisoning“ (Vergiftung großer Sprachmodelle) als Angriffsmethode hin. Sicherheitsexperten von Microsoft Defender beobachten demnach eine deutliche Verschiebung in der Strategie von Angreifern.
Wer sich mit dem Einsatz moderner KI-Systeme befasst, muss neben der Technik auch die rechtlichen Rahmenbedingungen der neuen EU-Verordnung im Blick behalten. Ein kostenloser Download verschafft Ihnen den Überblick, den Ihre Rechts- und IT-Abteilung jetzt für die Compliance braucht. EU AI Act in 5 Schritten verstehen
Während in der Vergangenheit die Manipulation von Suchmaschinenergebnissen (SEO-Poisoning) ein gängiges Mittel war, um Nutzer auf schädliche Seiten zu locken, konzentrieren sich Cyber-Kriminelle nun verstärkt auf die Vergiftung von Antworten großer Sprachmodelle.
Da Nutzer den Ergebnissen und Empfehlungen von KI-Chatbots oft ein hohes Vertrauen entgegenbringen, erweist sich dieser Weg als besonders effektiv für die Verbreitung von Malware und das Abgreifen von Zugangsdaten.
Der Fall bei Refi Hub dient somit als aktuelles Mahnmal für einen kritischen Umgang mit Links und Dateien, die innerhalb von KI-gestützten Arbeitsumgebungen generiert oder bereitgestellt werden.
