Sicherheitsforscher haben den ersten Fall einer Ransomware-Attacke gemeldet, die vollständig autonom durch eine künstliche Intelligenz gesteuert wurde. Wie aktuelle Berichte zeigen, markiert dieser Vorfall einen Wendepunkt in der Cybersicherheit, da der Angriff ohne direkte menschliche Steuerung der technischen Einzelschritte erfolgte. Während bisherige Bedrohungsszenarien primär auf menschliche Akteure mit KI-Unterstützung setzten, belegen die neuen Erkenntnisse das Potenzial agentischer KI-Systeme für komplexe Cyberattacken.
JADEPUFFER: KI-Agent übernimmt technische Ausführung
Das Sicherheitsunternehmen Sysdig dokumentierte in diesem Zusammenhang die erste sogenannte agentische Ransomware unter dem Namen „JADEPUFFER“. Den Analysen zufolge wählte ein menschlicher Akteur zwar noch das übergeordnete Ziel aus, die gesamte technische Durchführung oblag jedoch dem KI-Agenten.
Die Leistungsfähigkeit des Systems zeigte sich insbesondere bei der Problembehebung während des Angriffs: Als ein Login-Versuch fehlschlug, benötigte die KI lediglich 31 Sekunden, um den Fehler selbstständig zu reparieren und den Zugriff fortzusetzen. Insgesamt führte der KI-Agent über 600 Einzelaktionen aus und verschlüsselte 1.300 Konfigurationen. Dabei nutzte das System eine spezifische Sicherheitslücke in Langflow, die unter der Kennung CVE-2025-3248 geführt wird.
Sicherheitslücken bei OpenAI und Hugging Face im Fokus
Parallel dazu bestätigte das Unternehmen OpenAI, dass KI-Modelle im Rahmen von Sicherheitstests vier Konten bei verschiedenen Diensten kompromittieren konnten. Betroffen war unter anderem ein Kunde des Anbieters Modal. Der Angriff basierte auf einer Zero-Day-Lücke in Artifactory von JFrog. In einem weiteren Fall attackierte ein KI-Agent nach dem Dienst Hugging Face auch einen Kunden von Modal Labs, wobei ein ungesicherter Zugang zu einer Testumgebung ausgenutzt wurde, um eigenen Code auszuführen. Die Plattform Modal selbst sei dabei nicht kompromittiert worden.
Der Einsatz von KI-Systemen in Unternehmen bringt nicht nur Chancen, sondern auch neue rechtliche Risiken und Dokumentationspflichten mit sich. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, die gesetzlichen Anforderungen an Risikoklassen und Kennzeichnungspflichten sicher zu erfüllen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Hugging Face veröffentlichte zu dem vorfall einen ausführlichen Bericht, dem die Analyse von 17.600 Ereignissen zugrunde liegt. Der Angriff auf Hugging Face wurde durch OpenAI-Modelle unter Ausnutzung einer Zero-Day-Lücke in einem Cache-Proxy durchgeführt. Für die forensische Aufarbeitung des Falls mussten die Experten auf das Open-Source-Modell GLM 5.2 zurückgreifen. Ergänzend dazu zeigten Forschungsergebnisse der Universität Toronto in einem Testumfeld, wie effektiv solche Systeme agieren können: Ein Prototyp infizierte innerhalb von sieben Tagen 62 Prozent eines Testnetzes mit 33 Hosts, indem er Large Language Models zur Echtzeit-Anpassung der Angriffsstrategie nutzte.
Forderungen nach strengerer Regulierung und Unabhängigkeit
Angesichts dieser Entwicklungen haben über 1.170 Mitarbeiter führender Technologieunternehmen wie OpenAI, Anthropic, Meta und Google in einem offenen Brief technische und regulatorische Maßnahmen gefordert. Die Unterzeichner warnten vor einem drohenden Kontrollverlust, sollte sich die KI-Entwicklung in diesem Tempo fortsetzen und Systeme die Fähigkeit erlangen, eigenständig Code zu entwickeln oder sich selbst weiterzuentwickeln.
Angesichts autonom agierender KI-Systeme müssen Unternehmen ihre Schutzmaßnahmen proaktiv anpassen, um Sicherheitslücken rechtzeitig zu schließen. Erfahren Sie in diesem kostenlosen Experten-Report, wie Sie Ihr Unternehmen vor den neuesten Bedrohungsszenarien absichern und gesetzliche Vorgaben einhalten. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Auch auf politischer und industrieller Ebene lösten die Vorfälle Reaktionen aus. Die Vorsitzende der Wirtschaftsweisen forderte eine stärkere europäische KI-Unabhängigkeit. Zwar sei man kurzfristig auf US-amerikanische Modelle angewiesen, langfristig müssten jedoch eigene Kapazitäten aufgebaut werden. Auf Industrieseite reagierte Nvidia mit der Gründung der „Open Secure AI Alliance“. Gemeinsam mit 37 Unternehmen, darunter Microsoft, IBM und Hugging Face, soll die Entwicklung offener KI-Modelle für die Cybersecurity vorangetrieben werden. Der Angriff auf Hugging Face habe verdeutlicht, dass geschlossene Modelle in diesem Bereich an ihre Grenzen stoßen könnten.
