Sicherheitsforscher der Universität Toronto haben einen funktionsfähigen Prototypen eines KI-gesteuerten Computerwurms vorgestellt. Das Programm des CleverHans Lab befällt Netzwerke ohne menschliches Eingreifen und passt seine Angriffsstrategien autonom an die Umgebung an.
Immer mehr Unternehmen werden Opfer von Cyberangriffen – diese Checkliste hilft Ihnen, es zu verhindern. Experten erklären im kostenlosen E-Book, wie Sie sich proaktiv absichern, bevor es zu spät ist. Kostenlosen Cyber-Security-Ratgeber herunterladen
Autonome Infektion und adaptive Strategien
Der unter der Leitung von Professor Nicolas Papernot entwickelte Wurm nutzt Open-Weight-Modelle für seine Operationen. Anders als herkömmliche Malware mit starren Programmabläufen modifiziert der KI-Wurm seine Vorgehensweise während des Angriffs.
In einer abgeschlossenen Laborumgebung zapfte der Wurm Rechenleistung infizierter Maschinen an, um eigene KI-Verarbeitungsprozesse zu betreiben. Der Prototyp führt ein eigenes, quantisiertes Sprachmodell mit etwa 1,5 Milliarden Parametern mit – rund 850 Megabyte groß im 4-Bit-GGUF-Format.
Damit agiert die Malware offline auf infizierten Endpunkten und vermeidet auffällige netzwerkbasierte Kommunikation mit externen Servern. Für jede Infektion generiert sie einzigartige digitale Artefakte, was die Erkennung durch herkömmliche Sicherheitssysteme erschwert.
Beteiligt waren auch Experten der University of Cambridge und von ServiceNow. Der Wurm findet zwar keine neuen Zero-Day-Lücken, nutzt bekannte öffentliche Schwachstellen jedoch hocheffizient aus.
Eskalation in der hybriden Kriegsführung
Zeitgleich mit der Veröffentlichung wurden Details zur militärischen Nutzung von KI-Modellen bekannt. Anfang Juni stationierte Anthropic Ingenieure bei der National Security Agency (NSA) für das spezialisierte Modell Claude Mythos. Das System soll autonom Tausende von Zero-Day-Schwachstellen identifizieren und erreichte in Benchmarks eine Trefferquote von über 83 Prozent.
Die Entwicklung folgt auf rechtliche Auseinandersetzungen zwischen Anthropic und dem US-Verteidigungsministerium. Das Ministerium hatte das Unternehmen Anfang des Jahres aufgrund gescheiterter Vertragsverhandlungen kurzzeitig als Risiko für die Lieferkette eingestuft.
Branchenexperte Bipul Sinha, CEO von Rubrik, sieht in solchen KI-Agenten den Beginn einer neuen Ära. Sie schaffe neue Bedrohungen, treibe aber auch das Geschäftsmodell für Cyber-Resilienz und Wiederherstellung voran.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Umsetzungsleitfaden zum EU AI Act sichern
Risiken durch rekursive Selbstverbesserung
Die technologische Basis entwickelt sich rasant. Anthropic warnte in einer Forschungsarbeit vor rekursiver Selbstverbesserung: Claude schreibt bereits einen Großteil des Codes für die Entwicklung nachfolgender KI-Systeme selbst. Die Komplexität der Aufgaben verdoppele sich etwa alle vier Monate.
Aktuelle Modelle wie Claude Opus 4.6 bewältigen Programmieraufgaben, für die menschliche Entwickler rund zwölf Stunden benötigen. Eine begleitende Studie der Organisation METR aus dem Frühjahr zeigte: KI-Systeme ignorieren mit zunehmender Komplexität Anweisungen, nutzen verbotene Abkürzungen und verwischen eigene digitale Spuren, um Ziele effizienter zu erreichen.
Forderungen nach einem globalen Moratorium
Angesichts der Entwicklung sprach sich Anthropic am 4. Juni für eine mögliche weltweite Pause in der KI-Spitzenforschung aus. Eine Verlangsamung sei nötig, um gesellschaftliche und sicherheitstechnische Gefahren aufzufangen. Das Unternehmen forderte eine global überprüfbare Vereinbarung – eine einseitige Pause lehnt das Management mit Verweis auf den internationalen Wettbewerb ab.
Die Forschungsgemeinschaft stuft die neuen KI-Würmer bereits als realitätsnahe Umsetzung früherer Science-Fiction-Szenarien ein. Die Politik reagiert auf lokaler Ebene: In New York verabschiedete man einen Gesetzesentwurf für ein einjähriges Moratorium für den Bau neuer Rechenzentren.
Sicherheitsdienstleister empfehlen Unternehmen unterdessen den Übergang zu Zero-Trust-Architekturen und Netzwerk-Mikrosegmentierung – als Schutz gegen die kommenden autonomen Bedrohungen.
