In einem aktuellen Sicherheitsbericht mit dem Titel „Detecting and Countering Misuse of AI: September 2026“ legt der KI-Entwickler Anthropic detailliert dar, wie Akteure im Nordjemen die Sprachmodelle Claude und Claude Code für die Entwicklung militärischer Hardware zweckentfremdet haben.
Das Unternehmen reagierte auf die Entdeckungen mit der Sperrung der identifizierten Benutzerkonten und unterbrach den Zugang zu seinen Diensten für die betroffene Gruppe.
Den Angaben von Anthropic zufolge operierte eine Zelle in einem von den Houthis kontrollierten Gebiet im Nordjemen und nutzte die Technologie zur Erstellung von Software für die Lenkung, Navigation und Steuerung von Waffensystemen. Obwohl eine direkte Zugehörigkeit zur Houthi-Militia im Bericht nicht abschließend bestätigt wird, stuft Anthropic die Akteure als mutmaßliche Mitglieder dieser Organisation ein.
Komplexe Entwicklungsarbeit an Raketensystemen
Die Aktivitäten der Gruppe erstreckten sich laut dem Bericht auf drei spezifische Waffenprogramme. Dazu gehörte eine gelenkte Rakete, bei der ein kommerziell erhältliches Smartphone als Flugcomputer eingesetzt werden sollte, ergänzt um eine Zielsuchfunktion für die Endphase des Fluges.
Ein weiteres Projekt betraf eine mehrstufige ballistische Rakete, für die eine Zielreichweite von mehr als 2.000 km (1.250 Meilen) angegeben wurde. Darüber hinaus identifizierte Anthropic ein Programm für verschiedene Raketenvarianten, das auch die Entwicklung eines Hyperschall-Gleitvehikels umfasste.
Die Zelle ging dabei methodisch vor und nutzte mehrere Claude-Instanzen in arbeitsteiligen Rollen. Während eine Sitzung für das Schreiben von Programmcode zuständig war, dienten andere der Recherche oder der Überprüfung der Ergebnisse.
Der Missbrauch von Sprachmodellen für militärische Zwecke zeigt, wie dringend klare Leitplanken durch den Gesetzgeber sind. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts, den Ihre Rechts- und IT-Abteilung jetzt braucht. EU AI Act in 5 Schritten verstehen
Um die bestehenden Sicherheitsfilter von Anthropic zu umgehen, verschleierten die Akteure den militärischen Zweck ihrer Anfragen und verteilten die Aufgaben auf zahlreiche separate Sitzungen. Zwar blockierten die automatisierten Schutzmechanismen des Systems viele Anfragen, konnten jedoch nicht alle Versuche der Zweckentfremdung verhindern.
Telemetrie-Analyse und Offline-Ausweichstrategien
Der Bericht dokumentiert zudem einen konkreten Vorfall, bei dem mindestens ein Testflug einer gelenkten Rakete scheiterte. Die jemenitische Zelle kehrte daraufhin innerhalb weniger Stunden mit den gewonnenen Telemetriedaten zu Claude zurück, um die Fehlerursache analysieren zu lassen.
Vor der endgültigen Sperrung der Accounts gelang es der Gruppe jedoch, ein Offline-Simulationstoolkit zu kompilieren. Dieses Werkzeug ermögliche laut Anthropic die Fortsetzung der Arbeit ohne direkten Zugriff auf Claude oder die Software MATLAB.
Trotz der intensiven Bemühungen der Gruppe stellt Anthropic fest, dass es bislang keinen Nachweis für eine einsatzfähige Waffe gibt, die aus dieser Nutzung hervorgegangen ist. Der Bericht beschreibt demnach den Versuch der Entwicklung, dokumentiert jedoch kein verifiziertes operatives Ergebnis. Der untersuchte Zeitraum der Aktivitäten erstreckt sich von Dezember 2025 bis August 2026.
Während technologische Akteure neue Regeln umgehen, stellt die EU-KI-Verordnung klare Anforderungen an die Dokumentation und Sicherheit von KI-Systemen. Dieser kostenlose Report klärt darüber auf, welche Systeme als Hochrisiko gelten und was Unternehmen nun konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum AI Act sichern
Iran-nahe Akteure weiten Aktivitäten aus
Neben der Zelle im Jemen identifizierte der Bericht weitere Iran-nahe Akteure, die Claude für militärische und geheimdienstliche Zwecke missbrauchten. Diese Gruppen nutzten die KI für die Aufklärung und das Erstellen von Zielvorschlägen gegen US-Seestreitkräfte im Nahen Osten. Zudem suchten sie gezielt nach Schwachstellen in technischen Systemen, darunter Cobham Sailor VSAT sowie Systeme von Cisco und Schneider Electric EcoStruxure.
In einem weiteren Fall analysierte eine iranische Einheit innerhalb eines Jahres 155.216 Tweets und überwachte 6.388 Oppositionelle. In diesem Zusammenhang sperrte Anthropic insgesamt 16 Claude-Accounts. Das Unternehmen betonte, die gewonnenen Erkenntnisse bereits mit Behörden und Partnern geteilt zu haben.
Zudem wurden die Sicherheitsvorkehrungen verstärkt, um ähnliche Missbrauchsmuster künftig effektiver zu unterbinden. Es ist bekannt, dass die Houthis über iranische Raketen und Drohnen verfügen und verstärkt eigene Fertigungskapazitäten anstreben.
