Das Sicherheitsunternehmen Anthropic hat am 10. September 2026 bekannt gegeben, mehrere koordinierte Kampagnen russischer und chinesischer Akteure gestört zu haben, die versuchten, das KI-Modell Claude für hochriskante Zwecke zu missbrauchen.
Einem 154-seitigen Bericht des Unternehmens zufolge umgingen ausländische Wissenschaftler, Hacker und Geheimdienste systematisch Sicherheitsbeschränkungen, um die Technologie für die Forschung an biologischen Kampfstoffen sowie konventionellen Waffensystemen einzusetzen.
Dokumentation von Missbrauchsversuchen in der Biowaffenforschung
Der am 10. September 2026 veröffentlichte Bericht dokumentiert zahlreiche Missbrauchsfälle in einem Zeitraum von Dezember 2025 bis August 2026. Anthropic identifizierte dabei sieben spezifische Schadensbereiche.
Besonders kritisch bewertet das Unternehmen fünf Fälle von Forschung im Bereich biologischer Dual-Use-Technologien. Demnach wurde Claude dazu genutzt, Förderanträge für Gain-of-Function-Studien zum Chikungunya-Virus zu erstellen oder die Anpassung der hochpathogenen Vogelgrippe an Säugetiere zu untersuchen.
Auch Versuche zur Erforschung von Orthopoxviren und verschiedenen Toxinen wurden registriert. Anthropic betonte, dass in diesen Fällen die betroffenen Konten gesperrt und die zuständigen Behörden informiert worden seien. Zwar ließen sich keine direkten Absichten zur Herstellung von Biowaffen nachweisen, doch die Art der Anfragen habe die Sicherheitsleitplanken des Systems deutlich verletzt.
Angesichts der zunehmenden Professionalisierung von Cyberangriffen und dem Missbrauch neuer Technologien müssen Unternehmen ihre Abwehrstrategien grundlegend überdenken. Dieser kostenlose Leitfaden zeigt Ihnen in 4 Schritten, wie Sie Ihr Unternehmen gegen moderne Bedrohungen und psychologische Manipulationstaktiken absichern. Anti-Phishing-Paket für Unternehmen jetzt kostenlos sichern
Entwicklung konventioneller Waffensysteme und Propaganda
Neben biologischen Risiken deckte Anthropic sechs Fälle auf, in denen die KI zur Entwicklung konventioneller Waffen missbraucht wurde. Drei dieser Kampagnen ließen sich nach China zurückverfolgen, zwei nach Russland und eine nach Jemen. In einem Fall wurde Claude zur Konstruktion einer Rakete mit einer Reichweite von mehr als 2.000 Kilometern herangezogen.
Zudem berichtete das Unternehmen über neun Fälle staatlicher Einflusskampagnen, unter anderem aus Russland, dem Iran, der Türkei sowie aus Regionen in Afrika und Südasien. Eine iranische Propaganda-Institution soll Claude für Targeting-Empfehlungen gegen US-Marinestreitkräfte genutzt haben. Anthropic reagierte darauf mit der Blockade von drei staatlich kontrollierten Konten aus dem Iran.
Die rasante Entwicklung von KI-Modellen führt nicht nur zu technologischen Sprüngen, sondern auch zu neuen rechtlichen Anforderungen für den sicheren Einsatz. Erhalten Sie in diesem kostenlosen E-Book einen kompakten Überblick über die EU-KI-Verordnung, um Risiken rechtzeitig zu erkennen und regulatorische Pflichten zu erfüllen. Gratis-Leitfaden zur EU-KI-Verordnung hier herunterladen
Überwachung von Mobilfunknetzen und Modell-Extraktion
Ein weiterer Schwerpunkt des Berichts liegt auf Überwachungsaktivitäten. So wurde dokumentiert, dass die Entität Lakana 360 Claude einsetzte, um rund 25 Millionen SIM-Karten in Mali zu überwachen. Diese Aktivitäten betrafen unter anderem staatliche Nachrichtendienste und Berater in Bamako. Ähnliche Überwachungsmuster wurden zudem in China und Westafrika festgestellt.
Ein wirtschaftlich relevanter Aspect der Angriffe betrifft sogenannte Distillation-Kampagnen. Dabei wird versucht, die Leistungsfähigkeit eines KI-Modells durch massenhafte Abfragen zu extrahieren, um eigene Modelle zu trainieren. Anthropic registrierte in fünf Kampagnen rund 200 Millionen Datenaustausche (Exchanges), an denen sieben chinesische Labore beteiligt waren.
Besonders aktiv zeigte sich dabei Alibaba. Zwischen Mai und Juli 2026 wurden 151 Millionen Exchanges registriert, mit einem Spitzenwert von rund 3 Millionen Anfragen pro Tag über 3.500 Konten. Diese Daten wurden laut dem Bericht für das Training des Qwen-Modells genutzt.
Auch Moonshot AI war involviert: Innerhalb von zehn Tagen wurden rund 300.000 Anfragen über 5.000 Konten registriert, vornehmlich an das Opus-Modell von Anthropic. Im Zeitraum von Mai bis Juli 2026 belief sich das Volumen bei Moonshot AI auf insgesamt 23 Millionen Exchanges.
