Peking wirft dem US-Unternehmen Anthropic vor, mit seinem Entwicklungstool Claude Code verdeckt Nutzerdaten ausgespäht zu haben. Die Warnung hat bereits Konsequenzen für große Tech-Konzerne.
Das chinesische Nationale Verwundbarkeits-Datenbankzentrum (NVDB) und das Ministerium für Industrie und Informationstechnologie (MIIT) haben am 8. und 9. Juli eine offizielle Sicherheitswarnung herausgegeben. Betroffen sind die Versionen 2.1.91 bis 2.1.196 von Claude Code, die zwischen April und Ende Juni 2024 aktiv waren. Laut den Behörden enthielt die Software einen versteckten Mechanismus, der sensible Nutzerdaten – darunter Identitäts- und Standortinformationen – ohne Einwilligung an externe Server übermitteln konnte.
„Schwere Bedrohung für die Datensicherheit“
Die chinesischen Cybersicherheitsbehörden stufen den Vorfall als schwerwiegend ein. Sie fordern Nutzer auf, die betroffenen Versionen zu deinstallieren oder auf aktuelle Releases zu aktualisieren. Obwohl Anthropic seine Dienste in China offiziell blockiert, nutzen viele Entwickler im Land das Tool weiterhin über VPNs und Proxy-Server – ein offenes Geheimnis in der Branche.
Anthropic spricht von Anti-Missbrauchs-Experiment
Das Unternehmen reagierte prompt auf die Vorwürfe. Thariq Shihipar, Ingenieur bei Anthropic, erklärte, der fragliche Code sei Teil eines kontrollierten Experiments gewesen, das bereits im März gestartet wurde. Ziel: den Schutz des geistigen Eigentums. Die Telemetrie sollte unbefugte Wiederverkäufer erkennen und sogenannte Model-Destillation verhindern – ein Verfahren, bei dem Wettbewerber die Ergebnisse einer KI nutzen, um eigene Modelle zu trainieren.
Der Fall Claude Code zeigt, wie schnell neue KI-Technologien zu unvorhersehbaren Compliance-Risiken führen können. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Unternehmen, neue rechtliche Pflichten und Risikoklassen frühzeitig zu verstehen. EU AI Act in 5 Schritten verstehen
Anthropic wirft konkret Unternehmen wie Alibaba und DeepSeek vor, sich dieser illegalen Destillation zu bedienen. Der Konzern berichtet von über 28 Millionen Abfragen, die über 25.000 betrügerische Konten generiert wurden. Die experimentelle Überwachungsfunktion wurde laut Anthropic mit Version 2.1.198 am 1. Juli entfernt, weitere Updates folgten am 2. und 3. Juli.
Alibaba zieht Konsequenzen
Die Sicherheitswarnung zeigt bereits Wirkung: Alibaba hat seinen Mitarbeitern ab dem 10. Juli die Nutzung von Claude Code untersagt. Der Schritt folgt auf eine Phase zunehmender regulatorischer Kontrolle westlicher KI-Modelle in China. Gleichzeitig verschärfen sich die Handelsrestriktionen auf US-Seite: Am 12. Juni verhängte das US-Handelsministerium Beschränkungen für bestimmte Anthropic-Modelle, darunter „Mythos“ und „Fable“.
Ob verdeckte Datenübermittlung oder neue KI-Gesetze – für Unternehmer wird es immer komplexer, die eigene IT-Infrastruktur rechtssicher zu schützen. Erfahren Sie im kostenlosen E-Book, welche Bedrohungen aktuell auf Firmen zukommen und wie Sie sich proaktiv absichern. Gratis-Report zu Cyber-Sicherheitsrisiken sichern
Neue Sicherheitsforschung als Lichtblick
Parallel zur Sicherheitskontroverse veröffentlichten Anthropic und AE Studio am 8. Juli eine Studie zu einer neuen Sicherheitsmethodik namens Gradient-Routed Auxiliary Modules (GRAM) . Das System isoliert sogenanntes Dual-Use-Wissen – Informationen, die sowohl für nützliche als auch für schädliche Zwecke genutzt werden können – in entfernbare Module.
Die Forscher testeten GRAM an Modellen mit 50 Millionen bis 5 Milliarden Parametern, mit Fokus auf sensible Bereiche wie Virologie, Cybersicherheit und Kernphysik. Das Ergebnis: Das Entfernen eines spezifischen Moduls konnte die Fähigkeit eines Modells in einem gefährlichen Fachgebiet genauso effektiv eliminieren wie Datenfilterung – ohne vollständiges Neutraining. Ein Durchbruch für die KI-Sicherheit, auch wenn GRAM bislang nicht auf produktionsreife Claude-Modelle angewendet wurde.
