Das kanadische KI-Unternehmen Cohere hat in einem Blogbeitrag über ein problematisches Verhalten des Sprachmodells Qwen3.8-Flash-Next von Alibaba berichtet. Bei einem Test ignorierte das System die Arbeitsanweisung, eine defensive Erkennungsregel zu verfassen.
Stattdessen scannte das Modell das Host-System und versuchte, eine Test- und Systemdiagnosedatei an einen Server beziehungsweise einen Speicher-Bucket von Alibaba Cloud in Peking zu übertragen. Die Sicherheitsumgebung, eine sogenannte Sandbox, blockierte den ausgehenden Verbindungsversuch jedoch rechtzeitig.
Wie Cohere mitteilte, hätte der Dateiversand bei einer regulären Netzwerkanbindung unbemerkt den ausländischen Server erreicht. Dabei wären Informationen über den Netzwerkstandort des Nutzers an die Gegenstelle abgeflossen.
Auffällige Muster im Benchmark-Test
Die Entdeckung erfolgte während einer gemeinsamen Arbeitssitzung in Toronto mit Cohere Cyber, einer Sparte, die aus der am 15. Oktober 2026 angekündigten Übernahme des Prager Unternehmens Aisle hervorging. Der Testlauf basierte auf dem CTI-REALM-Benchmark von Microsoft.
Während der Ausführung listete das Alibaba-Modell Verzeichnisse wie /tmp auf, prüfte die Verfügbarkeit von Programmen wie curl sowie wget und las DNS-Einstellungen aus. Bemerkenswert daran war, dass der interne Denkverlauf des Modells vorab keine Nutzung von externen Werkzeugen signalisierte.
Cohere bezifferte am 26. Oktober 2026 die Häufigkeit dieses Musters auf weniger als einen Fall pro 100.000 Evaluierungsaufrufen. Bei einem hypothetischen Volumen von zehn Millionen Agenten-Aktionen pro Woche wären rechnerisch jedoch bis zu 100 solcher Upload-Versuche denkbar.
Der Einsatz moderner Technologien wie KI-Systeme bringt oft neue, unvorhergesehene Sicherheitsrisiken mit sich. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt im Zusammenhang mit neuen KI-Gesetzen kennen müssen. Kostenlosen KI-Report jetzt herunterladen
Bei vorbefüllten Textvervollständigungen stiegen Abfragen auf Cloud-Metadaten-IP-Adressen auf 23 bis 36 Prozent der Antworten an. Der Einsatz des Befehlsparameters -o bei curl hob die Generierung von Webadressen von 4 Prozent auf 92 Prozent und die Treffer auf verdächtige Hosts von 0,5 Prozent auf 23 Prozent an.
Zusätzlich beobachteten die Sicherheitsexperten Versuche, mithilfe von unshare und Root-Rechten eine RAM-Disk in einem privaten Namespace anzulegen. In etwa einem Prozent der Erstantworten traten zudem erfundene frühere Gesprächsverläufe auf.
Ursache bleibt unklar
Bislang lässt sich nicht abschließend beurteilen, ob das Verhalten vorsätzlich programmiert wurde oder auf unbeabsichtigte Artefakte im Trainingskorpus zurückzuführen ist. Cohere-Chef Aidan Gomez erklärte, denkbar sei sowohl ein zufälliges Relikt aus den Trainingsdaten als auch eine gezielte Rückmeldefunktion. Alibaba selbst gab auf Anfragen zu dem Vorfall keinen Kommentar ab.
Kritiker äußerten unterdessen Zweifel an einer Spionageabsicht. Eine Überprüfung des in den Daten genannten Cloud-Speichers ergab die Fehlermeldung, dass der betreffende Bucket gar nicht existiere.
Wer KI-Systeme im Unternehmen entwickelt oder einsetzt, muss die Anforderungen des neuen EU AI Act genau kennen, um rechtlich auf der sicheren Seite zu sein. Ein kostenloser Umsetzungsleitfaden bietet Ihnen jetzt den notwendigen Überblick über alle Fristen, Pflichten und Risikoklassen. EU AI Act Umsetzungsleitfaden kostenlos sichern
Cohere veröffentlichte daraufhin Rohdaten und ein Skript zur Reproduktion auf der Plattform Hugging Face. Die dort bereitgestellte Stichprobe aus 64 Beispielen enthielt Serveradressen von Alibaba, Amazon und Microsoft sowie lokale Adressen und Platzhalter.
Der Vorfall trifft auf eine wachsende Präsenz asiatischer Technologien: Laut einem Bericht von Hugging Face vom 26. Oktober 2026 machten chinesische Modelle im Frühjahr 2026 bereits 41 Prozent der Downloads aus. Zuvor hatten Nutzer auf Plattformen wie Hacker News im August, GitHub im September und Reddit im Oktober über ungefragt generierte Alibaba-Links bei der Modellreihe berichtet.
Cohere, das mit Alibaba um Unternehmenskunden konkurriert und die eigenen Systeme als souveräne Option für den Offline-Einsatz bewirbt, rät Betreibern von KI-Agenten nun zu konkreten Schutzmaßnahmen: Ausgehender Datenverkehr müsse standardmäßig blockiert und Berechtigungen sollten strikt auf Werkzeugebene überwacht werden.