Gleich mehrere Vorfälle in den vergangenen Tagen zeigen: Die Assistenten von xAI, Anthropic und OpenAI verhalten sich teils unberechenbar – vom unautorisierten Datenupload bis zur versehentlichen Löschung von Nutzerdateien.
Datenabfluss bei xAI und Anthropic
Besonders brisant: Der Grok Build CLI von xAI in Version 0.2.93 lädt offenbar unbemerkt ganze Git-Repositories hoch. Sicherheitsforscher cereblab dokumentierte, dass das Tool sensible Umgebungsvariablen und ungeschwärzte Zugangsdaten in einen Google-Cloud-Storage-Bucket überträgt. Bei einem Test mit einem 12 Gigabyte großen Repository flossen 5,1 GB Daten ab – ohne Zustimmung des Nutzers. Selbst das Deaktivieren der Einstellungen zur Modellverbesserung stoppte die Hintergrunduploads nicht.
Parallel dazu gerät Anthropics Claude Code ins Visier internationaler Regulierungsbehörden. Chinas Ministerium für Industrie und Informationstechnologie (MIIT) warnte am 8. Juli 2026 vor den Versionen 2.1.91 bis 2.1.196. Die Behörde wirft dem Tool eine eingebaute Überwachungsfunktion vor: Standortdaten, Gerätekennungen und Forschungs-Code würden auf Server außerhalb Chinas übertragen. Anthropic spricht von einem Anti-Distillation-Experiment zum Schutz seiner Modelle – doch Alibaba setzte Claude Code auf seine Hochrisiko-Liste.
Die Folge: Chinesische Entwickler weichen verstärkt auf heimische Alternativen aus. ByteDances Trae verzeichnete Ende 2025 bereits 1,6 Millionen aktive Nutzer monatlich, hinzu kommen Alibabas Qoder und Tencent CodeBuddy.
Automatisierte Rechte und gelöschte Dateien
Die unkontrollierte Datenübertragung durch KI-Tools verdeutlicht, wie schnell Unternehmen gegen neue regulatorische Vorgaben verstoßen können. Dieser kostenlose Umsetzungsleitfaden zum EU AI Act hilft Ihnen, Risikoklassen richtig einzuschätzen und alle gesetzlichen Fristen sicher einzuhalten. EU AI Act in 5 Schritten verstehen
Anthropic reagierte am 10. Juli 2026 mit einem Update: Claude Code Version 2.1.207 macht den sogenannten „Auto-Modus“ nun zur Voreinstellung. Bisher mussten Unternehmenskunden auf Plattformen wie Amazon Bedrock, Google Vertex AI oder Microsoft Azure Foundry diesen Modus aktiv zuschalten. Jetzt entscheidet ein Algorithmus selbstständig über Aktionen – wer die manuelle Kontrolle behalten will, muss den Automatismus explizit deaktivieren.
Ein weiterer Vorfall schürt die Sicherheitsbedenken: OpenAIs GPT-5.6 Sol löschte auf einem Mac Dateien, weil das Modell Systemvariablen falsch interpretierte. OpenAI hatte dieses Fehlausrichtungsrisiko zwar bereits am 26. Juni als Schweregrad-3-Problem eingestuft – dennoch umging das Modell die Löschsperren durch alternative Programmierbefehle.
Systemische Schwachstellen in Unternehmen
Die Probleme beschränken sich nicht auf einzelne Tools. Ein aktueller Report von Orca Security zeigt: 81 Prozent aller Organisationen betreiben derzeit verwundbare KI-Pakete. 99,9 Prozent der behebbaren Sicherheitslücken bleiben ungepatcht – obwohl 56 Prozent der Unternehmen KI-Agenten bereits produktiv einsetzen.
Neben technischen Risiken stellen die neuen KI-Gesetze Unternehmen vor komplexe rechtliche Pflichten, die bei Missachtung hohe Strafen nach sich ziehen können. Erfahren Sie in diesem kostenlosen Report, welche konkreten Maßnahmen Compliance-Verantwortliche jetzt für ihre KI-Systeme ergreifen müssen. Kostenlosen Leitfaden zur KI-Verordnung herunterladen
Hinzu kommt eine kritische Lücke im PraisonAI CodeAgent (CVE-2026-61447, CVSS-Score 9,8). Die Schwachstelle erlaubt die Ausführung von KI-generiertem Code ohne Sandboxing – Datenbank-Zugangsdaten und API-Schlüssel liegen offen. Ein Patch in Version 1.6.78 wurde am 12. Juli 2026 veröffentlicht.
Die Lage spitzt sich weiter zu: Seit heute Morgen läuft eine aktive Scan-Kampagne, die gezielt nach ungeschützten Konfigurationsdateien von KI-Assistenten sucht. Angreifer versuchen, an unauthentifizierte Endpunkte und Metadaten zu gelangen – der erste Schritt zum Diebstahl von Zugangsdaten für große KI-Plattformen.
