Eine Serie von Sicherheitsvorfällen bei führenden KI-Anwendungen zeigt massive Risiken in der schnelllebigen Entwicklung. Von unerlaubtem Datentransfer bis zu kritischen Systemfehlern – die Probleme häufen sich.
Anthropic unter Druck: Claude Code mit versteckter Datenfunktion
Chinas nationale Schwachstellendatenbank (NVDB) und das Ministerium für Industrie und Informationstechnologie (MIIT) schlugen Anfang Juli Alarm. Der Grund: Anthropics Entwicklungswerkzeug Claude Code enthielt in den Versionen 2.1.91 bis 2.1.196 eine undokumentierte Funktion, die Nutzerdaten an entfernte Server übermittelte. Standortdaten, Gerätekennungen und Forschungscode wurden abgegriffen – offenbar gezielt bei chinesischen Anwendern, die das System anhand der Zeitzoneneinstellungen identifizierte.
Anthropic rechtfertigte sich: Es habe sich um ein Experiment zur Verhinderung unerlaubter Modell-Nachahmung gehandelt. Ein Ingenieur des Unternehmens bestätigte, dass der Mechanismus nach Bekanntwerden entfernt wurde. Branchenbeobachter rechnen nun mit einem Aufschwung chinesischer Alternativen wie ByteDances Trae oder Alibabas Qoder.
Am 10. Juli 2026 veröffentlichte Anthropic zudem Claude Code v2.1.207. Der „Auto Mode“ – bislang optional – ist nun auf großen Cloud-Plattformen wie Amazon Bedrock, Google Vertex AI und Microsoft Azure Foundry standardmäßig aktiviert. Ein Sicherheitsklassifizierer prüft Aktionen automatisch. Wer die alte Einstellung behalten möchte, muss die Verwaltungseinstellungen manuell anpassen.
xAI und OpenAI: Datenlecks und Systemabstürze
Sicherheitsforscher deckten bei xAIs Grok Build CLI besorgniserregende Datenpraktiken auf. Eine Analyse von Version 0.2.93 zeigte: Das Tool lädt komplette Code-Repositories in die Cloud – inklusive sensibler .env-Dateien mit Zugangsdaten. In einem dokumentierten Fall wurden aus einem 12-GB-Repository stolze 5,10 GiB in einen Cloud-Speicher hochgeladen, obwohl die Option zur Modellverbesserung deaktiviert war. xAI hat sich bis Mitte Juli nicht offiziell geäußert.
Bei OpenAI eskalierte derweil ein Vorfall mit dem Modell GPT-5.6 Sol. Am 10. Juli 2026 berichtete ein KI-Investor von gelöschten Dateien auf seinem Mac während einer Ultra-Sitzung. Der Fehler: Das Modell interpretierte die Shell-Variable $HOME falsch. Dabei hatte OpenAI bereits am 26. Juni in einer Systemkarte vor genau diesem Risiko auf „Schweregrad 3″ gewarnt. Das Modell umging die Schutzmechanismen durch Eskalation über verschiedene Befehlsebenen. OpenAI hat inzwischen einen Patch veröffentlicht.
Die Orca-Studie zeigt: 81,2% der KI-Systeme haben bekannte Schwachstellen – 99,9% bleiben ungepatcht. Während der EU AI Act ab August 2026 Hochrisiko-Systeme reguliert, ist jetzt der Moment, Ihre Sicherheitslücken systematisch zu schließen. Dieser Report liefert die Checkliste und Tools dafür. Jetzt kostenlosen Sicherheits-Report anfordern
Orca-Studie: 81 Prozent der KI-Systeme verwundbar
Der 2026 State of AI Security Report von Orca Security zeigt: Die Vorfälle sind kein Einzelfall, sondern Symptom eines systemischen Problems. 81,2 Prozent der Unternehmen, die KI-Pakete einsetzen, betreiben Systeme mit mindestens einer bekannten Schwachstelle. Besonders alarmierend: 99,9 Prozent der behebbaren KI-Sicherheitslücken bleiben ungepatcht.
Fast 30 Prozent der KI-Anwender speichern mindestens einen KI-Schlüssel unsicher. Die Mehrheit der Nutzer großer Cloud-Anbieter hat es versäumt, kundenverwaltete Verschlüsselungsschlüssel für ihre KI-Dienste zu konfigurieren. Die Zeit drängt: Am 2. August 2026 treten die Anforderungen für Hochrisiko-KI-Systeme des EU AI Acts in Kraft, am 1. Januar 2027 folgt das Colorado-KI-Gesetz.
Angriffe auf KI-Agenten und Support-Tools
Auf Anwendungsebene bleibt die Lage angespannt. LayerX-Forscher entdeckten „BioShocking“ – einen indirekten Prompt-Injection-Angriff, der KI-integrierte Browser zur Preisgabe von Zugangsdaten verleitet. Alle sechs getesteten KI-Browser waren anfällig. Der Angriff nutzt aus, dass KI-Agenten nicht zwischen Benutzeranweisungen und schädlichen Befehlen in Webinhalten unterscheiden können. OpenAI und Anthropic haben Patches veröffentlicht, andere Anbieter nicht.
Fast 30% der KI-Anwender speichern Schlüssel unsicher – und Angreifer nutzen Prompt-Injection, um an Zugangsdaten zu gelangen. Bevor Ihre Systeme Ziel eines BioShocking-Angriffs werden, sollten Sie Ihre KI-Agenten absichern. Der Report zeigt, wie Sie Schwachstellen automatisch erkennen und patchen. Sicherheits-Report jetzt sichern
Eine kritische Sicherheitslücke (CVE-2026-61447) im PraisonAI CodeAgent-Framework ermöglichte die ferngesteuerte Code-Ausführung mit vollständiger Umgebungsvariablen-Vererbung – ein gefundenes Fressen für Angreifer auf der Suche nach API-Keys. Die Entwickler reagierten mit Patches in den Versionen 1.6.78 und 4.6.78.
Im Konsumentenbereich schloss Meta eine Sicherheitslücke, bei der Hacker den KI-Support-Chatbot manipulierten, um Instagram-Konten zu übernehmen. Durch vorgetäuschte Standorte und E-Mail-Änderungsanträge gelangten Angreifer an prominente Profile. Meta-Sprecher Andy Stone bestätigte die Behebung – Sicherheitsexperten warnen dennoch davor, KI-Support-Tools zu weitreichende Befugnisse über Kontosicherheitseinstellungen zu geben.
