Eine kritische Schwachstelle im KI-Tool Claude Code hätte Angreifern den Zugriff auf vertrauliche Zugangsdaten ermöglichen können. Microsoft-Forscher deckten die Sicherheitslücke auf und zwangen den Entwickler Anthropic zum schnellen Handeln.
Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Welche KI-Systeme gelten als Hochrisiko?
Prompt-Injection: Wie Angreifer die KI austricksen konnten
Die Schwachstelle betraf die Claude Code GitHub Action – ein Werkzeug, das Entwickler zur Automatisierung von Software-Workflows einsetzen. Microsofts Threat-Intelligence-Abteilung entdeckte, dass sich der KI-Assistent durch sogenannte Prompt-Injection-Angriffe manipulieren ließ.
Die Methode ist ebenso einfach wie tückisch: Angreifer platzierten schädliche Anweisungen in GitHub-Issues, Pull-Requests oder Kommentaren. Da das Tool ungefilterte Inhalte aus GitHub verarbeitete, konnte die KI so getäuscht werden, dass sie auf sensible Systemdateien zugriff.
Besonders brisant: Die Lese-Funktion des Tools war nicht ausreichend abgeschottet. Dadurch konnte die KI die Datei /proc/self/environ auslesen – eine Datei, die häufig sensible Umgebungsvariablen wie den ANTHROPIC_API_KEY oder andere Cloud-Dienst-Tokens enthält. Ein speziell präparierter Kommentar reichte aus, um die KI zur Preisgabe dieser Geheimnisse zu bewegen.
Schnelle Reaktion: Anthropic schließt Sicherheitslücke
Microsoft meldete das Problem am 29. April 2026 über die HackerOne-Plattform an Anthropic. Bereits eine Woche später, am 5. Mai, veröffentlichte das Unternehmen mit Version 2.1.128 ein Update, das die Schwachstelle schloss. Der Patch blockiert explizit den Zugriff der KI auf das /proc/-Verzeichnis – die Extraktion von Umgebungsvariablen ist damit nicht mehr möglich.
Die Entdeckung reiht sich in eine wachsende Zahl von Sicherheitsbedenken ein. Erst am Vortag der Veröffentlichung warnte der frühere CISA-Berater Jack Cable vor dem US-Repräsentantenhaus: „Frontier-KI-Modelle identifizieren Software-Sicherheitslücken schneller, als sie behoben werden können.“ Gemeinsam mit Vertretern von Google Threat Intelligence und dem Frontier Model Forum forderte Cable einen Umstieg auf speichersichere Programmiersprachen und einen „Secure-by-Design“-Ansatz in der KI-Entwicklung.
Angesichts wachsender Cyberrisiken durch KI-Technologien sollten Unternehmen ihre Compliance-Strategie frühzeitig anpassen. Dieser Umsetzungsleitfaden zum EU AI Act bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen für Verantwortliche. Kostenlosen KI-Verordnung Guide herunterladen
Technische Pannen und offensive Sicherheitsarbeit
Die Veröffentlichung des Sicherheitsupdates fiel mit einem separaten technischen Problem bei Anthropic zusammen. Am 5. Juni 2026 kam es ab 17:08 Uhr MEZ zu einer erheblichen Störung der Plattformen, darunter claude.ai, die Claude API und Claude Code. Anthropic bestätigte, dass die Ursache in der Infrastruktur lag – ein Sicherheitsvorfall sei es nicht gewesen. Die Dienste waren noch am selben Tag wieder vollständig verfügbar.
Doch Anthropic zeigt auch, wie KI zur Abwehr von Angriffen eingesetzt werden kann. Erst Anfang Juni half das Modell Claude Opus 4.8 dabei, eine kritische Schwachstelle im Zcash Orchard Privacy Pool zu identifizieren – ein Fehler, der seit Mai 2022 unentdeckt geblieben war. Um solche Forschungen voranzutreiben, hat Anthropic den Zugang zu Project Glasswing erweitert. 150 Institutionen und Firmen können nun das Claude Mythos Modell nutzen, um technische Sicherheitslücken aufzuspüren.
Die strategische Bedeutung dieser Fähigkeiten unterstrich ein Treffen zwischen Anthropic-CEO Dario Amodei und dem Weißen Haus am 18. April 2026. Im Zentrum stand die Vorschau auf Claude Mythos – ein Werkzeug für komplexe Cybersicherheitsaufgaben. Die Botschaft ist klar: KI wird zum entscheidenden Faktor in der nationalen Sicherheitsstrategie.
