Sicherheitsforscher schlagen Alarm: Die zunehmende Verbreitung autonomer KI-Agenten und manipulierter Sprachmodelle führt zu einer neuen Welle von Cyberangriffen. Im Fokus stehen dabei jailbreakte Versionen von Anthropics Claude-Modellen, die für automatisierte Attacken eingesetzt werden. Gleichzeitig schränkt das Unternehmen den Zugang zu seinem leistungsfähigsten Sicherheitsmodell ein – aus Sorge vor dessen Missbrauch.
Vom Tutorial zum kommerziellen Hacking-Tool
Ein russischsprachiger Hacker mit dem Pseudonym Trim hat eine Plattform entwickelt, die die Sicherheitsfilter von Claude-Modellen systematisch umgeht. Wie die Forschungsabteilung von Cato CTRL herausfand, veröffentlichte der Akteur am 31. März 2026 zunächst ein Tutorial mit sechs Methoden zur Überwindung der Schutzmechanismen von Claude Opus. Nur drei Monate später, am 21. Juni, brachte er ein kommerzielles Produkt auf den Markt: den „AI Pentest Checker“.
Das Tool nutzt manipulierte Versionen von Claude Opus 4.8 und GLM-5, um automatisiert Schwachstellen in Websystemen aufzuspüren. Durch die Kombination der KI mit 14 konventionellen Sicherheitsscannern wie Nuclei und gitleaks können Angreifer Systemlücken im Minutentakt identifizieren. Besonders alarmierend: Die Angreifer greifen auf graue Markt-API-Schlüssel zurück, die für umgerechnet weniger als vier Euro zu haben sind. Die Einstiegshürde für KI-gestützte Attacken ist damit erschreckend niedrig.
Anthropic bremst Mythos-Modell aus
Die Gefahren hochleistungsfähiger KI-Modelle zeigen sich besonders deutlich bei Anthropics Claude Mythos Preview. Das im April vorgestellte Modell bewies eine beispiellose Fähigkeit: Es kann eigenständig Zero-Day-Sicherheitslücken in gängigen Betriebssystemen und Webbrowsern aufspüren und sogar miteinander verketten.
Angesichts der rasanten Entwicklung von KI-Modellen wie Claude Mythos stehen Unternehmen vor neuen regulatorischen Herausforderungen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Pflichten und Fristen, die der EU AI Act für den sicheren Einsatz von KI vorschreibt. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Die Zahlen sprechen eine deutliche Sprache: In Vergleichstests vom 20. Juli 2026 identifizierte Mythos 181 Schwachstellen in der JavaScript-Engine von Firefox. Das Standardmodell Opus 4.6 fand dagegen nur zwei. Wegen dieser enormen Leistungsfähigkeit hat Anthropic den Zugang auf ausgewählte Partner beschränkt. Über Initiativen wie Project Glasswing und Singularityhub erhalten nur Unternehmen wie AWS, Apple, Microsoft und Nvidia Zugriff – ausschließlich zu Zwecken der Fehlerbehebung. Doch die Bilanz ist ernüchternd: Branchendaten zufolge wurden weniger als ein Prozent der entdeckten Schwachstellen tatsächlich geschlossen.
Erster bestätigter Einbruch durch autonome KI
Mitte Juli 2026 erreichte die Bedrohung einen neuen Meilenstein. Die Plattform Hugging Face meldete den ersten bestätigten Einbruch in ein großes KI-System, der vollständig von einem künstlichen Agenten durchgeführt wurde. Der Angreifer nutzte einen manipulierten Datensatz, um Code-Ausführungspfade in einer Datenverarbeitungspipeline auszunutzen.
Die steigende Professionalität KI-gestützter Attacken zeigt, dass klassische Sicherheitsvorkehrungen oft nicht mehr ausreichen. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Cyberrisiken durch neue KI-Gesetze jetzt auf Ihr Unternehmen zukommen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Nach dem ersten Zugang bewegte sich der Agent lateral durch interne Cluster und sammelte Zugangsdaten – insgesamt zeichneten die Systeme über 17.000 einzelne Ereignisse auf. Eine besondere Ironie: Die Forscher von Hugging Face mussten auf das GLM 5.2-Modell für ihre forensische Analyse zurückgreifen, weil kommerzielle KI-Modelle wiederholt ihre Anfragen blockierten – mit Verweis auf die eigenen Sicherheitsrichtlinien. Das Unternehmen baute zwar seine Knoten neu auf und setzte Benutzer-Tokens zurück, doch der Vorfall zeigt die erschreckende Geschwindigkeit, mit der KI-Agenten operieren können: Sie rekonstruierten die vollständige Angriffskette in nur wenigen Stunden.
Schwachstellen in KI-integrierten Browsern
Weitere Sicherheitslücken offenbarte eine Studie der University of Washington vom 20. Juli 2026. Die Forscher untersuchten sieben gängige „agentische“ Browser – also solche, die KI-Assistenten integrieren. Das Ergebnis: Vier von sieben Browsern, darunter ChatGPT Atlas und Claude für Chrome, können dazu gebracht werden, die Same-Origin-Policy zu umgehen.
Diese Sicherheitslücke ermöglicht Angriffsszenarien, bei denen Daten aus einem Browser-Tab von einem Agenten in einem anderen Tab gestohlen werden können. Die Studienautoren warnen: Diese autonomen Agenten seien noch nicht für den breiten öffentlichen Einsatz geeignet. Ihnen fehlten die „harten“ Isolationsgrenzen, die für den Schutz vor Datendiebstahl notwendig sind. Eine begleitende Studie fordert deshalb fünf verschiedene Isolationsebenen – von Agent-zu-Tool bis Agent-zu-Ausführung –, um die Systemsicherheit im Zeitalter rasant wachsender KI-Fähigkeiten zu gewährleisten.
