Cyberkriminelle missbrauchen offizielle Freigabe-Funktionen von ChatGPT und Claude, um Malware zu verbreiten.
Sicherheitsforscher haben eine ausgeklügelte Angriffswelle entdeckt, die auf die legitimen Sharing-Funktionen populärer KI-Plattformen setzt. Die Cybersecurity-Unternehmen Push Security und Permiso Security enthüllten Ende Mai 2026, wie Angreifer offizielle Domains von OpenAI und Anthropic kapern, um herkömmliche Sicherheitsfilter zu umgehen.
Gefälschte Systemmeldungen als Einfallstor
Anzeige: Die LLMShare-Kampagne zeigt: Selbst legitime KI-Domains wie chatgpt.com und claude.ai werden zur Malware-Schleuse. Bevor Ihre Sicherheitsfilter umgangen werden, sollten Sie die Risiken kennen. Dieser Report liefert eine Checkliste zur Erkennung gefälschter Systemmeldungen und eine Sandboxing-Anleitung. Jetzt kostenlosen Sicherheits-Report anfordern
Die von Push Security als „LLMShare“ getaufte Kampagne wurde am 29. Mai 2026 identifiziert. Die Taktik: Angreifer schalten Google-Suchanzeigen, die ahnungslose Nutzer auf legitime Shared-Chat-URLs der Domains chatgpt.com und claude.ai locken. Da die Links zur offiziellen KI-Infrastruktur gehören, umgehen sie häufig die automatischen Sicherheitskontrollen, die vertrauenswürdigen Domains vertrauen.
Klickt ein Nutzer auf den Link, erwartet ihn eine täuschend echte Benutzeroberfläche. Bei ChatGPT nutzen die Angreifer die HTML-Rendering-Funktion, um eine gefälschte Systemstörungsmeldung anzuzeigen. Die Botschaft: Der Webservice sei überlastet – man solle eine Desktop-Anwendung herunterladen.
Der Download-Link führt auf die externe Domain openew[.]app, die Schadsoftware für Windows und macOS bereithält. Forscher von BleepingComputer stellten fest, dass die Windows-Version Umgebungschecks durchführt, um virtuelle Maschinen zu erkennen – eine gängige Methode, um Sicherheitsanalysen zu umgehen.
Eine ähnliche Masche zielt auf Nutzer von Anthropics Claude ab. Hier nutzen Angreifer die Artifacts-Funktion, um gefälschte Apple-Supportanleitungen einzublenden. Diese Anleitungen bringen Nutzer dazu, schädliche Befehle in ihrem Systemterminal auszuführen.
Schwachstelle in der Zusammenfassungsfunktion
In einer separaten Enthüllung vom 29. Mai 2026 beschrieb Permiso Security eine als „ChatGPhish“ bekannte Sicherheitslücke. Sie betrifft die Art und Weise, wie ChatGPT Markdown-Inhalte verarbeitet und rendert, wenn es externe Websites zusammenfasst.
Indem Angreifer bösartige Markdown-Links, QR-Codes oder gefälschte Sicherheitswarnungen in eine Webseite einbetten, können sie sicherstellen, dass ChatGPT diese Elemente als Teil seiner vertrauenswürdigen Benutzeroberfläche darstellt. Dies ermöglicht vier verschiedene Angriffsvektoren, darunter UI-Redress-Phishing und passive Tracking-Beacons, die IP-Adressen und Browserinformationen der Opfer sammeln.
Permiso Security informierte OpenAI bereits am 29. April 2026 über die ChatGPhish-Schwachstelle. Der Bericht wurde jedoch als Duplikat eingestuft – ein Patch steht bis heute aus.
Staatliche Akteure im KI-Einsatz
Der Trend, generative KI für Cyberoperationen zu nutzen, erstreckt sich auch auf staatlich gesteuerte Gruppen. Ein Bericht von WithSecure vom 29. Mai 2026 beleuchtet die Aktivitäten der russlandnahen Gruppe GREYVIBE. Seit August 2025 setzt die Gruppe systematisch ChatGPT, Google Gemini und Ideogram AI in ihrer gesamten Angriffskette ein.
GREYVIBE nutzt diese Werkzeuge, um Phishing-Köder zu erstellen, verschleierten Malware-Code zu entwickeln – darunter den LegionRelay-Remote-Access-Trojaner (RAT) – und die Angriffsinfrastruktur zu automatisieren. Zwar hat die Gruppe operative Fehler begangen, etwa das Hochladen von Testproben auf öffentliche Plattformen, doch Forscher betonen: Der KI-Einsatz ermöglicht eine rasche Skalierung von Spionageoperationen gegen Regierungs- und Zivilziele in der Ukraine.
Anzeige: Die ChatGPhish-Schwachstelle bleibt ungepatcht – Angreifer nutzen Markdown-Rendering, um Phishing-Seiten in ChatGPTs Oberfläche zu schleusen. Unternehmen, die KI-Sharing-Funktionen einsetzen, brauchen sofortige Schutzmaßnahmen. Unser Leitfaden zeigt 5 Warnsignale und eine Schritt-für-Schritt-Sandboxing-Anleitung. KI-Phishing-Leitfaden jetzt sichern
Regulierungsdruck wächst
Die neuen KI-basierten Angriffsvektoren haben internationale Regulierungsbehörden auf den Plan gerufen. Am 27. Mai 2026 veröffentlichte das britische National Cyber Security Centre (NCSC) neue Richtlinien. Sie verlangen von öffentlichen KI-Diensten, bis zum 31. Juli 2026 robuste Sandboxing- und Output-Bereinigungsmaßnahmen zu implementieren.
Ähnliche Anforderungen zeichnen sich in der Europäischen Union ab. Nach dem EU-Cybersicherheitsgesetz sollen KI-Diensteanbieter vergleichbare Sicherheitskontrollen und Prompt-Injection-Erkennungssysteme bis zum 1. September 2026 einführen. Sicherheitsexperten empfehlen Unternehmen derweil, eigene Content-Sandboxing- und Nutzerwarnsysteme zu implementieren, um die Risiken durch bösartige LLM-Inhalte zu minimieren.
