Microsoft Threat Intelligence meldet eine signifikante Zunahme von Angriffen, die gezielt das Vertrauen in bekannte Dienste wie ChatGPT, Claude, Copilot und DeepSeek ausnutzen. Die Täter kombinieren Phishing, Malvertising und manipulierte Suchergebnisse, um an Zugangsdaten und Kreditkartendaten zu kommen – oder Schadsoftware zu verbreiten.
KI macht Phishing effektiver
Der Microsoft Digital Defense Report 2025 zeigt einen alarmierenden Trend: KI-automatisierte Phishing-Mails erreichen eine Klickrate von 54 Prozent. Herkömmliche Standard-Mails liegen dagegen bei mageren 12 Prozent. Durch die Automatisierung von Recherche und Content-Generierung steigt die Profitabilität solcher Angriffe um das bis zu 50-fache.
Anzeige: KI-Phishing-Mails erreichen eine Klickrate von 54 Prozent – herkömmliche Mails nur 12 Prozent. Allein in den USA betrugen die Verluste durch KI-Betrug fast 900 Millionen US-Dollar. Dieser Leitfaden zeigt Ihnen die 5 wichtigsten Schutzmaßnahmen, Tool-Sicherheitsfunktionen und einen Schulungsleitfaden für Ihr Team. Jetzt kostenlosen Schutzleitfaden anfordern
Anfang Mai entdeckten Experten eine Kampagne unter dem Deckmantel von ChatGPT. Täglich gingen bis zu 100.000 gefälschte E-Mails raus – unter anderem nach Österreich, in die Schweiz und nach Südafrika. Die Empfänger erhielten Warnungen über ein angebliches Downgrade ihres ChatGPT-Plus-Abonnements. Über eine Kette von Umleitungen landeten sie auf betrügerischen Seiten, die Kreditkartendaten abgriffen.
Eine ähnliche Welle im April traf mehr als 2.000 Organisationen weltweit. Hier nutzten die Angreifer präparierte PDF-Dokumente und gefälschte Cloudflare-Prüfungen, um Authentifizierungstoken von Microsoft-Konten zu stehlen.
Miasma-Wurm attackiert Entwickler-Tools
Nicht nur Endverbraucher sind im Visier. Zunehmend geraten Entwickler und technische Infrastrukturen ins Fadenkreuz. Anfang Juni wurde der sogenannte Miasma-Wurm entdeckt – eine Variante des Shai-Hulud-Angriffs. Über 57 infizierte npm-Pakete verbreiteten sich in kürzester Zeit und griffen gezielt die Konfigurationsdateien von KI-Programmierassistenten wie Claude, Cursor und VS Code an.
Ziel: der Diebstahl von Zugangsdaten für Cloud-Dienste wie AWS, Azure und Google Cloud sowie für Passwort-Manager.
Microsoft selbst musste den Zugriff auf Dutzende Open-Source-Projekte auf GitHub vorübergehend sperren. Hacker hatten versucht, Malware in Azure-Tools und KI-Entwicklungsanwendungen zu injizieren.
Meta-Chaos: 20.000 Instagram-Konten gekapert
Ein schwerwiegender Vorfall traf den Mutterkonzern Meta. Ein Fehler in einem KI-basierten Support-Chatbot ermöglichte die Übernahme von über 20.000 Instagram-Konten. Ein Bug erlaubte es, Passwort-Reset-Links an E-Mail-Adressen zu senden, die nicht mit dem jeweiligen Konto verknüpft waren.
Unter den betroffenen Profilen fanden sich auch Konten mit hohem öffentlichem Interesse – etwa offizielle US-Regierungspräsenzen früherer Administrationen. Meta hat das entsprechende Tool deaktiviert und Sicherheitsprüfungen eingeleitet.
Schutzmaßnahmen der Anbieter
OpenAI reagierte im Juni mit neuen Sicherheitsfunktionen für ChatGPT-Konten. Ein optionaler Sicherungsmodus blockiert ausgehende Netzwerkanfragen und verhindert so den Datenabfluss durch Prompt-Injection-Manipulationen. Nutzer können zudem aktive Sitzungen detailliert überwachen und bei Bedarf von anderen Geräten aus beenden.
Anthropic schloss Anfang Mai eine kritische Schwachstelle in seiner GitHub-Integration. Über unsichtbare HTML-Kommentare konnten Angreifer vertrauliche API-Schlüssel auslesen.
Anzeige: Der Miasma-Wurm infizierte über 57 npm-Pakete und griff KI-Entwickler-Tools an. Microsoft musste Dutzende GitHub-Projekte sperren. Schützen Sie Ihre Entwickler-Umgebung mit der Checkliste aus diesem Report – speziell für technische Infrastrukturen. Entwickler-Sicherheits-Checkliste jetzt sichern
Wirtschaftlicher Schaden enorm
Trotz technischer Verbesserungen bleibt die Lage ernst. Ein aktueller FBI-Bericht beziffert die Verluste durch KI-bezogene Betrugsfälle allein in den USA für das vergangene Jahr auf fast 900 Millionen US-Dollar.
Experten raten zu einem mehrschichtigen Schutz: starke Authentifizierung, Verhaltensanalyse und kontinuierliche Schulung der Mitarbeiter. Denn die technische Hürde für komplexe Cyberangriffe sinkt durch den Einsatz von KI-Modellen weiter.
