Sicherheitsforscher schlagen Alarm: Immer mehr Angreifer nutzen kommerzielle KI-Modelle für Angriffe auf Militär und Behörden. Die Entwicklung markiert einen Wendepunkt in der digitalen Bedrohungslage.
Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu? Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Cyber Security Trends jetzt kostenlos herunterladen
Russische Gruppe GreyVibe setzt auf ChatGPT und Gemini
Eine mit Russland in Verbindung stehende Hackergruppe namens GreyVibe treibt seit August 2025 ihr Unwesen – und setzt dabei auf moderne KI-Werkzeuge. Die Gruppe nutzt Dienste wie ChatGPT, Google Gemini und Ideogram AI, um ihre Angriffe gegen ukrainische Ziele zu verstärken. Im Fokus stehen laut Sicherheitsexperten das ukrainische Militär, Regierungsstellen und Wirtschaftssektoren.
GreyVibe verwendet KI, um verschiedene Schadsoftware-Familien zu entwickeln und zu verschleiern. Dazu gehören LegionRelay, PhantomRelay und die Android-Spionagesoftware FallSpy. Die Angriffsketten tragen Namen wie PhantomMail, PhantomClick und DroneLink. Allerdings entdeckten Forscher Schwachstellen im KI-generierten Code von LegionRelay, die es ihnen ermöglichten, die Aktivitäten der Gruppe zu verfolgen. Hinweise deuten auf Verbindungen zur bekannten Cyberkriminellen-Gruppe TrickBot hin.
Autonome KI-Agenten: Angriff in weniger als einer Stunde
Ein alarmierender Vorfall ereignete sich am 10. Mai 2026. Das Sicherheitsunternehmen Sysdig TRT dokumentierte einen vollständig KI-gesteuerten Cyberangriff. Ein LLM-Agent identifizierte eigenständig eine verwundbare marimo-notebook-Instanz, führte Code aus und entwendete AWS-Zugangsdaten – und das in weniger als einer Stunde.
Der KI-Agent führte eigenständig Aufklärung durch, stahl einen SSH-Schlüssel aus dem AWS Secrets Manager und griff eine PostgreSQL-Datenbank an, um deren Inhalte abzuziehen. Dieser Vorfall zeigt: Autonome Systeme können mittlerweile komplette Cyberoperationen ohne menschliches Eingreifen durchführen.
Zusätzliche Gefahren lauern in der Lieferkette. In einem populären npm-Paket namens codexui-android, das mit dem Codex-Tool verbunden ist, entdeckten Forscher versteckte Malware zum Diebstahl von Zugangsdaten. Das Paket wurde etwa 27.000 Mal pro Woche heruntergeladen und blieb rund einen Monat lang aktiv, bevor es bewaffnet wurde. Es stahl Zugriffs- und Aktualisierungstoken und leitete sie an einen Angreifer-Server weiter.
Studie zeigt: KI hilft vor allem Anfängern
Eine umfassende Studie des RAND-Instituts im Auftrag des britischen KI-Sicherheitsinstituts kommt zu differenzierten Ergebnissen. Zwischen September 2025 und Januar 2026 untersuchten Forscher mit 157 Teilnehmern, wie sich moderne KI-Modelle wie OpenAI o3, GPT-5, Claude Opus 4.1 und Gemini 2.5 Pro auf Angreifer auswirken.
Das Ergebnis: Unerfahrene Angreifer profitierten deutlich – sie arbeiteten 2,2-mal schneller und erzielten einen Effizienzgewinn von 18 Prozentpunkten bei einfachen Angriffsketten. Bei komplexen Angriffen zeigte sich jedoch kein signifikanter Vorteil. Immerhin blockierten die bestehenden Sicherheitsvorkehrungen der Modelle rund 50 Prozent der Angriffsanfragen während der Studie.
Der Einsatz von KI-Systemen in Unternehmen unterliegt mit dem EU AI Act nun strengen gesetzlichen Regeln. Dieser kostenlose Umsetzungsleitfaden hilft Ihnen, Risikoklassen richtig einzuschätzen und alle Dokumentationspflichten fristgerecht zu erfüllen. Gratis E-Book zur KI-Verordnung sichern
Abwehrmaßnahmen: Milliarden-Investitionen und nationale Schutzschilde
Die Bedrohung bleibt nicht unbeantwortet. Am 28. Mai 2026 kündigte IBM eine Fünf-Milliarden-Euro-Investition in das Projekt Lightwell an. 20.000 Ingenieure sollen mit Hilfe modernster KI Schwachstellen in Open-Source-Software und Programmbibliotheken identifizieren und beheben.
Google brachte seine AI Threat Defense-Plattform auf den Markt, die Gemini und Mandiant kombiniert, um Live-Umgebungen zu kartieren und Risiken zu priorisieren. Auch Großbritannien rüstet auf: GCHQ-Direktorin Anne Keast-Butler kündigte am 28. Mai 2026 die Entwicklung eines nationalen KI-Cyberschilds an. Das System soll innerhalb von fünf Jahren voll einsatzbereit sein und kritische Infrastruktur mit agentischer KI schützen.
Nationale Regulierungsbehörden passen ihre Richtlinien an das neue Tempo an. Indiens CERT-In empfiehlt ein 12-Stunden-Fenster für Sicherheitsupdates bei kritischen Schwachstellen – eine Reaktion auf die Geschwindigkeit KI-gestützter Angriffe. Südkoreas Ministerium für Wissenschaft und ICT verabschiedete am 29. Mai 2026 einen neuen Rahmen zur Koordinierung von Abwehrmaßnahmen gegen KI-basierte Cyberbedrohungen in den Bereichen Telekommunikation, Gesundheitswesen und Energie.
