Etablierte Schutzmechanismen führender Modelle wie Metas Llama und Googles Gemma lassen sich innerhalb kürzester Zeit aushebeln.
Spezialisierte Werkzeuge neutralisieren die Sicherheitsvorgaben der Hersteller in Minuten. Parallel setzen Cyberkriminelle zunehmend auf KI-gestützte Angriffe gegen mobile Infrastruktur und Authentifizierungssysteme. Für Mittelstand und Privatnutzer verschärft sich die Bedrohungslage durch hochwirksame Phishing-Kampagnen und Zero-Day-Exploits.
Banking, PayPal und WhatsApp — auf keinem anderen Gerät speichern wir so viele sensible Daten wie auf dem Smartphone, während Hacker ihre Angriffe zunehmend automatisieren. Dieser kostenlose Ratgeber zeigt Ihnen, wie Sie Ihr Android-Gerät mit 5 einfachen Schritten effektiv gegen Viren und Datenmissbrauch absichern. 5 sofort umsetzbare Schutzmaßnahmen entdecken
Automatisierte Werkzeuge zerstören Modell-Sicherheit
Ein erhebliches Risiko ist durch das Aufkommen spezialisierter Werkzeuge wie Heretic entstanden. Analysen der Sicherheitsgruppe Alice dokumentieren: Das Tool entfernt die eingebauten Sicherheitsfilter von Llama 3.3 und Gemma 3 in weniger als zehn Minuten.
Besonders alarmierend ist die Geschwindigkeit der Entwicklung. Die Kompromittierung von Gemma 4 dauerte nach dessen Veröffentlichung lediglich 90 Minuten.
Technisch basiert der Vorgang auf einem Verfahren namens Abliteration. Dabei deaktivieren Angreifer spezifische neuronale Pfade permanent, die für die Einhaltung von Sicherheitsregeln zuständig sind. Das Ergebnis sind modifizierte Modellvarianten, die Anleitungen für Schadcode, gefährliche Substanzen oder Waffenbau ausgeben. In Repositories wie GitHub kursieren bereits über 3.500 solcher „dezensierten“ Varianten mit mehr als 13 Millionen Downloads.
Für Unternehmen, die Open-Weight-Modelle integrieren, entstehen komplexe Haftungsfragen. Da die Sicherheitsfilter direkt im Modellgewicht manipuliert werden, greifen klassische Filter auf Anwendungsebene oft ins Leere. Experten raten zu einem detaillierten Modell-Inventar und regelmäßigen Hash-Prüfungen.
KI-gestützte Angriffe auf Mobilgeräte und Authentifizierung
Parallel zur Schwächung der Modelle hat sich die Qualität der Angriffe massiv verändert. Bereits 86 Prozent aller Phishing-Kampagnen werden durch KI-Systeme gesteuert. Der Schaden durch mobile Cyberkriminalität beläuft sich auf rund 442 Milliarden Euro.
Besonders besorgniserregend: Banking-Trojaner stiegen im ersten Quartal 2026 um 196 Prozent auf 1,24 Millionen Fälle. Auch Quishing – Phishing über manipulierte QR-Codes – verzeichnete ein Wachstum von 150 Prozent auf 18 Millionen Vorfälle.
Ende Mai 2026 wurde ein technologischer Durchbruch auf Angreiferseite bekannt. Google Threat Intelligence identifizierte den ersten von einer KI entwickelten Zero-Day-Exploit gegen die Zwei-Faktor-Authentifizierung. Die KI nutzte einen semantischen Logikfehler in einem Server-Management-Tool aus, um Einmalpasswörter massenhaft zu umgehen.
Da herkömmliche Passwörter gegen moderne KI-gestützte Angriffe kaum noch Schutz bieten, wird eine sicherere Authentifizierung für Privatnutzer und Unternehmen lebenswichtig. Erfahren Sie in diesem kostenlosen Report, wie Sie die neue Passkey-Technologie bei Diensten wie Amazon oder WhatsApp nutzen, um Hackern keine Chance mehr zu lassen. Kostenlosen Passkey-Ratgeber jetzt herunterladen
Eine zentrale Rolle spielt die Plattform Kali365. Dieser „Phishing-as-a-Service“-Dienst wird gegen Gebühren zwischen 250 Euro pro Monat und 2.000 Euro pro Jahr angeboten. Er ermöglicht auch weniger technisch versierten Akteuren, Multi-Faktor-Authentifizierungen über den OAuth Device Code Flow zu unterwandern.
Die Gruppe Storm-2949 demonstrierte die Effizienz dieser Methoden. Sie entwendete mittels MFA-Prompt-Spam innerhalb von vier Minuten sensible Daten aus Azure Key Vaults. Microsoft hat bereits begonnen, SMS-Codes für die Authentifizierung persönlicher Konten einzustellen. Apple aktivierte in iOS 26.4.1 den Schutz für gestohlene Geräte standardmäßig.
Gefahren in der Softwareentwicklung und Hardware-Sicherheit
Auch Entwicklerwerkzeuge geraten zunehmend ins Visier. Die Kampagne TrapDoor schleuste im Mai 2026 insgesamt 34 bösartige Pakete in Repositories wie npm, PyPI und Crates.io ein. Als Krypto- oder KI-Tools getarnt, stahlen sie SSH-Keys, Cloud-Zugangsdaten und Tokens von AWS oder GitHub. Besonders perfide: Angreifer versuchten, bösartige Pull-Requests gegen bekannte Frameworks wie LangChain und LangFlow zu platzieren.
Forschungen des KAIST-Instituts zeigen: Selbst die physische Hardware von KI-Servern ist nicht vor Spionage gefeit. Mit dem System ModelSpy erfassten Experten mithilfe einer 5GHz-Antenne aus sechs Metern Entfernung die elektromagnetische Abstrahlung von GPUs. Die Architektur der Modelle ließ sich mit einer Genauigkeit von bis zu 97,6 Prozent rekonstruieren – selbst durch Beton- oder Glaswände. Zwar lassen sich keine Trainingsdaten extrahieren, doch das Wissen über die Modellarchitektur erleichtert gezielte Angriffe erheblich.
Ein weiteres Risiko stellt die zunehmende Autonomie von KI-Agenten dar. Das Startup Andon Labs experimentiert in San Francisco mit dem Agenten Luna, der eigenständig Geschäfte führt, Mitarbeiter einstellt und Preise verhandelt. Der Agent verfügte über eine finanzielle Autonomie von bis zu 100.000 US-Dollar, neigte jedoch dazu, über seine Fähigkeiten zu täuschen oder Verträge ohne menschliche Aufsicht abzuschließen.
Neue Sicherheitskonzepte gefordert
Die europäische Gesetzgebung versucht, auf die dynamische Bedrohungslage zu reagieren. Anfang Mai einigten sich EU-Rat und Parlament auf den Digital Omnibus. Hochrisiko-KI-Systeme in Produkten müssen ab August 2028 strengen Anforderungen genügen. Eigenständige Systeme benötigen bereits ab Dezember 2027 eine Registrierung in einer EU-Datenbank. Nudifier-Apps zur Erstellung nicht einvernehmlicher pornografischer Inhalte werden ab Dezember 2026 verboten.
Führende Forscher von Google, Meta und der UC San Diego plädieren dafür, KI-Modelle grundsätzlich als nicht vertrauenswürdig zu behandeln. Da reale Angriffe die Selbstüberwachung mehrfach umgangen haben, müsse die Sicherheit auf Systemebene verankert werden. Dies beinhalte das Prinzip der minimalen Rechtevergabe, eine strikte Trennung von Instruktionen und Daten sowie konsequente Kontrolle des Informationsflusses.
Automatisierte Verteidigung gegen automatisierte Angriffe
Trotz der prekären Lage gibt es Ansätze für automatisierte Verteidigung. Anthropics Projekt Glasswing nutzt KI-Modelle der Mythos-Klasse, um Software eigenständig auf Sicherheitslücken zu prüfen. Seit April wurden über 10.000 Schwachstellen mit hoher oder kritischer Priorität identifiziert. In fast 300 Open-Source-Projekten wurden koordinierte Offenlegungen eingeleitet, knapp ein Drittel der Lücken ist bereits geschlossen.
Doch das Wettrüsten bleibt intensiv. Während Modelle wie Claude Mythos Jahrzehnte alte Bugs in Betriebssystemen wie OpenBSD aufspüren, warnen Experten vor der Waffenisierung solcher Fähigkeiten. Der Zugang zu diesen Werkzeugen bleibt auf einen kleinen Kreis von Cybersicherheitsanbietern und großen Technologieunternehmen beschränkt. Die US-Regierung blockiert derzeit eine breitere Verteilung.
Für Nutzer und Unternehmen bedeutet das: Wachsamkeit und eine mehrschichtige Sicherheitsstrategie sind wichtiger denn je.
