Eine Sicherheitslücke im KI-gestützten Support-System von Meta hat die Kontrolle über mehrere prominente Instagram-Profile ermöglicht. Angreifer manipulierten den Chatbot durch gezielte Texteingaben und umgingen so die Sicherheitsmechanismen der Plattform.
Manipulation durch Prompt-Injection
Die Angreifer nutzten eine Schwachstelle im KI-Support-Assistenten von Meta aus. Durch einfache Texteingaben, sogenannte Prompt-Injections, ließ sich der Chatbot dazu bewegen, die mit einem Konto verknüpfte E-Mail-Adresse zu ändern.
Der Fall Meta zeigt, wie schnell KI-Systeme zum Sicherheitsrisiko werden können, wenn die rechtlichen und technischen Leitplanken fehlen. Dieser kostenlose Ratgeber hilft Ihnen, die Anforderungen der neuen EU-KI-Verordnung zu verstehen und Ihre Systeme rechtssicher zu gestalten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Um die Sicherheitsfilter zu umgehen, täuschten die Hacker mittels VPN-Verbindungen den Standort der rechtmäßigen Kontoinhaber vor. Sobald der Chatbot die neue E-Mail-Adresse hinterlegt hatte, forderten die Angreifer einen Passwort-Reset-Code an – direkt an ihre eigenen Postfächer.
Betroffen waren unter anderem ein früherer Account des Weißen Hauses unter Barack Obama, das Konto des Space-Force-Offiziers John F. Bentivegna sowie Profile der Kosmetikkette Sephora und der App-Forscherin Jane Manchun Wong. Auf einigen kompromittierten Konten wurde in der Folge pro-iranische Propaganda verbreitet.
Meta bestätigte, dass die Sicherheitslücke inzwischen durch ein Notfall-Update geschlossen wurde. Nutzer mit aktivierter Zwei-Faktor-Authentifizierung (2FA) blieben von dieser Angriffsmethode weitgehend verschont.
Systemische Risiken durch automatisierte Schwachstellensuche
Während die Lücke bei Meta einen konkreten Missbrauch darstellt, sehen Experten in leistungsfähigeren KI-Modellen eine grundlegende Bedrohung für die IT-Infrastruktur. Anthropics Modell „Claude Mythos“ ist laut Berichten in der Lage, Softwarelücken in Rekordtempo zu identifizieren.
In Testreihen mit über 1.000 Open-Source-Projekten fand die KI insgesamt 1.726 bestätigte Schwachstellen, davon mehr als 1.000 als hochgradig kritisch eingestuft. Unter den Entdeckungen befand sich eine seit 27 Jahren bestehende Lücke in OpenBSD sowie eine Root-Zugriffs-Schwachstelle in FreeBSD (CVE-2026-4747).
Anthropic hält das Modell unter Verschluss und gewährt im Rahmen des „Project Glasswing“ nur ausgewählten Partnern wie Amazon, Microsoft, Nvidia und der EU-Sicherheitsbehörde ENISA Zugriff. Die Europäische Zentralbank und der Internationale Währungsfonds warnen vor einem systemischen Risiko für das globale Finanzsystem, sollte die Technologie unkontrolliert in die Hände von Cyberkriminellen gelangen.
Rechtliche Haftung und betriebliche Sicherheitsdefizite
Die Zunahme KI-bezogener Sicherheitsvorfälle rückt auch die rechtliche Verantwortung der Betreiber in den Fokus. Das Oberlandesgericht Hamm entschied, dass Unternehmen für falsche oder irreführende Aussagen ihrer KI-Chatbots haften müssen. Die Systeme seien Teil des Verantwortungsbereichs der Betreiber.
Die Verbindung aus neuen KI-Gesetzen und komplexen Cyberrisiken stellt Unternehmer vor völlig neue Herausforderungen beim Schutz ihrer Daten. Erfahren Sie in diesem kostenlosen Report, welche rechtlichen Pflichten und Bedrohungen Sie jetzt kennen müssen, um Ihr Unternehmen proaktiv abzusichern. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Trotz der steigenden Bedrohungslage zeigt eine aktuelle Marktstudie erhebliche defizite in der Unternehmenssicherheit. Zwar ist ein Großteil der Führungskräfte besorgt über KI-gestützte Angriffe, doch setzt bisher nur knapp ein Drittel der Unternehmen selbst KI zur aktiven Abwehr ein.
Die sogenannte Schatten-KI stellt ein wachsendes Risiko dar: In Deutschland nutzen viele Beschäftigte nicht freigegebene KI-Dienste für berufliche Zwecke und geben dabei vertrauliche Daten preis. Experten warnen, dass die Zeitspanne zwischen der Entdeckung einer Lücke durch KI und deren Ausnutzung massiv gesunken ist – während Unternehmen für Sicherheitspatches im Durchschnitt weiterhin mehrere Wochen benötigen.
