Die Schatten eines ausgelagerten Instagram-Supports an eine KI. Hackern ist es gelungen, langjährige, hochkarätige Instagram-Konten zu kapern. Dazu haben Sie die Funktion zum Passwort-Reset aufgerufen und den KI-Support-Chatbot von Meta einfach gebeten, die mit dem Konto verknüpfte E-Mail-Adresse zu ändern. Schon war das Konto übernommen.
Zum 1. Juni 2026 gelang es Hackern massive Sicherheitslücken bei Instagram auszunutzen, um Hunderte Benutzerkonten mit seltenen Nutzernamen zu kapern. Leute haben ihren Nutzernamen auf Instagram verloren, den sie seit 2010 besaßen. Manche dieser Konten waren Hunderttausende US-Dollar wert. Laut Berichten ist das Instagram-Benutzerkonto des Weißen Hauses unter von Ex-US-Präsident Obama betroffen. Mir ist der Sachverhalt in diversen Tweets untergekommen. Nachfolgender Tweet von Jason Koebler fasst einige Support-Chats zusammen.
Der Tweet hier skizziert den für die Kontenübernahme genutzten Trick. Der Angreifer geht in der Instagram-Anmeldeseite für das Konto auf den Link Passwort vergessen, und gibt an, sein Konto sei gehackt worden. Dabei schaltet der Angreifer ein virtuelles privates Netzwerk (VPN) ein, um den Standort des Opfers zu simulieren. Den Standort bzw. gewöhnlichen Aufenthaltsort kann man im Bereich Über der Instagram-Seite finden kann.
Meta setzt stark auf KI und zwingt seine Mitarbeiter, diese Technologie zu nutzen. Ergo ist der gesamte Bereich zum Zurücksetzen der Konten an eine KI ausgelagert. Über den Link Passwort vergessen wurde der Angreifer an einem KI-Chatbot weitergereicht. Der KI-Support von Instagram forderte den Angreifer auf, sich mit einem Selfie zu verifizieren.
Der Angreifer verwendete dann ein Foto aus dem Profil des Ziels, und ließ aus diesem Foto eine Animation per, in der sich das Gesicht der Person bewegt, KI-Videogenerator erstellen. Im Anschluss lud er diese Video als Beweis seiner Identität auf die angegeben Instagram Webseite hoch und ließ alles durch die KI verifizieren.
Und die KI von Meta akzeptiert das KI-generierte Video, weil sie kein echtes Selfie von einem KI-generierten Video eines Gesichts nicht erkennen kann. War die Verifizierung erfolgreich, gaben die Hacker an, dass sie eine neue E-Mail-Adresse hätten und baten die KI diese im Profil für die Kontenrücksetzung einzutragen. Der Link zum Zurücksetzen des Passworts wurde dann an die E-Mail-Adresse der Betrüger gesendet. Ab diesem Zeitpunkt hatten die Hacker die Hoheit über das Instagram-Konto. Ein Absicherung per 2FA war wohl unwirksam. Es seien sogar gesperrte Konten übernommen worden.
Meta hat seine, KI-Support die Möglichkeit gegeben, Angaben im Profil eines Instagram-Kontos zu ändern. Ein Kardinalfehler, den Leute herausgefunden haben und ausnutzten. Versuchten die Opfer ihr Konto wiederherzustellen, gerieten sie an den KI-Chatbot, der dann überhaupt nicht helfen konnte. Es gibt keinen Menschen mehr in dieser Kette, den man anrufen und mit dem man sprechen kann.
Meta brauchte Stunden, um das Problem überhaupt zu bestätigen, während jede Minute Konten gestohlen wurden. Inzwischen ist das Problem durch einen Patch beseitigt, aber der Vorfall zeigt die Risiken der Auslagerung von Prozessen an KI. Hier hat eine KI eine andere KI übertölpelt.
Weitere Informationen finden sich in einer Serie Tweets sowie bei Techcrunch. Eine ausführliche Zusammenfassung des Vorgangs ist in diesem Blog-Beitrag abrufbar.
MVP: 2013 – 2016
