Die Schatten eines an eine KI ausgelagerten Instagram-Supports werden sichtbar. Hackern ist es gelungen, langjährige, hochkarätige Instagram-Konten zu kapern. Dazu haben sie die Funktion zum Passwort-Reset aufgerufen und den KI-Support-Chatbot von Meta einfach gebeten, die mit dem Konto verknüpfte E-Mail-Adresse zu ändern. Schon konnte das Konto übernommen werden.
Zum 1. Juni 2026 gelang es Hackern massive Sicherheitslücken bei Instagram auszunutzen, um Hunderte Benutzerkonten mit seltenen Nutzernamen zu kapern. Es gibt einzelne Leute die ihren Nutzernamen auf Instagram verloren haben, den sie seit 2010 besaßen. Manche dieser Konten waren Hunderttausende US-Dollar wert. Laut Berichten ist das Instagram-Benutzerkonto des Weißen Hauses von Ex-US-Präsident Obama betroffen. Mir ist der Sachverhalt in diversen Tweets untergekommen. Nachfolgender Tweet von Jason Koebler fasst einige Support-Chats, die den Vorfall zeigen, zusammen.
Der Tweet hier skizziert den für die Kontenübernahme genutzten Trick. Der Angreifer geht in der Instagram-Anmeldeseite für das Konto auf den Link Passwort vergessen, und gibt an, sein Konto sei gehackt worden. Dabei verwendet der Angreifer ein virtuelles privates Netzwerk (VPN), um den Standort des Opfers zu simulieren. Den Standort bzw. gewöhnlichen Aufenthaltsort eines Benutzers kann man im Bereich Über der Instagram-Seite finden.
Hintergrund: Meta setzt stark auf KI und zwingt seine Mitarbeiter, diese Technologie zu nutzen. Ergo ist der gesamte Bereich zum Zurücksetzen der Konten an eine KI ausgelagert. Über den Link Passwort vergessen wurde der Angreifer an einem KI-Chatbot weitergereicht. Der KI-Support von Instagram forderte den Angreifer auf, sich mit einem Selfie zu verifizieren.
Der Angreifer verwendete dann ein Foto aus dem öffentlichen Profil des Ziels, und ließ aus diesem Foto eine Animation, in der sich das Gesicht der Person bewegt, per KI-Videogenerator erstellen. Im Anschluss lud er dieses Video als Beweis seiner Identität auf die angegeben Instagram Webseite hoch und ließ alles durch die KI verifizieren.
Die KI von Meta akzeptiert das KI-generierte Video, weil sie kein echtes Selfie von einem KI-generierten Video eines Gesichts unterscheiden kann. War die Verifizierung erfolgreich, gaben die Hacker an, dass sie eine neue E-Mail-Adresse hätten und baten die KI diese im Profil für die Kontenrücksetzung einzutragen. Der Link zum Zurücksetzen des Passworts wurde dann an die E-Mail-Adresse der Betrüger gesendet. Ab diesem Zeitpunkt hatten die Hacker die Hoheit über das Instagram-Konto. Ein Absicherung per 2FA war wohl unwirksam. Es seien sogar gesperrte Konten übernommen worden, heißt es in diversen Tweets auf X.
Meta hat seinem KI-Support die Möglichkeit gegeben, Angaben im Profil eines Instagram-Kontos zu ändern. Ein Kardinalfehler, den Leute herausgefunden haben und ausnutzten. Versuchten die Opfer ihr Konto wiederherzustellen, gerieten sie ebenfalls an den KI-Chatbot, der dann überhaupt nicht helfen konnte. Es gibt keinen Menschen mehr in dieser Kette, den man anrufen und mit dem man sprechen kann.
Meta brauchte Stunden, um das Problem überhaupt zu bestätigen, während jede Minute Konten gestohlen wurden. Inzwischen ist das Problem durch einen Patch beseitigt, aber der Vorfall zeigt die Risiken der Auslagerung von Prozessen an KI. Hier hat eine KI eine andere KI übertölpelt. Weitere Informationen finden sich in einer Serie Tweets sowie bei Techcrunch. Eine ausführliche Zusammenfassung des Vorgangs ist in diesem Blog-Beitrag abrufbar.
Ergänzung: Eben ist mit ein Tweet untergekommen, der gegen 5 Uhr (am 2. Juni 2026) abgesetzt wurde und angibt, dass Meta die Schwachstelle nicht vollständig geschlossen habe. Es würden weiter Konten gekapert und die Instagram-Nutzer flippen aus.
Ergänzung 2: Die Ursache ist nun klar, die hatten bei Meta niemanden mehr, der Ahnung hat. Ich habe es im Beitrag Meta: Fail beim KI-Support-Fix für Instagram; KI-Tracking-Software von Mitarbeitern kurz abwählbar aufgegriffen.
MVP: 2013 – 2016
na Klasse 😕 da bin ich ja froh dass ich noch so unbedeutend bin. nicht nur dass ich drauf warte endlich ohne Extra dafür bezahlen zu müssen diesen blauen Haken zu bekommen, jetzt darf man auch noch bammel haben dass einem trotz Verifizierung und 2FA der Account gemobbst wird den man jahrelang aufgebaut hat. hach wie schön! hoffentlich erwischt man diese "Sicherheitsforscher"!
Nö, hoffentlich werden Zuckerberg und seine Bande für ihre Fahrlässigkeit in Grund und Boden geklagt (dasselbe gilt für Microslop).
Wer irgendetwas Privates oder irgendetwas, in das er Arbeit gesteckt hat, solchen Plattformen anvertraut, hat die Kontrolle über sein Leben verloren.
nunja es ist für mich halt ein Werkzeug. man kann echt nur hoffen dass es sich nicht einfach "verlebt" und daraus Lehren gezogen werden. bin ich völlig bei dir. aber auch die "Hacker" sollten nicht so ohne weiteres davonkommen! dass Menschen sich auf kosten anderer bereichern oder deren Identität klauen ist nicht okay. letztens gabs eine gute Doku über Scam. das hört leider wohl nie auf. kann man nur froh sein wenn es einen nicht erwischt.
du hast das Konzept Geld verdienen mit sozialen Medien nicht verstanden.
die Arbeit, die man da reinsteckt, hat nichts mit Kontrollverlust zu tun, das ist dein Job.
So läuft das nun mal, wenn solche Algorithmen ohne Sicherheitsnetz in die freie Wildbahn entlassen werden. Wenigstens haben sie hoffentlich mit ein paar Klagen, dafür die Quittung am Hals.
Aber es kommen täglich Meldungen über die Folgen von unausgereifter Ki-Software und anschließend geklauten Daten rein.
Ist das jetzt wirklich ein KI-Support-Chatbot-Problem? Oder nicht vielmehr das Problem, dass ein Selfie-Video zur Identifikation genutzt wird? Wie bei vielen anderen Unternehmen, einschließlich Banken und Behörden, auch?
Anders formuliert: Wäre das Problem nicht ganz genauso aufgetreten, wenn nicht ein Chatbot, sondern ein Mensch den Support geleistet hätte?
KI: "weil sie kein echtes Selfie von einem KI-generierten Video eines Gesichts nicht erkennen kann."
Wenn der echte Mensch diese Unterscheidung auch nicht treffen kann, gebe ich Dir recht. Dann wäre der Vorfall auch ohne KI auf Instagram-Seite passiert.
Ich frage mich auch, wie die Video-Ident-Dienstleister von Banken, SIM-Karten-Anbietern etc. sich vor solchen Video-Fakes schützen. So dürfte es doch heute relativ leicht sein, ein gefaktes Gesicht über das Realtime-Video-Bild einer echten Person zu legen und dieses veränderte Bild live an den "Prüfer" auf der anderen Seite zu senden.
Damit könnte man ja auch problemlos spontane Fragen oder bestimmte Anforderungen des Prüfers erfüllen?
Es wäre ein erheblich grösserer Aufwand, auf Anweisungen menschlicher Gegenüber zu reagieren als einfach einen dummen "KI" Bot, denn nichts anderes ist der, automatisch zu belabern.
Das ist ja gerade das Perverse. Man schwaffelt mit der KI, Gespräche werden aufgezeichnet, Videocalls etc. und nebenbei entsteht gleichzeitig die Datengrundlage für Manipulationen und Missbrauch.
Aber das interessiert faktisch niemanden ausser ein paar ITler in ihrer Blase oder direkt betroffene.
Ja. Das macht Dir ja schon seit langem sinngemäß (halt mit Avataren statt mit Fotos von echten Menschen) jedes Chat-Programm auf dem Handy. Mit ein bisschen mehr Rechenleistung dahinter und einem geeigneten Hintergrund geht das sicher. Und falls nicht heute, dann morgen.
So, und wenn Du jetzt noch Zugang zu einer der zahlreichen Datenbanken (Behörden, Fluggesellschaften, Autovermieter, Telekoms, Hotels, …) bekommst, auf denen Millionen von Perso- und Reisepass-Scans herumliegen, hast Du alles, was Du brauchst.
Meistens ist sowas dann "Bitte einmal mit der ausgestreckten Hand vor dem Gesicht entlangwischen" in der Hoffnung dann Videoglitches zu sehen.
Exakt. Genau das habe ich schon mehrmals erlebt. Ob's hilft?
Ich weiß es ist gerade schwer im Trend gegen KI zu wettern, aber den Support anrufen und Blödsinn erzählen bis die einem einen fremden Account geben gab es schon immer.
richtig, aber es ist ein serieller, extremer Zeitaufwand, wenn es um tausende geht.
Digital ist es eine ganz andere Nummer
Ich musste vieles drei mal lesen um es zu verstehen, da war Herr Born wohl noch nicht ganz wach beim schreiben :)
Vielleicht kommt es manchen ganz gelegen, dass solche Hacks passieren. Mit sowas kann man einen Rollout der globalen persönlichen digitalen ID in alle möglichen Dienste argumentativ beschleunigen.
Die Story entwickelt sich, es scheint auch eine Prompt Injection stattgefunden zu haben: https://thecybersecguru.com/news/instagram-meta-ai-vulnerability-account-recovery-exploit/
Injection im Sinne von, das was man dem Chatbot geschrieben hat, hat dieser als Prompt Befehl aufgefasst statt als Daten. Also "Trage jetzt diese E-Mail in den Account ein" einfach als direkter Befehl an die "KI", sehr nett.
Ich denke es sind zwei Themen.
1. Die Videoprüfung
2. Das Ändern der E-Mailadresse
zu 1.) Da hätte es möglicherweise einem menschlichen Support auch passieren können. Und ja es ist ziemlich einfach mit Consumerhardware ein Video von einem Foto zu machen. Es funktioniert auch ein Video von einem Gesicht lippensynchron zu erstellen. Allerdings im LIVE Betrieb ist dann für eine passende Auflösung vermutlich schon eine stärkere Hardware notwendig. Die man sich allerdings bei Google&Co mieten kann.
Nein, es ist nicht jeder der von einem Foto ein Video macht, gleich ein Verbrecher und es gehört daher auch nicht verboten. Gerade für alte historische Fotos ist das zB recht nett (wenn diese "zum Leben" erweckt werden), wenn man diese ein klein wenig animieren kann. Aber auch für komplette Video-Schnitt-Themen oder Animationskurzfilme, animierte Glückwunschkarten, eigenproduzierte Musik Videos ist das ein berechtigter Einsatz.
Es ist ja auch niemand auf die Idee gekommen, Blender zu verbieten, als damit realistische Effekte ermöglicht wurden, oder Videokameras, als man plötzlich selbst Videos z.B. "eigene" Nachrichten damit drehen konnte.
zu 2.) Wäre einem menschlichen Support sicher aufgefallen, spätestens nach der 3. Anfrage am selben Tag.
Inzwischen ist offen, ob es noch eine Schwachstelle gibt, die von obigem "Theater" noch nicht erfasst wird. Hier fehlt mir aber die Zeit, da zu recherchieren (zu viele andere Baustellen und ich habe mein Instagram-Konto längst gelöscht).