{"id":327041,"date":"2026-07-01T00:05:09","date_gmt":"2026-06-30T22:05:09","guid":{"rendered":"https:\/\/borncity.com\/blog\/?p=327041"},"modified":"2026-07-01T00:57:22","modified_gmt":"2026-06-30T22:57:22","slug":"sicherheitsdesaster-durch-ai-hacks","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2026\/07\/01\/sicherheitsdesaster-durch-ai-hacks\/","title":{"rendered":"Sicherheitsdesaster durch AI-Hacks"},"content":{"rendered":"

\"SicherheitLLMs lassen sich oft von Angreifern durch triviale Prompts missbrauchen und liefern interne Daten oder treiben Missbrauch. Mit manipulierten Bildern lassen sich LLMs mit beispielsweise per JaiLIP \u00fcberreden, Sicherheitsregeln zu ignorieren und sch\u00e4dliche Ausgaben zu generieren. Und AI Coding-Agenten k\u00f6nnen dazu verleitet werden, \u00fcber saubere GitHub-Repositorys Malware zu installieren. Falls wer AI-gest\u00fctzte Browser verwenden sollte: Mit BioShocking l\u00e4sst sich dieser \u00fcberreden, sensible Informationen des Nutzers rauszur\u00fccken.<\/p>\n

<\/p>\n

JaiLIP: Jailbreak f\u00fcr Vision-Language-Modelle<\/h2>\n

\"\"Auf Facebook hat mich ein Leser auf JaiLIP (Jailbreaking with Loss-guided Image Perturbation) hingewiesen. In einer aktuellen Ver\u00f6ffentlichung zeigen Forscher, wie man Vision-Language-Modelle mit winzigen, optimierten Bildanpassungen ausman\u00f6vrieren kann.<\/p>\n

\"JaiLIP<\/a><\/p>\n

Forscher der Florida International University (FIU) haben eine Methode zur Bildbearbeitung entwickelt, bei der kaum sichtbare Ver\u00e4nderungen an einem Bild genutzt werden k\u00f6nnen, um die integrierten Sicherheitsvorkehrungen einiger KI-Modelle zu umgehen. F\u00fcr einen menschlichen Betrachter sieht es wie das Bild eines Pandab\u00e4ren aus. Doch f\u00fcr den KI-Agenten kann ein so manipuliertes Bild ein Universalschl\u00fcssel wirken, der Sicherheitsvorkehrungen umgeht und m\u00f6glicherweise dazu f\u00fchrt, dass das Modell sch\u00e4dliche, irref\u00fchrende oder gegen Richtlinien versto\u00dfende Ergebnisse generiert. Das Ganze wurde in der Studie\u00a0JaiLIP: Jailbreaking Vision-Language Models via Loss Guided Image Perturbation<\/a> ver\u00f6ffentlicht. Zusammenfassungen finden sich auf EurekAlert<\/a>, in diesem Blog-Beitrag<\/a> und z.B. auf WinFuture<\/a>.<\/p>\n

AI Coding-Agenten generieren Malware<\/h2>\n

Das Mozillas 0din-Team konnte zeigen, wie AI Coding-Agenten wie Claude Code dazu verleitet werden k\u00f6nnen, Malware \u00fcber saubere GitHub-Repositorys zu installieren.<\/p>\n

\"Claude<\/a><\/p>\n

Sicherheitsforscher von Mozillas 0din-Gruppe haben Claude Code dazu gebracht, ein Projekt aus einem recht harmlos aussehenden GitHub-Repository zu initialisieren. Das\u00a0 Projekt nutzte dabei den Trick, einen Entwickler zu diesem Schritt zu verleiten, wobei dann das neue Projekt aus einem b\u00f6sartigen GitHub-Repository initialisiert wurde.<\/p>\n

Ein Angreifer h\u00e4tte dann die Kontrolle \u00fcber das eigene Konto des Entwicklers und Zugriff auf alle seine Geheimnisse, API-Schl\u00fcssel, Code, Dokumente, Browsersitzungen und Passw\u00f6rter. Er k\u00f6nnte sogar zus\u00e4tzliche Malware installieren, um sich dauerhaften Zugriff zu sichern. Fast jeder Bot-Agent ist f\u00fcr diese Art von Angriff anf\u00e4llig, auch wenn Claude\u00a0 Code bevorzugt f\u00fcr Programmieraufgaben verwendet wird. Tom's hardware hat die Details im Artikel\u00a0AI coding agents can be tricked into installing malware via 'clean' GitHub repositories<\/a>\u00a0beschrieben.<\/p>\n

Datenabfluss aus AI-Browsern per\u00a0BioShocking-Angriff<\/h2>\n

Gerade ist eine neu Angriffsmethode, als \"BioShocking\" bezeichnet, auf AI-Browser bekannt geworden. Bei diesem Angriff werden \u00fcber besuchte Webseiten Befehle\u00a0 an den AI-Broser \u00fcbermittelt. Diese verleiten den Browser dazu, riskante Handlungen aus der realen Welt als Teil eines fiktiven Szenarios zu betrachten, und Sicherheitsvorkehrungen zu ignorieren.<\/p>\n

\"BioShocking<\/a><\/p>\n

Die Kollegen von Bleeping Computer haben die Angriffsmethode im Beitrag\u00a0New BioShocking attack manipulates AI browser into data theft<\/a> n\u00e4her erl\u00e4utert. Es ist zwar uncool und wenig sexy, aber ich erinnere an meinen Blog-Beitrag Gartner warnt: Blockt aus Sicherheitsgr\u00fcnden alle KI-Browser auf absehbare Zeit<\/a> vom Dezember 2025, wo vor so was gewarnt wurde. Gro\u00dfmutter sagte immer: \"Jeden Tag steht ein Dummer auf, man muss ihn nur finden\" – dank KI wird das zum Kinderspiel.<\/p>\n

\u00c4hnliche Artikel:<\/strong>
\nGartner warnt: Blockt aus Sicherheitsgr\u00fcnden alle KI-Browser auf absehbare Zeit<\/a>
\nPerplexity Comet-Browser: Datenklau durch simple Kalendereinladung bis vorigen Monat m\u00f6glich<\/a>
\nClawdbot \u2013 Moltbot \u2013 Openclaw: Hei\u00dfer AI-Schei\u00df und Sicherheitsdesaster<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

LLMs lassen sich oft von Angreifern durch triviale Prompts missbrauchen und liefern interne Daten oder treiben Missbrauch. Mit manipulierten Bildern lassen sich LLMs mit beispielsweise per JaiLIP \u00fcberreden, Sicherheitsregeln zu ignorieren und sch\u00e4dliche Ausgaben zu generieren. Und AI Coding-Agenten k\u00f6nnen … Weiterlesen →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,7263,426],"tags":[8382,1171,4328],"class_list":["post-327041","post","type-post","status-publish","format-standard","hentry","category-ai","category-cloud","category-sicherheit","tag-ai","tag-cloud","tag-sicherheit"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/327041","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=327041"}],"version-history":[{"count":5,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/327041\/revisions"}],"predecessor-version":[{"id":327044,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/327041\/revisions\/327044"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=327041"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=327041"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=327041"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}