{"id":328280,"date":"2026-08-08T08:21:53","date_gmt":"2026-08-08T06:21:53","guid":{"rendered":"https:\/\/borncity.com\/blog\/?p=328280"},"modified":"2026-08-08T09:48:37","modified_gmt":"2026-08-08T07:48:37","slug":"black-hat-usa-2026-openai-entwickler-erlaeutern-den-ai-angriff-auf-hugging-face","status":"publish","type":"post","link":"https:\/\/borncity.com\/blog\/2026\/08\/08\/black-hat-usa-2026-openai-entwickler-erlaeutern-den-ai-angriff-auf-hugging-face\/","title":{"rendered":"Black Hat USA 2026: OpenAI-Entwickler erl\u00e4utern den AI-Angriff auf Hugging Face"},"content":{"rendered":"

\"SicherheitZwei Entwickler von OpenAI haben in einem Vortrag auf der Black Hat USA 2026-Konferenz beschrieben, wie ihre AI-Modelle\/-Agenten bei einem Testlauf aus der Sandbox ausbrechen und per Internet Hugging Face angreifen konnten. Eine vergessene Datei und Sicherheitsl\u00fccken reichten. Der Vortrag ist auf YouTube abrufbar.<\/p>\n

<\/p>\n

R\u00fcckblick auf diverse AI-Hacks<\/h2>\n

\"\"Im Juli 2026 wurde Hugging Face Opfer eines KI-gest\u00fctzten Cyberangriffs. Ich hatte diesen Vorfall kurz im Beitrag\u00a0Hugging Face Opfer eines KI-Angriffs (Juli 2026)<\/a> hier im Blog aufgegriffen. Sp\u00e4ter stellte sich heraus, dass dieser Angriff von KI-Modellen des Anbieters OpenAI ausging, die bei Tests au\u00dfer Kontrolle geraten waren.<\/p>\n

Ende Juli 2026 wurde bekannt, dass die OpenAI-Modelle weitere Unternehmen gehackt haben. Gleichzeitig musste Anthropic einen solchen Vorfall mit drei Opfern eingestehen. Ich hatte diesen Sachverhalt im Beitrag\u00a0KI-Modelle von Anthropic und OpenAI f\u00fcr diverse Hacks verantwortlich<\/a>\u00a0aufgegriffen.<\/p>\n

Inzwischen ist klar, dass praktisch alle AI-Modelle bei Tests aus der jeweiligen Sandbox ausbrechen und Firmen, Menschen oder Webseiten angreifen konnten. Ich hatte die Tage einen Abriss im Beitrag Weitere Hacks durch KI-Modelle von Anthropic, Meta, OpenAI & Co.<\/a> gegeben.<\/p>\n

Mehr Details zum AI-Angriff auf Hugging Face<\/h2>\n

Zum 5. August 2026 war auf der Black Hat USA 2026-Konferenz ein 40 min\u00fctiger Vortrag angek\u00fcndigt<\/a>, bei dem\u00a0OpenAI-Entwickler den AI-Angriff auf Hugging Face erl\u00e4utern wollten. Michael Dalton, technischer Mitarbeiter bei OpenAI und Eric Wallace, Forscher bei OpenAI wollten laut Vortragsank\u00fcndigung \"den Vorfall zwischen OpenAI und Hugging Face rekonstruieren und dessen Auswirkungen auf die KI-Sicherheit, die Cyber-Resilienz und die Alignment-Problematik untersuchen\". Im Laufe der Veranstaltung sollten sie Erkenntnisse zu wichtigen Themen vermitteln, darunter Modellschutzma\u00dfnahmen, Bewertungs- und Eind\u00e4mmungsverfahren, defensive Anwendungsf\u00e4lle f\u00fcr KI sowie die weiterreichenden Auswirkungen zunehmend autonomer Systeme auf die Cybersicherheits-Community.<\/p>\n

\"Black<\/a><\/p>\n

Die Aufzeichnung des Vortrags von der Black Hat 2026 USA ist in obigem YouTube-Video<\/a> abrufbar. Letztendlich war es eine von den Testern \"vergessene\" Datei, die nicht im Testszenario bereitgestellt worden war. Der AI-Agent, der die Datei f\u00fcr seine Aufgabe ben\u00f6tigte, fand eine Schwachstelle in der Sandbox und konnte auf eine Paketverwaltung auf einem Server zugreifen. Dort legte der AI-Agent eine Nachricht:<\/p>\n

\"Agent seeks soft-trace-34.pdb shalb961; upload if found!\"<\/pre>\n
f\u00fcr andere KI-Agenten ab. Andere KI-Agenten entdeckten diese Nachricht und richteten unerkannt einen Kommunikationskanal ein, \u00fcber die sich sich koordinierten. Ein Schwarm an AI-Agenten versuchte dann die gestellten Testaufgaben auszuf\u00fchren, wobei alle Sicherheitsvorgaben ignoriert wurden. Das f\u00fchrte dann zum Angriff auf Hugging Face. Das ist die kurze Zusammenfassung, was passiert ist.<\/p>\n
Ein englischsprachiger Beitrag zur Session findet sich hier<\/a> und in diesem Artikel<\/a> geht Tomasz Tunguz (ein Venture Kapitalgeber) auf das Thema ein. J\u00fcrgen Schmidt von heise hat sich in diesem Artikel<\/a> \u00fcber diesen Vortrag und die Erkenntnisse aus dem Vorfall ausgelassen. Fazit: Die OpenAI-Leute (und andere AI-Entwickler) sind ziemlich windig bei Tests unterwegs.<\/p>\n
\u00c4hnliche Artikel:<\/strong>
\nHugging Face Opfer eines KI-Angriffs (Juli 2026)<\/a>
\nOpenAI-Modelle f\u00fcr Cyberangriff auf Hugging Face verantwortlich<\/a>
\nKI-Modelle von Anthropic und OpenAI f\u00fcr diverse Hacks verantwortlich<\/a>
\nWeitere Hacks durch KI-Modelle von Anthropic, Meta, OpenAI & Co.<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"
Zwei Entwickler von OpenAI haben in einem Vortrag auf der Black Hat USA 2026-Konferenz beschrieben, wie ihre AI-Modelle\/-Agenten bei einem Testlauf aus der Sandbox ausbrechen und per Internet Hugging Face angreifen konnten. Eine vergessene Datei und Sicherheitsl\u00fccken reichten. Der Vortrag … Weiterlesen →<\/span><\/a><\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,426],"tags":[8382,8400],"class_list":["post-328280","post","type-post","status-publish","format-standard","hentry","category-ai","category-sicherheit","tag-ai","tag-sicherhiet"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/328280","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=328280"}],"version-history":[{"count":4,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/328280\/revisions"}],"predecessor-version":[{"id":328285,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/328280\/revisions\/328285"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=328280"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=328280"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=328280"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}