Security incident disclosure \u2014 July 2026<\/a> vom 16. Juli 2026 best\u00e4tigt Hugging Face ein Sicherheitsproblem. Anfang der Woche hab man einen Angriff auf einen Teil der Produktionsinfrastruktur entdeckt und darauf reagiert. Dieser Angriff unterschied sich in einem wichtigen Punkt von allen bisherigen Vorf\u00e4llen, schreibt der Anbieter: Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert \u2013 und man habe den Angriff gr\u00f6\u00dftenteils mit der eigenen KI aufgedeckt und analysiert.<\/p>\nAI-gesteuerte Vorgehensweise<\/h3>\n
Der Angriff begann laut Hugging Face dort, wo KI-Plattformen besonders anf\u00e4llig sind: in der Datenverarbeitungs-Pipeline. Ein b\u00f6sartiger Datensatz nutzte zwei Codeausf\u00fchrungspfade in der Datensatzverarbeitung aus (einen Loader f\u00fcr Remote-Code und eine Template-Injektion in einer Datensatzkonfiguration), um Code auf einem Verarbeitungs-Worker auszuf\u00fchren. Von dort aus erlangte der Angreifer Zugriff auf Knotenebene, sammelte Cloud- und Cluster-Anmeldedaten und bewegte sich \u00fcber ein Wochenende hinweg lateral in mehrere interne Cluster hinein.<\/p>\n
Die Kampagne wurde von einem autonomen Agenten-Framework durchgef\u00fchrt (das offenbar auf einem agentenbasierten Sicherheitsforschungs-Harness aufbaut \u2013 das verwendete LLM ist noch nicht bekannt). Das Framework f\u00fchrte viele Tausende einzelner Aktionen \u00fcber einen Schwarm kurzlebiger Sandboxes hinweg aus. Dabei wurde die selbstmigrierende Command-and-Control-Struktur auf \u00f6ffentlichen Diensten bereitgestellt. Dies entspricht dem von der Branche prognostizierten Szenario eines \"agentenbasierten Angreifers\".<\/p>\n
Die Folgen<\/h3>\n
Hugging Face hat unbefugte Zugriffe auf eine begrenzte Anzahl interner Datens\u00e4tze sowie auf mehrere von eigenen Diensten verwendete Anmeldedaten festgestellt. Der Anbieter ist noch dabei, zu pr\u00fcfen, ob Daten von Partnern oder Kunden betroffen sind, und will die betroffenen Parteien bei Bedarf direkt kontaktieren.<\/p>\n
Man habe keine Hinweise auf Manipulationen an \u00f6ffentlichen, benutzerseitigen Modellen, Datens\u00e4tzen oder Spaces gefunden, und unsere Software-Lieferkette (Container-Images und ver\u00f6ffentlichte Pakete) wurde als sicher verifiziert, schreibt Hugging Face.<\/p>\n
Autonome, KI-gesteuerte Angriffswerkzeuge sind l\u00e4ngst keine Theorie mehr. Sie senken die Kosten f\u00fcr die Durchf\u00fchrung einer breit angelegten, geduldigen und mehrstufigen Kampagne und arbeiten mit maschineller Geschwindigkeit. Die Verteidigung einer Online-Plattform bedeutet heute, die Daten- und Modelloberfl\u00e4che als vollwertige Angriffsfl\u00e4che zu betrachten und KI in der Verteidigung einzusetzen, um Schritt zu halten, ist der Schluss von Hugging Face.<\/p>\n","protected":false},"excerpt":{"rendered":"
Hugging Face, eine zentrale Open-Source-Plattform und globale Community f\u00fcr K\u00fcnstliche Intelligenz (KI) und maschinelles Lernen musste einen Cybervorfall eingestehen. Die Plattform wurde Opfer eines erfolgreichen Angriffs einer KI, der es gelang auf interne Anmeldedaten und die Datenbank zuzugreifen.<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8625,426],"tags":[8382,4328],"class_list":["post-327680","post","type-post","status-publish","format-standard","hentry","category-ai","category-sicherheit","tag-ai","tag-sicherheit"],"_links":{"self":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/327680","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/comments?post=327680"}],"version-history":[{"count":5,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/327680\/revisions"}],"predecessor-version":[{"id":327685,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/posts\/327680\/revisions\/327685"}],"wp:attachment":[{"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/media?parent=327680"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/categories?post=327680"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/borncity.com\/blog\/wp-json\/wp\/v2\/tags?post=327680"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
![\"Sicherheit](\"https:\/\/borncity.com\/blog\/wp-content\/uploads\/2021\/04\/Sicherheit_klein.jpg\" "\\"Sicherheit")
Hugging Face, eine zentrale Open-Source-Plattform und globale Community f\u00fcr K\u00fcnstliche Intelligenz (KI) und maschinelles Lernen musste einen Cybervorfall eingestehen. Die Plattform wurde Opfer eines erfolgreichen Angriffs einer KI, der es gelang auf interne Anmeldedaten und die Datenbank zuzugreifen.<\/p>\n