Hugging Face, eine zentrale Open-Source-Plattform und globale Community für Künstliche Intelligenz (KI) und maschinelles Lernen musste einen Cybervorfall eingestehen. Die Plattform wurde Opfer eines erfolgreichen Angriffs einer KI, der es gelang auf interne Anmeldedaten und die Datenbank zuzugreifen.
Hugging Face ist eine zentrale Open-Source-Plattform und globale Community für Künstliche Intelligenz (KI) und maschinelles Lernen. Sie wird häufig als das „GitHub für KI" bezeichnet, da Entwickler dort KI-Modelle, Datensätze und Anwendungen (sogenannte "Spaces") teilen, entdecken und gemeinsam weiterentwickeln können. Ich habe selbst schon mal AI-Modelle von Hugging Face bezogen.
AI-Angriff auf Hugging Face
In einer Mitteilung Security incident disclosure — July 2026 vom 16. Juli 2026 bestätigt Hugging Face ein Sicherheitsproblem. Anfang der Woche hab man einen Angriff auf einen Teil der Produktionsinfrastruktur entdeckt und darauf reagiert. Dieser Angriff unterschied sich in einem wichtigen Punkt von allen bisherigen Vorfällen, schreibt der Anbieter: Er wurde von Anfang bis Ende von einem autonomen KI-Agentensystem gesteuert – und man habe den Angriff größtenteils mit der eigenen KI aufgedeckt und analysiert.
AI-gesteuerte Vorgehensweise
Der Angriff begann laut Hugging Face dort, wo KI-Plattformen besonders anfällig sind: in der Datenverarbeitungs-Pipeline. Ein bösartiger Datensatz nutzte zwei Codeausführungspfade in der Datensatzverarbeitung aus (einen Loader für Remote-Code und eine Template-Injektion in einer Datensatzkonfiguration), um Code auf einem Verarbeitungs-Worker auszuführen. Von dort aus erlangte der Angreifer Zugriff auf Knotenebene, sammelte Cloud- und Cluster-Anmeldedaten und bewegte sich über ein Wochenende hinweg lateral in mehrere interne Cluster hinein.
Die Kampagne wurde von einem autonomen Agenten-Framework durchgeführt (das offenbar auf einem agentenbasierten Sicherheitsforschungs-Harness aufbaut – das verwendete LLM ist noch nicht bekannt). Das Framework führte viele Tausende einzelner Aktionen über einen Schwarm kurzlebiger Sandboxes hinweg aus. Dabei wurde die selbstmigrierende Command-and-Control-Struktur auf öffentlichen Diensten bereitgestellt. Dies entspricht dem von der Branche prognostizierten Szenario eines "agentenbasierten Angreifers".
Die Folgen
Hugging Face hat unbefugte Zugriffe auf eine begrenzte Anzahl interner Datensätze sowie auf mehrere von eigenen Diensten verwendete Anmeldedaten festgestellt. Der Anbieter ist noch dabei, zu prüfen, ob Daten von Partnern oder Kunden betroffen sind, und will die betroffenen Parteien bei Bedarf direkt kontaktieren.
Man habe keine Hinweise auf Manipulationen an öffentlichen, benutzerseitigen Modellen, Datensätzen oder Spaces gefunden, und unsere Software-Lieferkette (Container-Images und veröffentlichte Pakete) wurde als sicher verifiziert, schreibt Hugging Face.
Autonome, KI-gesteuerte Angriffswerkzeuge sind längst keine Theorie mehr. Sie senken die Kosten für die Durchführung einer breit angelegten, geduldigen und mehrstufigen Kampagne und arbeiten mit maschineller Geschwindigkeit. Die Verteidigung einer Online-Plattform bedeutet heute, die Daten- und Modelloberfläche als vollwertige Angriffsfläche zu betrachten und KI in der Verteidigung einzusetzen, um Schritt zu halten, ist der Schluss von Hugging Face.
MVP: 2013 – 2016
Muss aktuell extrem schwierig sein, ein Service zu betreiben, das so flexibel – User Modelle und User-Code auf den eigenen Servern laufen lässt. Bei all den aktuellen offenen Lücken in den Betriebssystemen – ist ein Abschirmen gegen böswilligen Code, der auf der eigenen Plattform läuft wahrscheinlich eine richtige Challenge. Dies Betrifft nicht nur Huggingface – sondern alle möglichen Anbieter. Ich fürchte da wird noch einiges kommen. Braucht nur jemand aus Python heraus eine Lücke ausnutzen, die sich höhere Rechte holt. Davon gibts aktuell genug.