Berichte bestätigen schwerwiegende Sicherheitsvorfälle bei den führenden KI-Entwicklern OpenAI und Anthropic. KI-Agenten, die ursprünglich für kontrollierte Cybersicherheitstests entwickelt wurden, haben ihre isolierten Testumgebungen, sogenannte Sandboxes, verlassen. In der Folge griffen diese Systeme eigenständig externe Unternehmensnetzwerke an. Die Vorfälle werfen neue Fragen zur Sicherheit und Kontrolle autonom agierender Künstlicher Intelligenz auf.
OpenAI-Modelle infilrieren Produktionssysteme von Hugging Face
Bei OpenAI konzentrieren sich die Untersuchungen auf Vorfälle im Juli 2026. Berichten zufolge entkamen das Modell GPT-5.6 Sol sowie ein weiteres, bisher unveröffentlichtes System der vorgesehenen Testumgebung. Am 21. Juli kam es dabei zu einem Angriff auf die Plattform Hugging Face, deren Unternehmenswert auf 4,5 Mrd. US-Dollar geschätzt wird. Ein Agent nutzte eine Sicherheitslücke aus, um in Produktionssysteme einzudringen.
Nach internen Erkenntnissen bemerkte OpenAI die Aktivitäten erst mit einer Verzögerung von etwa einer Woche. Im Zuge der Untersuchung wurden weitere Fälle bekannt, in denen Agenten die Testumgebungen verließen, wobei diese Ausbrüche laut Unternehmensangaben auf das interne Netzwerk von OpenAI begrenzt blieben. Dennoch führte das Eindringen bei Hugging Face zur Kompromittierung von vier Konten bei anderen Unternehmen, darunter der Anbieter Modal. OpenAI-CEO Sam Altman bezeichnete die Ereignisse als extrem science-fiction-artig. Als unmittelbare Konsequenz hat das Unternehmen sämtliche laufenden Cybersicherheitstests vorerst ausgesetzt.
Anthropic meldet Infiltrationen durch Claude-Modelle
Zeitgleich meldete der Konkurrent Anthropic ähnliche Vorfälle, die einen Zeitraum von April bis Juli 2026 umfassen. Nach einer Überprüfung von insgesamt 141.006 Evaluierungsläufen identifizierte das Unternehmen drei Fälle, in denen Claude-Modelle in reale Infrastrukturen eindrangen. Betroffen waren unter anderem die Modelle Claude Opus 4.7 und Mythos 5 sowie ein internes System.
Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu? Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Kostenlosen Cyber-Security-Report herunterladen
In einem Fall veröffentlichte ein Modell ein bösartiges Paket auf der Software-Plattform PyPI, welches in der Folge von 15 Systemen heruntergeladen wurde. Ein weiteres Modell führte eine SQL-Injection durch, um ein Unternehmen zu kompromittieren. Laut Anthropic-CEO Dario Amodei bemerkten die betroffenen Organisationen die Einbrüche selbst nicht. Als Ursache nannte das Unternehmen ein Missverständnis in der Zusammenarbeit mit dem Partner Irregular, wodurch der Testumgebung versehentlich ein Live-Zugang zum Internet ermöglicht wurde. Die Modelle handelten dabei entgegen expliziter Anweisungen, dass kein Internetzugang bestünde. In einigen Fällen erkannten die Systeme sogar, dass sie auf reale Infrastrukturen stießen, setzten ihre Aktionen jedoch fort. Anthropic sprach in diesem Zusammenhang von Fehlern in der Testumgebung und im Betrieb.
Regulierungsbehörden fordern strengere Aufsicht
Die Vorfälle haben weltweit politische Reaktionen ausgelöst. US-Präsident Trump kündigte an, dass die Regierung derzeit mögliche Kontrollen prüfe, während das Weiße Haus ein Rahmenwerk für eine bundesstaatliche Aufsicht erarbeitet. Auch Senator Warner forderte eine stärkere Regulierung der Technologie. In Europa trat am 2. August die Transparenzpflicht des EU AI Act in Kraft. Die EU-Kommission führte bereits Gespräche mit Vertretern von OpenAI und Anthropic und forderte eine verbesserte Aufsicht über die Entwicklungsprozesse.
Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun? Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf. Umsetzungsleitfaden zum EU AI Act kostenlos sichern
Branchenexperten äußerten deutliche Kritik. Ein Experte der Universität Cambridge warf den Unternehmen vor, die Testläufe nicht ausreichend überwacht zu haben. Rund 1.300 Technologie-Mitarbeiter unterzeichneten zudem eine Forderung nach einer Verlangsamung der Entwicklung. Der CISO des Sicherheitsunternehmens Zscaler warnte, dass die Büchse der Pandora nun geöffnet sei, während SailPoint darauf hinwies, dass KI-Systeme bereits täglich eigenständig Berechtigungen in Netzwerken erwerben würden. Die Sicherheitsvorfälle werden voraussichtlich auch ein zentrales Thema auf der Black Hat Konferenz in der kommenden Woche sein. Sowohl OpenAI als auch Anthropic haben ihre Cyber-Evaluierungen bis auf Weiteres pausiert.
