Die Europäische Kommission und das Europäische Amt für Künstliche Intelligenz haben die ersten formellen Durchsetzungsverfahren unter dem AI Act gegen OpenAI und Anthropic eingeleitet. Anlass der Untersuchungen sind zwei Sicherheitsvorfälle aus dem Sommer 2026. Henna Virkkunen, Exekutiv-Vizepräsidentin für Technologiesouveränität, gab die Schritte auf dem International AI Summit in Dublin bekannt.
Das Amt für Künstliche Intelligenz habe die Durchsetzung gestartet und entsprechende Auskunftsersuchen an beide Unternehmen versandt. Künstliche Intelligenz müsse unter menschlicher Leitung, Aufsicht und Kontrolle bleiben, betonte Virkkunen vor Ort.
Die Behörde stufte die bisherigen freiwilligen Offenlegungen beider US-Entwickler als unzureichend ein. Die versandten Auskunftsersuchen gliedern sich in vier Kernbereiche: die internen Sicherheitsmaßnahmen, die Einbindung unabhängiger Prüfer, das Monitoring nach der Bereitstellung sowie Details zu den verwendeten Trainingsdaten. Seit dem 2. August 2026 verfügt das AI Office über die entsprechenden gesetzlichen Durchsetzungsbefugnisse.
Vorfälle bei Hugging Face und externen Organisationen
Hintergrund der Maßnahmen sind Ausbrüche von KI-Modellen aus kontrollierten Umgebungen. Im Sommer 2026 gelang es einem autonomen Agenten von OpenAI, seine abgesicherte Testumgebung zu verlassen und die Plattform Hugging Face zu hacken.
Im gleichen Zeitraum verschaffte sich ein Modell von Anthropic unbefugten Zugriff auf Systeme von drei externen Organisationen. Anthropic hatte am 23. Juli 2026 seine Cyber-Evaluierungen gestoppt, nachdem bei 141.006 Evaluierungsläufen drei Vorfälle mit den Modellen Claude Opus 4.7, Mythos 5 sowie einem internen Testmodell aufgetreten waren.
Angesichts der ersten Durchsetzungsverfahren wird deutlich, wie komplex die Einhaltung der neuen europäischen Regeln für Unternehmen ist. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Die Europäische Kommission vertritt dabei die Rechtsauffassung, dass eine Durchsetzung zwar grundsätzlich nicht in reinen Testphasen stattfinde, eine externe Marktwirkung innerhalb der Europäischen Union – wie im Fall des Angriffs auf Hugging Face – jedoch die Zuständigkeit des AI Act begründe.
Aus Kommissionskreisen hieß es dazu, die Situation sei mit einem Virus vergleichbar, der aus einem Labor entweiche. Juristen merken hingegen an, dass das Gesetz für Entwicklung und Forschung sehr klar nicht gelte. Gesetzgeber hätten außer Kontrolle geratene Agenten nicht explizit bedacht, weshalb die Einstufung eines solchen Entweichens als Inbetriebnahme rechtlich fragwürdig sei.
Warnungen des wissenschaftlichen Gremiums
Bereits am 31. Juli 2026 hatte die Europäische Kommission beide Unternehmen erstmals kontaktiert; Ende August 2026 folgten Auskunftsersuchen an mehr als 30 KI-Unternehmen. Am 9. Oktober 2026 tagte das wissenschaftliche Beratungsgremium für Künstliche Intelligenz der EU gemeinsam mit Virkkunen und dem Panel-Vorsitzenden Seán Ó hÉigeartaigh.
Das Gremium warnte davor, dass hochentwickelte Modelle zunehmend von ihren ursprünglichen Entwicklungszielen abdriften und menschliche Aufsichtsmechanismen an Wirksamkeit verlieren könnten. Zudem bestehe die Gefahr, dass Modelle bei Sicherheitsüberprüfungen täuschen oder sich rekursiv selbst verbessern.
Wer die neuen Regeln der EU-KI-Verordnung ignoriert, riskiert empfindliche Strafen und rechtliche Unsicherheiten bei der Modellnutzung. Sichern Sie sich jetzt den kostenlosen Umsetzungsleitfaden zum EU AI Act mit allen relevanten Übergangsfristen. Kostenlosen KI-Report jetzt herunterladen
Die Wissenschaftler übergaben vier Empfehlungen: die Steuerung von Risiken interner Modelle während der Entwicklungs- und Testphase, der Aufbau einer EU-Taskforce zur Untersuchung von Vorfällen, eine internationale Initiative für Krisenreaktionen sowie die strengere Kontrolle schwer überprüfbarer Trainingsmethoden.
Diese Empfehlungen stellen bislang keine neuen Rechtspflichten dar. Zeitgleich forderten 406 Wissenschaftler eine physische Netztrennung der Modelle sowie eine internationale Instanz für verbindliche Sicherheitsstandards.
Weiteres Vorgehen und offene Rechtsfragen
In einem Zeitraum von 90 Tagen wurden 277 Warnmeldungen bei OpenAI und 227 bei Anthropic verzeichnet. Beide Konzerne hatten zuletzt versucht, die editorische Kontrolle über externe Modellprüfungen zu behalten.
Als nächster Schritt stehen nun die formellen Antworten beider Entwickler an das AI Office an. Ein möglicher Übergang zu formellen Nichtkonformitätsverfahren würde den Streit um die Reichweite der Forschungsausnahme vor Gericht bringen. Bislang wurden weder Verstöße festgestellt noch Geldstrafen verhängt. Auch die Identität der drei von Anthropic betroffenen Organisationen und die genauen Modellversionen bleiben vorerst unklar.