Die Europäische Union sieht sich im Umgang mit rasant fortschreitenden Technologien künstlicher Intelligenz regulatorisch gut aufgestellt. Henna Virkkunen, Exekutiv-Vizepräsidentin der EU-Kommission für Tech-Souveränität, hat in einem Interview mit der Nachrichtenagentur Reuters den europäischen AI Act gegen den Vorwurf verteidigt, das Gesetzeswerk sei bereits veraltet. Das vor zwei Jahren verabschiedete Regelwerk decke den gesamten Lebenszyklus der Modelle ab und gebe der EU die notwendigen Instrumente an die Hand, um Risiken hochgradig fähiger Systeme und potenziell außer Kontrolle geratener KI-Agenten zu begegnen.
Hintergrund der Äußerungen sind Vorfälle bei führenden Entwicklern wie OpenAI und Anthropic sowie wachsende Befürchtungen vor unkontrollierbaren Systemen. Virkkunen stellte fest, dass die leistungsfähigsten Modelle derzeit aus den USA sowie China stammten und neuartige Gefahren mit sich brächten.
Die Kommissarin forderte die Technologieunternehmen auf, das Tempo bei der Veröffentlichung neuer Versionen zu drosseln, bis diese umfassend getestet seien.
Der intensive Konkurrenzkampf in der Branche verleite Unternehmen dazu, Modelle ohne ausreichende Prüfungen auf den Markt zu bringen. Da die Evaluierung mit steigender Leistungsfähigkeit immer schwieriger werde, lägen die aktuellen Gefahren insbesondere im Bereich der Cybersicherheit.
Ohne wirksame Schutzmechanismen drohten schwere Sicherheitsvorfälle. Auch Anthropic-Chef Dario Amodei warnte in einem Blogbeitrag davor, dass die Entwicklungsgeschwindigkeit die menschliche Fähigkeit übersteigen könnte, diese Systeme zu verstehen und zu kontrollieren.
Wer sich mit den rechtlichen Rahmenbedingungen der neuen Technologie befasst, benötigt einen klaren Überblick über die geltenden Fristen und Pflichten. Dieser kostenlose Download verschafft Ihnen die Orientierung, die Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Brüsseler Informationsersuchen an die Branche
Um bestehende Schutzmaßnahmen genauer zu durchleuchten, sandte die EU-Kommission Ende August 2026 detaillierte Informationsersuchen an mehr als 30 KI-Unternehmen. Die Fragebögen betrafen zunächst Sicherheitsvorkehrungen und wurden später um Fragen zu Transparenz sowie Urheberrechten ergänzt.
Virkkunen bestätigte, dass sich unter den Adressaten auch chinesische Start-ups befänden, nannte jedoch keine Firmennamen oder Zahlen. Nach autonomen Cyberangriffen durch KI-Systeme erhielten OpenAI und Anthropic zusätzliche Anfragen; beide Entwickler räumten unbeabsichtigte Angriffe im Rahmen von Testläufen ein.
Derzeit prüft die Kommission die eingegangenen Rückmeldungen. Nach Angaben von Virkkunen befindet sich das Verfahren im Stadium der Analyse. Es gebe derzeit weder formelle Sanktionsverfahren noch eine feste Frist für den Abschluss dieser Auswertung.
Die rasanten technologischen Entwicklungen bringen nicht nur neue Chancen, sondern auch komplexe rechtliche Pflichten für Unternehmen mit sich. Compliance-Experten erläutern in diesem kostenlosen Umsetzungsleitfaden zum EU AI Act alle relevanten Übergangsfristen, damit Sie rechtlich auf der sicheren Seite bleiben. Kostenlosen KI-Leitfaden jetzt herunterladen
Durchsetzungsbefugnisse und strenge Dokumentationspflichten
Mögliche Konsequenzen bei festgestellten Verstößen sind jedoch weitreichend. Die Anfragen können in formelle Untersuchungen münden, bei denen laut Reuters Geldbußen von bis zu 7 Prozent des weltweiten Jahresumsatzes drohen. Für Verstöße bei Allzweckmodellen weist die Kommission eine Obergrenze von 15 Millionen Euro oder 3 Prozent des globalen Umsatzes aus.
Seit dem 2. August 2026 verfügt das AI Office über entsprechende Durchsetzungsbefugnisse. Unterstützung erhält die Behörde von einem wissenschaftlichen Gremium aus 60 KI-Experten von Forschungseinrichtungen und Universitäten, die Empfehlungen für Richtlinien zur Modellevaluierung erarbeiten.
Für Entwickler gelten umfangreiche Nachweispflichten. Sie müssen technische Dokumentationen einreichen, formale Risikobewertungen durchführen, externe Audits nachweisen und Basismodelle nach deren Bereitstellung fortlaufend überwachen. Modelle mit einer Rechenleistung von mehr als 10^25 FLOPs werden dabei als systemisch riskant eingestuft.
Während Transparenzpflichten gemäß Artikel 50 seit dem 2. August 2026 greifen, gelten Vorgaben für eigenständige Hochrisikosysteme ab dem 2. Dezember 2027 und für eingebettete Systeme ab dem 2. August 2028, nachdem der Rat den angepassten Zeitplan Ende Juni gebilligt hatte.