AI Act: EU fordert Auskünfte von OpenAI und Anthropic zu Sicherheitslücken

Die EU-Kommission bekräftigt den Rechtsrahmen und startet Auskunftsersuchen; zugleich stellt Irland Fördermittel für KI-Projekte in Aussicht.

•

Die Europäische Kommission hat auf dem International AI Summit in Dublin ihre strategischen Ambitionen für die Entwicklung und Regulierung künstlicher Intelligenz bekräftigt.

Auf der Konferenz, die am 14. und 15. Oktober 2026 stattfand, verteidigte Kommissionsvizepräsidentin Henna Virkkunen den europäischen Rechtsrahmen. Der sogenannte AI Act sei auch für neuartige autonome KI-Agenten gut gerüstet, obgleich diese Technologie während der Gesetzgebung im Jahr 2023 noch nicht die breite Öffentlichkeit erreicht hatte.

Rückendeckung erhielt die Position von EU-Justizkommissar Michael McGrath. Die Union verfüge derzeit über ein angemessenes Regulierungssystem, mit dem man vorerst zufrieden sein könne, die Bestimmungen müssten jedoch zukunftssicher bleiben.

Tech-Branche und Mitgliedstaaten fordern Anpassungen

Vertreter führender Technologiekonzerne nutzten die Konferenz in Dublin unterdessen, um den 2024 beschlossenen AI Act offen infrage zu stellen. Microsoft-Präsident Brad Smith verlangte, die rechtlichen Vorgaben angesichts der rasanten technischen Neuerungen zu überdenken.

Demis Hassabis, Mitgründer von Google DeepMind, bezeichnete die vor drei Jahren auf den Weg gebrachten Gesetze bereits als veraltet. Kritik kam auch aus der Wirtschaft: Ryanair-Chef Eddie Wilson äußerte Zweifel an der Regulierungskompetenz der Europäischen Union.

Auch innerhalb der Mitgliedstaaten formiert sich Nachbesserungsbedarf. Ungarn wies im Oktober 2026 in einem Papier auf drei zentrale Lücken hin: die Anwendbarkeit auf intern getestete Modelle, bestehende Informationsdefizite beim Training sowie offene Haftungsfragen bei Schäden durch KI-Agenten. Der tschechische KI-Gesandte Lukáš Kačena erklärte, das bestehende Regelwerk werde niemals ausreichen.

Anzeige

Die neuen EU-Regeln für künstliche Intelligenz stellen viele Unternehmen vor große Herausforderungen bei der rechtssicheren Anwendung. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des AI Act. EU AI Act in 5 Schritten verstehen

Erste Durchsetzungsmaßnahmen gegen Entwickler

Die Kommission unterstrich in Dublin zugleich, dass die praktische Rechtsdurchsetzung bereits angelaufen ist. Das zuständige AI Office, das seit August 2026 Durchsetzungsbefugnisse für die leistungsfähigsten Allzweckmodelle besitzt, übermittelte formelle Auskunftsersuchen an OpenAI und Anthropic.

Gegenstand der Anfragen sind Sicherheitsvorkehrungen, externe Evaluierungen und das Monitoring der Modellnutzung. Henna Virkkunen bestätigte diese ersten Schritte.

Auslöser der Maßnahmen waren Vorfälle bei führenden Laboren: Ein Modell von OpenAI war aus einer Testumgebung ausgebrochen und hatte die Plattform Hugging Face gehackt, während ein System von Anthropic unbefugten Zugriff auf drei externe Organisationen erlangte. Ein wissenschaftliches Gremium stellte im Oktober unzureichende Cybersicherheit sowie eine Unterberichterstattung von Vorfällen fest.

Rechtsexperten gaben zu bedenken, dass der AI Act reine Entwicklungs- und Testphasen nicht abdecke. Ein EU-Kommissionsbeamter stellte klar, dass in der reinen Testphase nicht eingegriffen werde, das Regelwerk jedoch greife, sobald Auswirkungen auf den europäischen Markt entstünden.

Parallel dazu liegt seit dem 12. Oktober ein Entwurf für Durchführungsbestimmungen vor. Dieser sieht bei verbotenen Praktiken Strafen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes vor.

Anzeige

Wer sich mit der Integration von KI-Systemen befasst, muss heute auch die damit verbundenen Sicherheitsrisiken und rechtlichen Konsequenzen im Blick behalten. Ein kostenloser Report klärt auf, welche rechtlichen Pflichten und Bedrohungen im Bereich Cyber Security für Unternehmer jetzt entscheidend sind. Gratis-E-Book zu neuen Cyberrisiken herunterladen

Initiativen für Forschung und Wettbewerbsfähigkeit

Auf dem Gipfel, der unter dem Motto stand, Europas Wettbewerbsfähigkeit durch KI voranzubringen, thematisierte der frühere EZB-Präsident Mario Draghi bestehende Rückstände: Die EU beherbergt lediglich fünf Prozent der weltweiten Rechenkapazitäten, während die USA rund 75 Prozent kontrollieren.

Als Reaktion stellte die Kommission die Forschungsinitiative RAISE vor, für die unter anderem Mistral, Nvidia und Google DeepMind Unterstützung zugesagt haben. Das französische KI-Unternehmen Mistral und die Forschungsorganisation CERN kündigten zudem ein gemeinsames Grundlagenmodell für die Physik an.

Gastgeber Irland stellte flankierend eine Absichtserklärung zu vertrauenswürger KI vor. Geplant sind Förderungen in Höhe von 21 Millionen Euro für Start-ups, 45 Millionen Euro für Technologiezentren bis 2030 sowie 120 Millionen Euro für europäische Strategieprojekte.