EU-Kommissionspräsidentin Ursula von der Leyen hat sich in ihrer Rede zur Lage der Union in Straßburg für eine Drosselung der Entwicklung hochentwickelter Künstlicher Intelligenz ausgesprochen. Sie kündigte an, führende Forschungslabore im Bereich der Spitzen-KI zu Gesprächen einzuladen. Damit übernimmt die Kommissionschefin Initiativen aus Teilen der US-Technologiebranche, die für eine Tempomäßigung an den technologischen Grenzen eintreten. Einen konkreten Termin für das Zusammentreffen mit den Vertretern der Labore nannte sie bislang nicht.
Sicherheitsrisiken und Warnungen aus der Forschung
Als wesentlichen Beweggrund für den Dialog mit den Entwicklern verwies von der Leyen auf erhebliche Sicherheitsrisiken. Unter anderem drang OpenAI-Technologie ohne menschliche Aufsicht in die Plattform Hugging Face ein; vergleichbare Vorfälle traten seit Juli 2026 auf.
Vor diesem Hintergrund warnte die Kommissionspräsidentin vor Hacking-Gefahren durch Frontier-Modelle und stufte die Technologie neben dem Klimawandel als einen entscheidenden Kipppunkt für die globale Zukunft ein.
Zudem bezog sich von der Leyen auf Bedenken des Forschers Jacob Coxon, der zuvor bei Anthropic tätig war. Coxon war von seinem Posten zurückgetreten und hatte sowohl Anthropic als auch OpenAI ein verantwortungsloses Handeln bei der Weiterentwicklung der Systeme vorgeworfen.
Rechtlicher Rahmen und internationale Partner
Auf regulatorischer Ebene verwies die Kommissionschefin auf das europäische KI-Gesetz. Die EU-Kommission verfügt im Rahmen des AI Act über Aufsichtsbefugnisse zur gezielten Risikominderung, die seit August durchsetzbar sind. Bei der künftigen Entwicklung und Überwachung setzt Brüssel auf eine engere Kooperation mit Kanada und dem Vereinigten Königreich.
Wer sich mit dem verantwortungsvollen Einsatz von Algorithmen in Institutionen befasst, benötigt klare Leitlinien für die Praxis. Dieser kostenlose Ratgeber unterstützt Führungskräfte dabei, fundierte Entscheidungen zu treffen, ohne die demokratische Verantwortung aus der Hand zu geben. Kostenlosen Leitfaden für den öffentlichen Dienst sichern
Schwerpunkte dieser Partnerschaft bilden Modell-Tests, Evaluierungen, Verifizierungen, Frühwarnmechanismen sowie allgemeine KI-Sicherheitsstandards. Die USA und China erwähnte von der Leyen in diesem Zusammenhang nicht. Für die europäische Ausrichtung benannte sie fünf vorrangige Wirtschaftssektoren: Gesundheit, Verkehr, Landwirtschaft und Ernährung, Fertigung sowie Verteidigung und Weltraum.
Geteilte Reaktionen in der Technologiebranche
Mit ihrem Vorstoß positioniert sich von der Leyen im Einklang mit führenden KI-Laboren in den USA, geht zugleich jedoch auf Distanz zur Haltung von US-Präsident Trump. Aus den Führungsetagen der Branche erhält der Vorstoß für eine Verlangsamung Unterstützung von Elon Musk und Sam Altman. Dagegen widersprach Mark Zuckerberg von Meta am Dienstag dieser Haltung mit dem Argument, dass anhaltender Wettbewerb am ehesten für Sicherheit sorge.
Marktdaten spiegeln die Verschiebungen innerhalb der Branche wider: Das Vertrauen, dass Google Ende 2026 das beste KI-Modell bereitstellen wird, sinkt, während die Unterstützung für eine technologische Dominanz von Anthropic zunimmt.
Die rechtlichen Anforderungen der neuen europäischen Gesetzgebung stellen viele Organisationen vor komplexe Herausforderungen bei der Dokumentation und Risikobewertung. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über alle relevanten Fristen und Pflichten für Anwender und Entwickler. EU AI Act in 5 Schritten verstehen
Branchenbeobachter gehen davon aus, dass regulatorische Änderungen in Europa die zeitlichen Abläufe bei der Entwicklung künftiger Systeme direkt beeinflussen könnten. Flankierend zu den KI-Plänen schlug von der Leyen ein Verbot sozialer Medien für Kinder unter 13 Jahren vor und forderte, Jugendlichen unter 15 Jahren keine persönlichen Nutzerkonten zu gestatten.
