Führungskräfte europäischer Niederlassungen von Anthropic und Microsoft haben sich den wachsenden Forderungen nach einer strategischen Verlangsamung der Entwicklung künstlicher Intelligenz angeschlossen. Hintergrund des Vorstoßes sind branchenweite Bedenken hinsichtlich der mit der Technologie verbundenen Risiken.
Pip White, zuständig für Großbritannien, Irland, Nordeuropa und Israel bei Anthropic, bezeichnete die Notwendigkeit von Regulierung als Grundvoraussetzung für verantwortungsvolle Innovation. Anlass für diesen Schritt sind Warnungen vor existenziellen Gefahren durch künstliche Intelligenz.
Branchengrößen drängen auf Selbstregulierung und Sicherheitsstandards
Der Vorstoß knüpft an Initiativen führender US-Entwickler an. Anthropic-Chef Dario Amodei forderte bereits am 12. September 2026 in einem Essay eine Tempodrosselung beim Ausbau von KI-Fähigkeiten sowie eine kartellrechtliche Ausnahme, um gemeinsame Sicherheitsstandards festlegen zu können.
Amodei warnte davor, dass autonome KI-Agenten innerhalb von sechs bis zwölf Monaten Botnetze mit Schäden in dreistelliger Milliardenhöhe aufbauen könnten. Anthropic gewährt externen Prüfern bereits Zugang auf Mitarbeiterebene.
OpenAI-Chef Sam Altman signalisierte Zustimmung für diesen Ansatz und verschob zugleich den Börsengang seines Unternehmens auf das kommende Jahr, um sich als privates Unternehmen auf Sicherheitsfragen und die Modell-Ausrichtung zu konzentrieren. Zwar befürworte er eine Verlangsamung, betonte jedoch, dass ein solches Vorgehen kein vollständiges Stoppen bedeute. Unterstützung für eine Tempodrosselung äußerte auch Elon Musk.
Wer sich mit der strategischen Regulierung und den rechtlichen Rahmenbedingungen von KI-Systemen befasst, findet in diesem Leitfaden eine wichtige Orientierungshilfe. Dieses kostenlose E-Book bietet einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Microsoft veröffentlichte unterdessen den Entwurf für einen Verhaltenskodex für humanistische KI, dessen Endfassung im weiteren Verlauf des Jahres 2026 vorliegen soll. Microsoft-Präsident Brad Smith sprach sich zudem für unabhängige Evaluatoren und einen Notabschalter für KI-Systeme aus.
Zusammen mit Google und Anthropic plant OpenAI laut Medienberichten die Gründung einer Organisation zur Selbstregulierung von Spitzenmodellen ohne staatliche Aufsicht. Das Gremium, das den Namen Frontier AI Standard Agency tragen könnte, soll Ende 2026 oder Anfang 2027 die Arbeit aufnehmen, nachdem ein Modell unter staatlicher Beteiligung mit der US-Regierung nicht zustande kam.
Europäische Unternehmen und Politik wittern Marktabschottung
Auf europäischer Seite stößt der Vorstoß der marktführenden US-Konzerne auf scharfen Widerspruch. Vertreter europäischer Technologieunternehmen wie Mistral werfen den US-Rivalen vor, Sicherheitsbedenken zur Absicherung der eigenen Vormachtstellung zu instrumentalisieren. Raphaël Auphan, operativer Chef von Proton, bezeichnete die Initiative als eigennützig.
Auch Ben Brooks von Black Forest Labs warnte davor, dass willkürlich festgelegte Schwellenwerte offene Innovationen ausbremsen würden. Clément Delangue, Chef von Hugging Face, plädiert statt für eine Drosselung für eine Beschleunigung der Entwicklung, befürwortet jedoch unabhängige Prüfungen.
Die Debatte um Sicherheitsstandards zeigt, dass Unternehmen den rechtlichen Rahmen für neue Technologien genau kennen müssen, um handlungsfähig zu bleiben. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und welche Dokumentationspflichten jetzt konkret auf Sie zukommen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
Auch in der europäischen Politik und Wissenschaft herrscht Skepsis. Kristian Kersting, Professor an der TU Darmstadt, sowie die Wirtschaftswissenschaftlerin Julia Cartwright wiesen auf die Gefahr einer regulatorischen Vereinnahmung hin. Frankreichs Industrieminister Roland Lescure sieht in den Rufen nach Verlangsamung erkennbare Eigeninteressen.
Aus dem deutschen Digitalministerium verlautete, ein Entwicklungsstopp sei mit Blick auf die digitale Souveränität unrealistisch. Daniel Abbou vom Deutschen KI-Verband erklärte, für europäische Firmen sei der Vorstoß nicht relevant, da diese technologisch aufholen müssten.
US-Präsident Donald Trump und Nvidia-Chef Jensen Huang lehnen eine Verlangsamung der Entwicklung ab; Trump verwies dabei auf den weltweiten Technologiewettlauf. Sicherheitsexperten wie Dipto Chakravarty von Black Duck mahnten an, dass Rivalen ihr Tempo nicht drosseln würden, während Forscher weiterhin davor warnen, dass sich selbst verbessernde Superintelligenz innerhalb des nächsten Jahrzehnts außer Kontrolle geraten könnte.
