In der Technologiebranche wächst der Widerstand gegen die jüngsten Warnungen führender KI-Labore vor existenziellen Risiken durch künstliche Intelligenz. Kritiker und ehemalige Branchenmitarbeiter ziehen die Motive hinter den Forderungen nach einer globalen Verlangsamung der Entwicklung in Zweifel. Demnach handle es sich bei den Sicherheitsbedenken teilweise um strategische Manöver, um Marktanteile zu sichern und den Wettbewerb zu behindern.
Absprachen führender KI-Unternehmen ohne Durchsetzungskraft
Am vergangenen Wochenende verständigten sich die Führungskräfte führender KI-Unternehmen auf einen gemeinsamen Drei-Stufen-Plan. Zu den Beteiligten wurden Anthropic-CEO Dario Amodei, OpenAI-Chef Sam Altman, Google-DeepMind-Leiter Demis Hassabis sowie Elon Musk für xAI.
Das Konzept sieht den Einsatz externer Auditoren wie METR, Apollo oder Redwood vor, ergänzt durch eine strengere Regulierung heimischer Labore und das Ziel eines globalen Abkommens zur Verlangsamung der Entwicklung.
Beobachter merkten jedoch an, dass die lose Vereinbarung keinerlei Durchsetzungsmechanismen, einen konkreten Zeitplan oder Obergrenzen für Rechenkapizitäten enthalte. Aidan Gomez, CEO von Cohere, bezeichnete den Vorstoß am 14. September 2026 als ein Kartell unter anderem Namen. Er verwies darauf, dass solche Maßnahmen hohe Eintrittsbarrieren für neue Wettbewerber schaffen würden.
Zudem kritisierte er, dass die als unabhängig deklarierten Evaluatoren häufig von den Firmen finanziert würden, die sie prüfen sollen. Auch Niels Rogge, Ingenieur bei Hugging Face, bezeichnete das Vorgehen als bizarren Unsinn.
Vorwurf der Eigennützigkeit vor geplanten Börsengängen
Zusätzliche Kritik kam von Investorenseite. Michael Burry bezeichnete die Rufe nach einer Verlangsamung in einem Beitrag auf der Plattform X als eigennützig. Er argumentierte am 14. September 2026, dass aktuelle Sprachmodelle (LLMs) keine allgemeine künstliche Intelligenz (AGI) darstellten.
Die Rhetorik über existenzielle Risiken diene dazu, die Bewertungen der Unternehmen zu stützen und eine mögliche Verlangsamung des eigenen Wachstums zu verschleiern.
Während die Branche über die langfristigen Gefahren diskutiert, müssen Unternehmen bereits heute konkrete gesetzliche Vorgaben wie den EU AI Act erfüllen. Dieser kostenlose Leitfaden bietet Ihnen einen kompakten Überblick über alle aktuellen Anforderungen, Pflichten und Fristen. EU AI Act in 5 Schritten verstehen
Burry schrieb zudem auf seinem Substack-Kanal, dass das Motiv hinter den Warnungen eine angestrebte höhere Machtwahrnehmung im Vorfeld von Börsengängen sein könnte. Sowohl OpenAI als auch Anthropic hatten im Sommer IPO-Anträge bei der US-Börsenaufsicht SEC eingereicht.
Eine Verlangsamung der Branche würde laut dem Investor vor allem den bereits etablierten Akteuren helfen, sich gegen kleinere Konkurrenten zu behaupten. Auch David Sacks, Bill Gurley und JD Vance schlossen sich der Kritik an der geforderten Verlangsamung an.
Politische Spaltung und Marktreaktionen
Die politische Reaktion auf die Sicherheitsdebatte fällt geteilt aus. Während Politiker wie Barack Obama, Bernie Sanders und Kamala Harris eine Verlangsamung unterstützen, bezeichnete Donald Trump die Sicherheitsängste als Betrug. Er verglich die Warnungen mit früheren politischen Kontroversen und erklärte, dass lediglich eine starke Führung im Präsidentenamt als Schutzmaßnahme notwendig sei. China wertete die Forderungen durch den Sprecher Guo Jiakun als Panikmache.
Wer sich professionell mit dem Einsatz von KI befasst, muss wissen, welche Systeme als Hochrisiko eingestuft werden und welche Dokumentationspflichten damit verbunden sind. Der kostenlose Umsetzungsleitfaden klärt auf, was Unternehmen jetzt konkret tun müssen, um rechtssicher zu agieren. Kostenlosen Report zu Risikoklassen und Pflichten anfordern
Auf parlamentarischer Ebene verhandeln die US-Senatoren Amy Klobuchar, Ted Cruz und John Thune derzeit über ein KI-Sicherheitsgesetz. Gleichzeitig veröffentlichte Microsoft AI neue Leitlinien für eine humanistische KI, während Anthropic-Mitgründer Jack Clark gegenüber der BBC eine mögliche Pflicht zu einem Notabschalter für KI-Systeme forderte, der von Dritten geprüft werden müsse.
An den Finanzmärkten sorgte die Debatte am 15. September 2026 für Verunsicherung. KI-bezogene Aktien gerieten unter Druck: Nvidia verlor vorbörslich 3 Prozent, während die Papiere von Intel, Micron und SK Hynix jeweils um 5 Prozent nachgaben.
Hintergrund der Sicherheitswarnungen
Anlass für die verschärfte Diskussion waren mehrere Vorfälle in der jüngeren Vergangenheit. Am 12. September 2026 veröffentlichte Dario Amodei ein Essay, in dem er vor autonomen KI-Agenten warnte. Diese könnten nach seiner Einschätzung binnen 6 bis 12 Monaten eigenständig Botnetze betreiben und Schäden in Höhe von Hunderten Milliarden US-Dollar verursachen. Anthropic hatte zuvor Forschungen gestoppt, die zur Entwicklung von Biowaffen hätten beitragen können.
Innerhalb der Unternehmen ist die Besorgnis teilweise hoch. Jacob Coxon, ein ehemaliger Forscher von OpenAI und Anthropic, warnte nach seinem Rücktritt Anfang September in einem weltweit beachteten Thread, dass die Technologie bis zum Ende des Jahrzehnts eine existenzielle Bedrohung darstellen könne.
Während Anthropic-Forscher Evan Hubinger das Aussterberisiko auf über 10 Prozent schätzt, beziffert Marcus Williams von OpenAI das Risiko ohne Regulierung auf 70 Prozent. Bereits im Juli hatten mehr als 1.000 Mitarbeiter von KI-Laboren einen gemeinsamen Brief unterzeichnet, nachdem es zu Cyberangriffen durch KI-Agenten von OpenAI und Hugging Face gekommen war.
