In einem firmeninternen Meeting hat Sam Altman, der CEO von OpenAI, eine mögliche Drosselung bei der Entwicklung hochentwickelter KI-Modelle thematisiert. Laut Berichten von dieser Woche erklärte Altman, dass OpenAI offen für eine Verlangsamung der Arbeit an sogenannter Frontier-KI sei.
Ein solcher Schritt solle idealerweise in Koordination mit anderen führenden KI-Labors erfolgen, wobei Altman einräumte, dass vermutlich nicht alle Wettbewerber einer solchen Vereinbarung zustimmen würden.
Sicherheitsbedenken und Forderungen der Wissenschaft
Unterstützung für diesen Kurs signalisierte auch der Chefwissenschaftler von OpenAI, Jakub Pachocki. In einem Blogpost am vergangenen Wochenende plädierte er für eine koordinierte Verlangsamung und freiwillige Pausen in der Entwicklung. Ziel müsse es sein, erst gemeinsame Sicherheitsstandards zu etablieren, bevor weitere technologische Sprünge vollzogen werden.
Diese Positionierung folgt auf interne Zwischenfälle im Sommer. Im August pausierte OpenAI das Training seiner neuesten Modelle im Bereich des Reinforcement Learning für zwei Wochen. Hintergrund war ein sicherheitsrelevanter Vorfall mit einem KI-Agenten und der Plattform Hugging Face. Berichten zufolge liegt der größte geplante Trainingslauf für Frontier-Modelle in diesem Bereich weiterhin auf Eis.
Bereits im Juli hatte Altman bei Gesprächen im Weißen Haus die Notwendigkeit einer Verlangsamung erörtert. Zu diesem Zeitpunkt warnte das Unternehmen davor, dass das aktuelle Tempo der KI-Entwicklung zu hoch werden könnte.
Rechtliche Hürden durch das Kartellrecht
Ein wesentliches Hindernis für eine branchenweite Abstimmung stellt das US-Antitrustrecht dar. OpenAI trat in den vergangenen Wochen an Mitglieder des US-Kongresses heran, um rechtliche Klarheit darüber zu gewinnen, ob eine Sicherheitskoordination zwischen konkurrierenden Unternehmen legal möglich ist. Es besteht die Sorge, dass substanzielle Absprachen über Entwicklungsgeschwindigkeiten als wettbewerbswidrig eingestuft werden könnten. Parallel dazu befürwortet OpenAI die Einführung verpflichtender nationaler Sicherheitsauflagen für KI-Systeme in den USA.
Während die Tech-Giganten über freiwillige Pausen diskutieren, schafft der Gesetzgeber bereits Fakten für den Unternehmenseinsatz. Dieser kostenlose Ratgeber erklärt die neuen Risikoklassen und Pflichten, die jedes Unternehmen jetzt kennen muss. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Währenddessen befasst sich der US-Senat mit der Aufarbeitung des Sicherheitsvorfalls im Zusammenhang mit Hugging Face, um den Umgang von OpenAI mit dem Datenleck zu prüfen.
Reaktionen bei Wettbewerbern und in der Forschungsgemeinde
Beim Konkurrenten Anthropic stößt der Vorschlag einer koordinierten Drosselung grundsätzlich auf Gesprächsbereitschaft. Dennoch wird die Debatte von scharfer interner Kritik begleitet.
Am 8. September 2026 kündigte der Anthropic-Forscher Jacob Coxon seine Stelle. Er warf sowohl seinem ehemaligen Arbeitgeber als auch OpenAI vor, leichtfertig mit existenziellen Risiken für die Menschheit umzugehen. Er warnte davor, dass die technologische Entwicklung bis zum Ende des Jahrzehnts unkontrollierbare Gefahren berge. Evan Hubinger, der bei Anthropic den Bereich Alignment leitet, bezifferte die Wahrscheinlichkeit für katastrophale Szenarien auf über 10 %.
Diese Besorgnis wird von weiten Teilen der Fachwelt geteilt. Im Juli unterzeichneten rund 1.400 KI-Forscher von Unternehmen wie OpenAI, Anthropic, Meta und Google DeepMind einen offenen Brief. Darin forderten sie staatliche Instrumente, um die KI-Entwicklung bei Bedarf bewusst drosseln zu können. Eine weitere Petition für einen entsprechenden Mechanismus wurde von über 1.000 Mitarbeitern großer KI-Firmen unterstützt.
Wer sich mit den Risiken moderner KI-Systeme befasst, sollte auch die rechtlichen Rahmenbedingungen für die eigene Organisation im Blick behalten. Ein kostenloser Report klärt auf, welche Systeme als Hochrisiko gelten und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Marktwerte und wirtschaftlicher Kontext
Trotz der Diskussionen um eine Verlangsamung bleiben die Bewertungen der führenden Akteure auf Rekordniveau. Der Wort von OpenAI wird derzeit mit 909,49 Mrd. USD beziffert. Anthropic wird am Nasdaq Private Market mit 1,28 Bio. USD bewertet. Für Anthropic wird zudem ein möglicher Börsengang noch in diesem Monat erwartet, bei dem eine Zielbewertung von bis zu 2 Bio. USD angestrebt wird.
