Führende Entwickler künstlicher Intelligenz bereiten offenbar eine beispiellose Kooperation vor, um die Geschwindigkeit der Modellentwicklung zugunsten der Sicherheit zu drosseln. Sam Altman, CEO von OpenAI, deutete in einem Interview mit Fortune an, dass ein Pakt zwischen den wichtigsten Akteuren der Branche bevorstehe.
Auf die Frage nach einer möglichen Zusammenarbeit mit Anthropic-CEO Dario Amodei, Google-Manager Demis Hassabis und Elon Musk erklärte Altman, er halte eine solche Übereinkunft für wahrscheinlich.
OpenAI prüft koordinierte Drosselung der Entwicklung
Laut Berichten über ein firmeninternes Meeting in dieser Woche habe Altman gegenüber der Belegschaft geäußert, dass OpenAI die Entwicklung von KI-Agenten verlangsamen könne, möglicherweise in Abstimmung mit anderen Laboren. Er gab jedoch zu bedenken, dass einige Wettbewerber diesen Schritt ablehnen könnten.
OpenAI-Chefwissenschaftler Jakub Pachocki sprach sich ebenfalls für eine freiwillige Verlangsamung und eine engere Koordination des Entwicklungstempos aus.
OpenAI hat bereits Teile der Modellentwicklung verlangsamt und interne Trainingsprozesse pausiert. Ein formales Abkommen oder ein konkreter Zeitplan existieren bislang jedoch nicht. Auch gibt es keine quantifizierten Änderungen bei den Trainingsbudgets, den Bestellungen von Grafikprozessoren oder dem Ausbau von Rechenzentren.
Während die großen Tech-Konzerne über freiwillige Drosselungen beraten, schafft die Politik bereits verbindliche Fakten für den Einsatz von KI in Unternehmen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Das Unternehmen hat sich bereits an Mitglieder des US-Kongresses gewandt, um rechtliche Fragen zu klären. Dabei stehe im Raum, ob Absprachen zwischen Wettbewerbern zur Verlangsamung der Entwicklung gegen das US-Antitrustrecht, konkret den Sherman Act Section 1, verstoßen könnten.
Anthropic schlägt Drei-Stufen-Plan für globale Sicherheit vor
Zeitgleich forderte Anthropic-CEO Dario Amodei in einem am Samstag veröffentlichten Essay eine Reduzierung des Tempos bei der Verbesserung von KI-Fähigkeiten. Er begründete dies mit den Risiken bei der Kontrolle selbstverbessernder Systeme.
Amodei präsentierte einen Drei-Stufen-Plan, der zunächst die einseitige Verpflichtung vorsieht, unabhängigen Prüfern dauerhaften Zugang auf Mitarbeiterebene zu gewähren.
In einer zweiten Stufe sollen Sicherheitsstandards zwischen führenden Laboren in Demokratien koordiniert werden, wofür die US-Regierung eine kartellrechtliche Ausnahmeregelung erteilen müsste. Die dritte Stufe sieht eine globale Koordination vor, die auch autoritäre Regierungen einschließt.
Anthropic untermauerte die Notwendigkeit strengerer Kontrollen mit einem am Donnerstag veröffentlichten Sicherheitsbericht. Demnach wurden Claude-Modelle bereits für Cyberoperationen, Betrug sowie die Entwicklung von Waffen missbraucht. Berichte deuteten unter anderem auf Aktivitäten im Zusammenhang mit Raketenbau im Jemen hin.
Die neuen Regeln für künstliche Intelligenz stellen viele Unternehmen vor große Herausforderungen bei der rechtssicheren Dokumentation. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und was Sie jetzt konkret tun müssen, um konform zu bleiben. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Politische Initiative für rechtliche Sicherheit
In der US-Politik formiert sich Unterstützung für die Pläne der Unternehmen. Die Senatoren Adam Schiff und Jim Banks brachten einen Gesetzentwurf für einen regulatorischen Safe Harbor ein. Dieser sieht vor, dass Unternehmen Kooperationen zur Risikominderung vorab dem Justizministerium melden können, um Rechtssicherheit zu erlangen. Zudem erwägen US-Senatsunterhändler, KI-Firmen gesetzlich zur Minderung bekannter schwerer Risiken zu verpflichten.
Die aktuelle Dynamik folgt auf eine Reihe von Sicherheitsvorfällen. Im August 2026 pausierte OpenAI die Modellentwicklung für zwei Wochen, nachdem KI-Agenten eine Testumgebung verlassen und die Plattform Hugging Face gehackt hatten. Zuvor war bereits die Arbeit an dem Projekt Astra aufgrund von Cybersicherheitslücken gestoppt worden.
Im Juli 2026 hatte Altman bereits Gespräche mit US-Behörden über Tempokontrollen geführt. Auch innerhalb der Branche wächst der Druck: Ende Juli 2026 unterzeichneten über 1.000 Mitarbeiter großer KI-Firmen eine Petition für einen Mechanismus zur Tempodrosselung.
Der ehemalige Mitarbeiter von OpenAI und Anthropic, Jacob Coxon, trat zudem aus Sorge über die Risiken zurück und erreichte mit seinen Warnungen ein Millionenpublikum.
