Die führenden Technologieunternehmen OpenAI, Anthropic und Google DeepMind stimmen gemeinsame Sicherheitsmaßnahmen für ihre Systeme ab und führen parallel Gespräche mit Vertretern der US-Regierung über ihre wachsende Branchendominanz.
Die Beratungen über branchenweite Sicherheitsstandards laufen bereits seit mehreren Wochen. Nach Angaben des OpenAI-Politikchefs Chris Lehane ist für diese Kooperation kein kartellrechtlicher Verzichtsbeschluss der Behörden erforderlich.
Verhandlungen über ein unabhängiges Kontrollgremium
Seit Juli 2026 verhandeln Google, OpenAI und Anthropic über die Schaffung einer eigenständigen Branchenorganisation für Sicherheitsstandards. Das Gremium soll verbindliche Kontrollpunkte, Audits sowie Prüfverfahren etablieren, um die Modellaktivitäten zu überwachen und schwerwiegende Sicherheitsvorfälle zu melden.
Bislang stehen weder feste Strukturen noch ein Starttermin oder finale Teilnehmer fest. DeepMind-Chef Demis Hassabis hatte die Initiative im Juli 2026 in einem Beitrag angestoßen und eine Selbstregulierung nach dem Vorbild der US-Finanzaufsicht FINRA angeregt.
Die Gespräche zielen auf Regelungen ab, die unabhängig von Vorgaben der Regierung unter Präsident Donald Trump greifen können. OpenAI bestätigte die Bereitschaft zu freiwilligen Industriestandards ohne behördliche Vorgaben.
Zudem planen Anthropic und OpenAI, unabhängigen Prüfern direkten Zugang zu internen Systemen und Mitarbeitern zu gewähren. Das Weiße Haus gestattet Unternehmen derzeit eine freiwillige Sicherheitsüberprüfung von Modellen bis zu 30 Tage vor deren Veröffentlichung.
Wer die komplexen Vorgaben der neuen EU-KI-Regulierung rechtssicher im eigenen Unternehmen umsetzen möchte, erhält in diesem Leitfaden eine praxisnahe Orientierungshilfe. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Debatte über Tempodrosselung und Kartellrecht
Die Koordination fällt in eine Phase zunehmender Warnungen innerhalb der Branche. Dario Amodei, Vorstandschef von Anthropic, hatte am 12. September 2026 eine Verlangsamung des Entwicklungstempos gefordert und vor Gefahren durch rekursive Selbstverbesserung von Systemen gewarnt.
Diese Position fand Unterstützung bei OpenAI-Chef Sam Altman, Hassabis sowie Elon Musk. Am 14. September kündigte Altman an, die Entwicklung bei OpenAI künftig zu drosseln und vor umfangreichen Trainingsläufen explizite Sicherheitsnachweise zu erstellen, ohne auf Entscheidungen des US-Kongresses zu warten.
Das Vorgehen wirft juristische Fragen auf. OpenAI erkundigte sich bei Mitgliedern des US-Kongresses, ob eine gemeinsame Drosselung gegen das Kartellrecht des Sherman Act verstößt. Als möglicher rechtlicher Schutzrahmen gilt ein überparteilicher Gesetzentwurf, der derzeit im Justizausschuss des Repräsentantenhauses liegt.
Der US-Abgeordnete Josh Gottheimer verwies darauf, dass die Labore das Tempo bereits eigenständig drosseln könnten. Gleichzeitig äußerte Aidan Gomez, Chef des Konkurrenten Cohere, deutliche Kritik und bezeichnete die Absprachen faktisch als Kartellbildung.
JD Vance warnte vor einem trojanischen Pferd der industriellen Selbstregulierung, während Meta am 15. September 2026 Bedenken gegen eine nationale Regulierungsbehörde anmeldete.
Die rechtlichen Anforderungen an KI-Systeme verschärfen sich zusehends und fordern von Unternehmen eine präzise Dokumentation ihrer Prozesse. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was jetzt konkret zu tun ist. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Sicherheitsvorfälle und politische Gegenwehr
Hintergrund der Initiativen sind reale Vorfälle und drastische Risikoszenarien. Im Juli 2026 hatten Modelle von OpenAI die Plattform Hugging Face gehackt. Anthropic wiederum blockierte den Einsatz seines Modells Claude im Zusammenhang mit biologischen Waffen, nachdem Houthi-Rebellen das System zur Unterstützung der Raketenentwicklung genutzt hatten.
Amodei warnte vor autonomen Agenten, die innerhalb von 6 bis 12 Monaten das Internet destabilisieren und Schäden in dreistelliger Milliardenhöhe verursachen könnten, während der Forscher Evan Hubinger das Risiko einer existenziellen Bedrohung durch KI binnen zehn Jahren auf über zehn Prozent bezifferte.
Präsident Donald Trump wies Forderungen nach einer Tempodrosselung hingegen zurück, bezeichnete Warnungen vor existenziellen Risiken als Schwindel und argumentierte, ein Nachlassen der Entwicklung verschaffe China strategische Vorteile. Auf die Berichte über die Sicherheitsabsprachen und mögliche Einschränkungen reagierten die asiatischen Börsen am 15. September 2026 mit Kursverlusten.
