Die führenden Technologieunternehmen OpenAI, Anthropic und Google DeepMind haben eine seltene Verständigung erzielt, gemeinsame Strategien zur freiwilligen Selbstregulierung zu verfolgen. Ziel des Vorstoßes ist es, wachsenden Sicherheitsbedenken beim rasanten Fortschritt künstlicher Intelligenz zu begegnen.
OpenAI bestätigte die Zusammenarbeit mit Anthropic und Google an einem selbstregulierenden Standardgremium für die Branche, das sich am Vorbild der US-Finanzaufsicht FINRA orientieren soll. Bereits im Juli hatte Demis Hassabis von Google DeepMind ein US-geführtes Standardgremium vorgeschlagen.
Eine solche Institution solle die leistungsfähigsten KI-Systeme vor ihrer Veröffentlichung überprüfen und überwiegend von der Industrie finanziert werden. Chris Lehane, Politikchef bei OpenAI, erklärte, von der Branche geleitete Standards ließen sich mit oder ohne Beteiligung der Regierung umsetzen.
Eine kartellrechtliche Ausnahmegenehmigung sei dafür nicht erforderlich. Am 15. September unterstützte Lehane zudem überparteiliche Vorschläge der US-Politiker Obernolte und Trahan.
Rufe nach Tempodrosselung und externen Prüfungen
Anthropic-Chef Dario Amodei forderte am 12. September in einem Essay eine Drosselung des Entwicklungstempos bei KI-Modellen. Zudem schlug er vor, unabhängigen externen Prüfern bei Spitzenlaboren einen mitarbeiterähnlichen Zugang einzuräumen.
Während sich Anthropic einseitig zu diesem Schritt verpflichtete, kündigte OpenAI an, dem Vorstoß zu folgen. OpenAI-Chef Sam Altman bezeichnete die Idee unabhängiger Prüfer mit umfassendem Zugang als hervorragenden Ansatz.
Während führende Entwickler über freiwillige Standards diskutieren, schafft der Gesetzgeber bereits Fakten für den Unternehmenseinsatz. Dieser kostenlose Leitfaden bietet Ihnen den notwendigen Überblick über Risikoklassen und Dokumentationspflichten, um rechtlich auf der sicheren Seite zu bleiben. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Am 15. September befürwortete Altman zudem einen staatlichen Rahmen für Sicherheitsstandards, betonte jedoch, man wolle nicht auf entsprechende Gesetze warten. Eine Temporegulierung bedeute keinen Entwicklungsstopp.
Am selben Tag sprach sich Amodei für gemeinsame Sicherheitsstandards und eine Begrenzung unkontrollierten Fortschritts aus. Zudem warb er für eine Abstimmung mit autoritären Regierungen, räumte dabei jedoch Schwierigkeiten im Verhältnis zu China ein.
Innerhalb der Sicherheitsforschung wächst die Sorge vor extremen Risiken. Evan Hubinger, Leiter für KI-Ausrichtung bei Anthropic, bezifferte das Risiko einer Auslöschung der Menschheit durch KI im kommenden Jahrzehnt auf über 10 Prozent. Der frühere DeepMind-Forscher Bilal Chughtai warnte am 15. September ebenfalls vor existenziellen Gefahren, während der ehemalige Anthropic-Forscher Jacob Coxon davor warnte, mit Menschenleben zu spielen.
Widerspruch aus Politik und Wirtschaft
Der Vorstoß zur Selbstregulierung stößt jedoch auf geteilte Reaktionen. Aidan Gomez, Chef des KI-Unternehmens Cohere, warf den beteiligten US-Laboren die Bildung eines Kartells vor.
Auf politischer Ebene wies China Forderungen nach einer Drosselung des Entwicklungstempos am 14. September als Panikmache zurück. Der frühere US-Präsident Donald Trump lehnte am 15. September Leitplanken für die Technologie ab und bezeichnete Existenzängste als Schwindel.
Wer sich mit der sicheren Einführung von KI-Systemen befasst, muss heute sowohl technische als auch regulatorische Hürden nehmen. Dieser praxisnahe Report klärt auf, welche KI-Systeme als Hochrisiko eingestuft werden und was Verantwortliche jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Auch andere Branchenvertreter setzen auf abweichende Ansätze. Elon Musk forderte auf einer Konferenz in Los Angeles, dass die führenden Labore OpenAI, Anthropic, Google und Meta zusammen mit drei oder vier führenden chinesischen Unternehmen ihre Modelle gegenseitig über gemeinsame Testumgebungen überprüfen sollten. Microsoft-Chef Satya Nadella verlangte am 14. September auf derselben Veranstaltung, China müsse dieselben Sicherheitsbedenken teilen.
Mark Zuckerberg, Chef des Facebook-Konzerns Meta, erklärte hingegen, Haftungsregeln und Marktmechanismen böten bereits ausreichende Anreize für eine sichere Entwicklung. Meta habe die Veröffentlichung seines KI-Agenten Muse Anfang 2026 verzögert, um die Sicherheit zu verbessern.
Nvidia-Chef Jensen Huang betonte am 15. September auf einer Branchenkonferenz, Sicherheit sei ein rein technisches Problem und keine rechtliche Frage. Neue Gesetze seien unnötig, da die Kräfte des Marktes ausreichten.
