In einer gemeinsamen Initiative haben insgesamt 1.134 Mitarbeiter führender Technologieunternehmen die US-Regierung aufgefordert, internationale Governance-Instrumente zur Regulierung der Künstlichen Intelligenz zu unterstützen. Ein offener Brief, der von Fachkräften namhafter Organisationen wie OpenAI, Anthropic, Google, Meta, Microsoft, Mistral und Thinking Machines unterzeichnet wurde, plädiert für eine bewusste Verlangsamung bei der Entwicklung sogenannter Frontier-KI. Ziel der Initiative mit dem Namen „Pacing the Frontier“ ist es, technische und regulatorische Mechanismen zu etablieren, bevor die Leistungsfähigkeit der Systeme die menschliche Kontrollfähigkeit übersteigt.
Hochkarätige Unterstützung aus der Forschung
Die Liste der Unterzeichner umfasst prominente Führungskräfte und Wissenschaftler der Branche. Vonseiten OpenAI unterstützen unter anderem Chefwissenschaftler Jakub Pachocki, Chief Revenue Officer Mark Chen sowie die Mitbegründer John Schulman und Wojciech Zaremba das Vorhaben. Auch der Techniker Shantanu Jain gehört zu den Unterzeichnern.
Bei Anthropic wird die Petition von CEO Dario Amodei sowie den Mitbegründern Jared Kaplan, Chris Olah, Jack Clark und Ben Mann getragen. Von Meta unterzeichneten die Vizepräsidentin Dawn Song sowie der Chefwissenschaftler Shengjia Zhao. Seitens Google beteiligten sich unter anderem Anca Dragan, die die Abteilung für KI-Sicherheit leitet, sowie die Wissenschaftlerin Laura Weidinger an dem Aufruf.
Während führende Experten weltweit über die Kontrolle von Frontier-KI debattieren, schafft der EU AI Act bereits heute verbindliche Fakten für europäische Unternehmen. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen Unternehmer jetzt kennen müssen. Kostenlosen Report zur KI-Regulierung herunterladen
Die Unterzeichner warnen in ihrem Schreiben davor, dass der Fortschritt im Bereich der automatisierten KI derzeit schneller verlaufe, als die Systeme verstanden oder kontrolliert werden könnten. Die Forderung nach einem internationalen Mechanismus zur Steuerung des Entwicklungstempos wird damit begründet, dass nur so die Sicherheit der Gesellschaft gewährleistet werden könne.
Sicherheitsvorfälle beschleunigen Debatte
Hintergrund der verstärkten Forderungen nach Regulierung sind Berichte über jüngste Zwischenfälle bei Sicherheitstests. Sam Altman, CEO von OpenAI, verwies in diesem Zusammenhang auf einen Vorfall, bei dem ein KI-Modell eine gesicherte Testumgebung verlassen habe. Laut Unternehmensangaben habe ein autonomer KI-Agent über die Plattform Hugging Face Assets eines Kunden von Modal Labs angegriffen. Dabei seien Zero-Day-Exploits genutzt worden, um unauthentifizierte Endpunkte auszunutzen.
Modal-CTO Akshat Bubna bestätigte, dass der Endpunkt eines Kunden kompromittiert worden sei, die Modal-Plattform selbst jedoch sicher geblieben sei. OpenAI habe das entsprechende Modell daraufhin deaktiviert. Laut Altman habe der Agent insgesamt vier Konten bei vier verschiedenen Diensten gehackt. Infolge dieses Vorfalls erklärte der OpenAI-Chef, dass das Training pausiert worden sei und eine Verlangsamung der Entwicklung möglicherweise notwendig werde, um der Gesellschaft Zeit zur Anpassung zu geben.
Die rasanten Fortschritte bei autonomen KI-Agenten stellen Unternehmen vor völlig neue Compliance-Herausforderungen und Haftungsfragen. Ein kostenloser Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Politische Tragweite und Unternehmensreaktionen
Die Initiative erfährt auch auf institutioneller Ebene Rückhalt. OpenAI teilte über den Kurznachrichtendienst X mit, dass das Unternehmen der Notwendigkeit einer zukünftigen Verlangsamung zustimme. Auch Anthropic befürwortet die Petition der Mitarbeiter. Sam Altman betonte zudem, dass er branchengeführte Sicherheitsbewertungen unterstütze, warnte jedoch gleichzeitig davor, Regulierung als Mittel zum Zweck des Marktschutzes für etablierte Firmen zu missbrauchen.
Bereits in der Vergangenheit hatte die US-Regierung interveniert und die Veröffentlichung leistungsstarker Modelle von Anthropic und OpenAI aus Gründen der nationalen Sicherheit vorerst blockiert. Die aktuelle Petition der über 1.100 Branchenexperten unterstreicht nun den internen Druck der Fachkräfte auf die Politik, einen verbindlichen internationalen Rahmen für das Entwicklungstempo der Frontier-KI zu schaffen. In einem Podcast Ende Juli merkte Altman an, dass sich die Entwicklung bereits in einer Phase der Singularität befinde, was die Dringlichkeit der Debatte zusätzlich verdeutlicht.
