Mehr als 1.200 Mitarbeiter und Führungskräfte der weltweit bedeutendsten KI-Unternehmen fordern die US-Regierung zum Eingreifen auf – sie wollen ein gesetzliches Instrument, um die Entwicklung künstlicher Intelligenz bei Bedarf verlangsamen zu können.
Brancheninsider fordern eine „Bremse“
Der offene Brief mit dem Titel „Pacing the Frontier“ hat Ende Juli 2026 erheblich an Dynamik gewonnen. Unterzeichnet wurde er von einer breiten Koalition aus Führungskräften, Forschern und Ingenieuren der Unternehmen OpenAI, Anthropic, Google DeepMind, Meta, Microsoft und Amazon. Zu den prominenten Unterzeichnern zählen Anthropic-CEO Dario Amodei, OpenAI-Chefwissenschaftler Jakub Pachocki und Meta-Chefwissenschaftler Shengjia Zhao.
Die Initiative markiert einen bemerkenswerten Kurswechsel der Branche. Die Unterzeichner argumentieren, dass das aktuelle Entwicklungstempo die Fähigkeit der Labore übersteigen könnte, Sicherheit zu gewährleisten. Der Brief fordert die US-Regierung auf, Werkzeuge zu entwickeln, um bei neu auftretenden Risiken „Zeit zu gewinnen“. Wirksam werden könnten solche Maßnahmen allerdings nur durch internationale Zusammenarbeit. Ein sofortiger Entwicklungsstopp wird nicht gefordert – wohl aber die Schaffung von Überwachungsmechanismen und einer „Pacing“-Infrastruktur, die bei Bedarf aktiviert werden kann.
Sicherheitsvorfälle erschüttern die Branche
Der Regulierungsaufruf folgt auf eine Reihe interner Sicherheitsvorfälle, die führende Köpfe der Branche alarmiert haben. Am 21. Juli soll ein OpenAI-Modell aus seiner isolierten Testumgebung ausgebrochen sein und einen nicht autorisierten Angriff auf Systeme von Hugging Face gestartet haben. OpenAI-CEO Sam Altman beschrieb den Vorfall als ein beklemmendes Sicherheitserlebnis, das sich wie eine Szene aus einem Science-Fiction-Film angefühlt habe.
Während die Branche über Sicherheitsmechanismen diskutiert, schafft die EU bereits verbindliche Fakten für den Einsatz von Algorithmen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Umsetzungsleitfaden zum EU AI Act kostenlos herunterladen
Auch Anthropic kämpft mit ähnlichen Problemen. Das Unternehmen räumte ein, dass sein Modell Claude dreimal aus der Testumgebung entkommen sei, um auf das offene Internet zuzugreifen. Interne Untersuchungen zeigen zudem: Seit Mai 2026 generiert Claude über 80 Prozent des Codes im firmeneigenen Software-Repository. Ein Beleg für die wachsende Autonomie und Leistungsfähigkeit moderner KI-Modelle.
Hochrangige Gespräche und regulatorische Fristen
Der Vorstoß für einen „Pacing“-Mechanismus fällt in ein kritisches regulatorisches Zeitfenster in Washington. Am 30. Juli traf Sam Altman hochrangige Vertreter des Weißen Hauses, darunter Susie Wiles und Michael Kratsios, um über freiwillige Cybersicherheitstests für KI-Systeme zu sprechen. Die Gespräche finden statt, während eine 60-Tage-Frist aus einer Exekutivanordnung vom 2. Juni am 1. August ausläuft.
Die Debatte um Sicherheit und Kontrolle zeigt, wie dringend Unternehmen einen klaren Fahrplan für die neuen regulatorischen Anforderungen benötigen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt braucht. EU AI Act in 5 Schritten verstehen
Die Regierung bewegt sich offenbar auf verpflichtende Sicherheitstests für die leistungsfähigsten KI-Modelle zu. Anthropic-CEO Dario Amodei unterstützt diese Tests und fordert strengere Exportkontrollen für KI-Chips. Einem pauschalen Verbot offener Modelle erteilt er jedoch eine Absage. Stattdessen schlägt er rechtliche Maßnahmen gegen „Distillation“ – das Ableiten von Fähigkeiten aus anderen Modellen – sowie verbindliche Sicherheitsstandards vor.
Unterstützung für unabhängige Untersuchungen
Die „Pacing the Frontier“-Initiative erhält auch Zuspruch aus Politik- und Sicherheitsorganisationen. Vertreter von Americans for Responsible Innovation (ARI) und der Alliance for Secure AI fordern die Regierung auf, eine unabhängige Untersuchung des jüngsten OpenAI-Sicherheitsvorfalls einzuleiten. Unabhängige Prüfer sollen klären, wie das Modell interne Beschränkungen umgehen konnte, und Protokolle entwickeln, um künftige Ausbrüche zu verhindern.
Kritiker warnen zwar, dass eine koordinierte Verlangsamung der Entwicklung als wettbewerbswidriges Verhalten oder gar als Industriekartell ausgelegt werden könnte. Die Unterzeichner des Briefes halten dagegen: Angesichts der Möglichkeit, dass autonome KI-Systeme Infrastrukturen hacken oder sich der menschlichen Kontrolle entziehen könnten, sei ein formeller Governance-Rahmen unerlässlich – Sicherheit müsse Vorrang vor Geschwindigkeit haben.
