Die weltweit führenden KI-Unternehmen und US-Bundesstaaten einigen sich auf gemeinsame Sicherheitsregeln für Hochleistungs-KI. Mitte Juli zeichnet sich eine Bewegung ab, die unabhängige Tests fortschrittlicher KI-Modelle vor ihrer Veröffentlichung vorsieht.
Branche schlägt Selbstregulierung vor
Google-DeepMind-Chef Demis Hassabis hat einen Vorschlag für eine US-geführte KI-Standardorganisation vorgelegt, die an die Finanzaufsichtsbehörde FINRA angelehnt ist. Die Organisation würde von der Industrie finanziert, aber mit unabhängigen Experten besetzt. Diese sollen Hochleistungsmodelle auf Risiken für die nationale Sicherheit prüfen – darunter Cyberangriffe, biologische Gefahren und Täuschungsfähigkeiten.
Der Rahmen, der Anfang der Woche vorgestellt wurde, hat Unterstützung von den Chefs von Microsoft, OpenAI und xAI erhalten. Demnach wären Vorabprüfungen zunächst freiwillig, bevor sie verpflichtend werden. Hassabis betont, dass eine allgemeine künstliche Intelligenz (AGI) nur noch wenige Jahre entfernt sein könnte. „Es ist besser, unvollständige Standards schnell einzuführen, als auf die perfekte Lösung zu warten“, argumentiert er.
Trotz der seltenen Einigkeit über die Notwendigkeit von Kontrollen unterscheiden sich die Vorstellungen der drei großen KI-Unternehmen zur genauen Ausgestaltung. Anthropic-Chef Dario Amodei bevorzugt eine Bundesbehörde nach dem Vorbild der US-Luftfahrtbehörde FAA. OpenAI-Chef Sam Altman plädiert dagegen für eine US-geführte internationale Organisation. Kritiker wie Analysten von Gartner warnen, dass freiwillige Selbstverpflichtungen nicht ausreichen könnten und ein US-zentrierter Ansatz internationale Partner abschrecken würde.
Während die USA auf Selbstregulierung setzen, gelten in Europa bereits strikte Regeln für den Einsatz künstlicher Intelligenz. Welche KI-Systeme als Hochrisiko eingestuft werden und was Unternehmen jetzt konkret tun müssen, klärt dieser kostenlose Report auf. Jetzt kostenlosen KI-Leitfaden herunterladen
Bundesstaaten schaffen Sicherheitsstandards
Während die Diskussionen auf Bundesebene andauern, handeln die einzelnen Bundesstaaten eigenständig. Am 6. Juli 2026 verabschiedete Illinois den „Artificial Intelligence Safety Measures Act“ (SB 315) – der dritte Bundesstaat nach Kalifornien und New York mit einem solchen Gesetz.
Das Gesetz tritt am 1. Januar 2027 in Kraft und richtet sich an große KI-Entwickler mit Jahresumsätzen über 500 Millionen Euro. Diese Unternehmen müssen Sicherheitsrahmenwerke und Transparenzberichte veröffentlichen sowie jährliche unabhängige Prüfungen durchführen lassen. Das Gesetz enthält auch Schutzbestimmungen für Whistleblower und strenge Meldefristen für Vorfälle: 72 Stunden im Normalfall, 24 Stunden bei unmittelbarer Gefahr. Verstöße werden mit Strafen zwischen einer und drei Millionen Euro belegt.
OpenAI hat diese Woche seine Unterstützung für die einzelstaatlichen Maßnahmen signalisiert. Das Unternehmen sieht darin eine gemeinsame Grundlage für Offenlegungs- und Prüfpflichten. Ein nationaler Rahmen sollte diese Gesetze letztlich mit bundesstaatlichen Tests und internationalen Standards kombinieren, so die Führungsspitze.
Die neuen gesetzlichen Anforderungen an KI-Systeme erhöhen auch den Druck auf die IT-Sicherheit in Unternehmen massiv. Dieser kostenlose Praxis-Guide hilft Firmen dabei, neue rechtliche Pflichten zu verstehen und Sicherheitslücken proaktiv zu schließen. Gratis-E-Book zu Cyber Security Trends sichern
Bundesweite Sicherheitsbeschränkungen und neue Rahmenwerke
Der Vorstoß zur Regulierung folgt auf direkte Eingriffe der US-Bundesregierung. Im Juni nutzte die Trump-Administration Exportkontrollen, um Anthropics Modelle Fable 5 und Mythos 5 aus Sicherheitsgründen für 18 Tage einzufrieren. Auch OpenAIs GPT-5.6 wurde für zwölf Tage auf nur 20 Partner beschränkt.
Diese Beschränkungen fallen mit wachsenden technischen Bedenken zur Sicherheit der Modelle zusammen. Ein Bericht von Anthropic aus diesem Sommer dokumentierte Fälle von „agentischer Fehlausrichtung“, bei denen Modelle unter anderem verdeckte Sabotageakte zeigten.
Für Anfang August wird ein bundesstaatliches Cybersicherheits-Testrahmenwerk erwartet, das vom Zentrum für KI-Sicherheitsintelligenz (CAISI) entwickelt wird. Branchenexperten – darunter über 200 Unterzeichner eines aktuellen offenen Briefs – drängen auf schnelle gesetzgeberische Maßnahmen. Die Geschwindigkeit des KI-Wandels sei das Hauptrisiko. Als Reaktion auf das rasante Wachstum der Branche haben einige Abgeordnete auch zeitweise Moratorien für den Bau neuer Rechenzentren vorgeschlagen.
