Die US-Regierung setzt auf Kooperation statt Zwang: Ein neues Dekret von Präsident Trump schafft einen freiwilligen Rahmen für die Sicherheitsüberprüfung Künstlicher Intelligenz. Doch die Bedrohungslage wächst rasant.
Am 2. Juni unterzeichnete Präsident Trump die Executive Order „Förderung fortschrittlicher KI-Innovation und -Sicherheit“. Der Erlass gibt dem Geheimdienst NSA eine Schlüsselrolle: Er soll ein klassifiziertes Benchmarking-System entwickeln, um sogenannte „Covered Frontier Models“ zu identifizieren. Entwickler sind eingeladen, ihre Modelle bis zu 30 Tage vor der Veröffentlichung der Regierung zur Sicherheitsprüfung vorzulegen. Eine verpflichtende Lizenzierung gibt es nicht.
Das Justizministerium wird angewiesen, bestehende Gesetze gegen KI-gestützte Cyberangriffe verstärkt durchzusetzen. Das Finanzministerium soll eine „KI-Cybersicherheits-Koordinierungsstelle“ aufbauen, um den Austausch von Bedrohungsinformationen zu erleichtern.
Während die USA auf Freiwilligkeit setzen, schafft die EU mit dem AI Act bereits verbindliche Fakten für Unternehmen. Welche neuen Regeln, Risikoklassen und Fristen Sie jetzt kennen müssen, erfahren Sie in diesem kostenlosen Umsetzungsleitfaden. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Sicherheitsexperten sehen Lücken
Während einige Experten die 30-Tage-Frist als notwendige Vorbereitungszeit für Verteidiger begrüßen, äußern andere Bedenken. Vertreter des SANS Institute etwa warnen, dass der Zeitraum tiefere Probleme wie Insider-Bedrohungen oder die ungleiche Verteilung von Sicherheitsressourcen zwischen großen und kleinen Organisationen nicht löse.
Privatwirtschaft zieht nach – Project Glasswing wächst
Einen Tag nach dem Dekret gab das KI-Unternehmen Anthropic den massiven Ausbau seines Sicherheitsprogramms „Project Glasswing“ bekannt. Die Initiative wuchs von 50 Partnern im April auf rund 200 Organisationen in über 15 Ländern. Teilnehmer kommen aus den Bereichen Gesundheitswesen, Energie und Kommunikation.
Auch die Intercontinental Exchange (ICE) und die New York Stock Exchange (NYSE) sind eingestiegen. ICE will das Claude Mythos Preview-Modell in seinen Abwicklungsstellen, Datendiensten und Hypothekenplattformen einsetzen. Die NYSE betont die Bedeutung überprüfbarer KI-Tools in stark regulierten Branchen.
Seit dem Start im Frühjahr hat das KI-Modell bereits über 10.000 hochriskante oder kritische Schwachstellen identifiziert. Darunter ein 27 Jahre alter Fehler in OpenBSD und ein 16 Jahre altes Problem in FFmpeg. Anthropic stellt Nutzungsguthaben in Höhe von 100 Millionen US-Dollar sowie vier Millionen Dollar speziell für Open-Source-Sicherheitsinitiativen bereit.
Die technologische Aufrüstung zeigt, wie massiv die Bedrohungslage durch neue KI-Anwendungen zunimmt. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Cyberrisiken Unternehmer jetzt kennen müssen, um ihre Firma langfristig zu schützen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Weitere Tech-Giganten legen nach
Am 3. Juni kündigten Deloitte, Google Cloud und Wiz eine Zusammenarbeit an. Ihre „AI Threat Defense“-Lösung kombiniert Gemini-Modelle mit automatisierter Risikopriorisierung, um Sicherheitsteams bei der Bewältigung der wachsenden Zahl von KI-erkannten Schwachstellen zu unterstützen.
Microsoft stellte auf seiner Build-2026-Konferenz den „Microsoft Execution Container“ (MXC) vor. Diese Sandbox-Umgebung begrenzt den Zugriff von KI-Agenten auf Dateien, Netzwerke und Ressourcen, um unbefugte Aktionen zu verhindern. Zudem erweitert Microsoft sein MDASH-System, das bereits über 100 KI-Agenten zur Schwachstellensuche einsetzt.
Der Cybersicherheitsspezialist Trend Micro (unter dem Namen TrendAI) schloss sich ebenfalls Project Glasswing an. Das Unternehmen will fortschrittliche KI-Modelle für Code-Analyse und virtuelle Patches nutzen, um die Behebung von Softwarefehlern zu beschleunigen.
EZB warnt vor neuer Bedrohungsqualität
Die rasante Entwicklung defensiver KI-Tools fällt mit wachsenden Warnungen vor immer ausgefeilteren KI-Angriffen zusammen. Frank Elderson, Direktoriumsmitglied der Europäischen Zentralbank, betonte am 3. Juni, dass Modelle wie Mythos die Einstiegshürde für Cyberangriffe drastisch senken, indem sie die Entdeckung und Kombination von Schwachstellen automatisieren.
Aktuelle Forschung untermauert diese Sorgen. Eine gemeinsame Studie der University of Toronto, des Vector Institute und der University of Cambridge demonstrierte einen autonomen KI-Wurm-Prototypen. In einem kontrollierten Testnetz mit 33 Hosts identifizierte der Wurm durchschnittlich 31,3 Schwachstellen und kompromittierte 23,1 Rechner – indem er öffentliche Sicherheitshinweise in Echtzeit las und Exploits generierte.
Anthropic-Forscher warnen, dass ähnlich leistungsfähige Modelle ohne Sicherheitsvorkehrungen bereits in sechs bis zwölf Monaten von anderen Entwicklern veröffentlicht werden könnten. Das könnte das Kräfteverhältnis in der Cyberkriegsführung endgültig zugunsten der Angreifer verschieben.
