Das Weiße Haus und internationale Finanzaufseher haben diese Woche umfassende neue Richtlinien für den Einsatz Künstlicher Intelligenz vorgelegt. Die Maßnahmen zielen darauf ab, die wachsende Kluft zwischen rasanter KI-Nutzung und unzureichender Unternehmenskontrolle zu schließen.
Die neue EU-KI-Verordnung stellt Unternehmen vor komplexe Herausforderungen bei der Risikodokumentation und Kennzeichnung. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle neuen Pflichten und Fristen des AI Act. EU AI Act in 5 Schritten verstehen
Neue Sicherheitsauflagen aus Washington
Am 10. Juni erließ US-Präsident eine Executive Order mit Fokus auf nationale Sicherheit und Tests von KI-Spitzentechnologien. Die Anordnung verlangt eine gründliche Prüfung und Überwachung von KI-Systemen vor deren Einsatz in Unternehmen. Besonders betont wird ein freiwilliges Rahmenwerk für den frühzeitigen Regierungszugang zu sogenannten Frontier-Modellen – den leistungsfähigsten KI-Systemen.
Branchenvertreter wie der CEO von Quest Technology Management betonen, dass diese Vorgaben eine Integration von KI-Tests in bestehende Unternehmensstrukturen erzwingen. Für deutsche Firmen mit US-Geschäft oder internationalen Lieferketten könnten die Regelungen ebenfalls relevant werden.
Parallel dazu veröffentlichte der Finanzstabilitätsrat (FSB) ein Konsultationspapier mit zwölf bewährten Praktiken für KI im Finanzsektor. Die Leitlinien adressieren Risiken wie Abhängigkeiten von externen Dienstleistern, Marktkorrelationen und Datenschutz. Interessierte können bis zum 22. Juli Stellungnahmen einreichen; der Abschlussbericht wird für Oktober 2026 erwartet.
Die Kluft zwischen Nutzung und Kontrolle
Aktuelle Branchendaten zeigen ein alarmierendes Bild: Laut einer Studie von Informatica aus dem Frühjahr 2026 geben 75 Prozent der Organisationen zu, dass ihre Kontrollmaßnahmen mit der KI-Einführung nicht Schritt halten. Obwohl 2025 bereits rund 87 Prozent der Großunternehmen KI einsetzten, verfügten damals nur 14 Prozent über formelle Governance-Rahmenwerke.
Die Risiken unkontrollierter KI-Nutzung – oft als „Shadow AI“ bezeichnet – bleiben hoch. Gartner zufolge nutzen 57 Prozent der Angestellten private generative KI-Konten für berufliche Aufgaben, und 33 Prozent haben vertrauliche Unternehmensdaten in nicht autorisierte Tools eingegeben. Eine Okta-Studie offenbarte zudem eine eklatante Wahrnehmungslücke: 65 Prozent der Führungskräfte halten KI-Richtlinien für klar, aber nur 43 Prozent der Mitarbeiter teilen diese Einschätzung.
Viele Unternehmen unterschätzen die rechtlichen Risiken, wenn Mitarbeiter KI-Systeme ohne klare Compliance-Vorgaben nutzen. Erfahren Sie in diesem kostenlosen Report, welche KI-Systeme als Hochrisiko gelten und wie Sie die gesetzlichen Anforderungen rechtssicher umsetzen. Kostenlosen Umsetzungsleitfaden zum EU AI Act anfordern
Technische Lösungen für mehr Kontrolle
Mehrere Technologieanbieter brachten am 11. Juni neue Werkzeuge auf den Markt, die die Durchsetzung von KI-Richtlinien automatisieren sollen. Cisco stellte sein „Policy Studio for AI Defense“ vor, das einen Meta-Prompting-Assistenten nutzt, um schriftliche Richtlinien in aktive Schutzmechanismen zu übersetzen. CloudEagle.ai veröffentlichte eine Plattform zur Erkennung von Shadow AI und zur Echtzeit-Überwachung des Token-Verbrauchs.
Im Softwareentwicklungsbereich launchte Rubrik seinen „Agent Cloud“ zur Governance von Codierungs-Assistenten wie Anthropics Claude Code. Das Tool ermöglicht sogenannte „Agent Rewinds“, um nicht autorisierte Aktionen rückgängig zu machen, und erstellt unveränderliche Snapshots von Repositories. JFrog präsentierte ein Sicherheits-Plugin für Claude Code, das Transparenz über Software-Abhängigkeiten und KI-Assets schafft. Hintergrund: Fast die Hälfte aller Organisationen benötigt derzeit eine Woche oder länger, um Prüfnachweise für eine einzige Anwendung zu liefern.
Open-Source als Antwort auf die Zuverlässigkeitskrise
Um die Verlässlichkeit autonomer KI-Agenten zu verbessern, setzen große Technologiekonzerne zunehmend auf Open-Source-Lösungen. Microsoft veröffentlichte am 11. Juni sein ASSERT-Framework (Adaptive Spec-driven Scoring for Evaluation and Regression Testing) unter einer MIT-Lizenz. Das Tool übersetzt natürlichsprachliche Anforderungen in ausführbare Tests für KI-Agenten.
Ebenfalls am 11. Juni brachte TestSprite ein Open-Source-Kommandozeilen-Interface heraus, das KI-Codierungsagenten durch reale Qualitätssicherungszyklen überprüft – statt durch simulierte Umgebungen. Der CoderCup-Wettbewerb zeigte, warum das nötig ist: Selbst leistungsstarke Agenten zerstörten gelegentlich 12 Prozent zuvor funktionierender Funktionen. Kontinuierliche Regressionstests sind daher unverzichtbar.
Integration in bestehende Risikomanagement-Strukturen
Unternehmen beginnen damit, KI-Governance mit etablierten Risikomanagement-Standards zu verknüpfen. Neue Leitlinien vom 10. Juni schlagen vor, KI-Überwachung in das COSO 2017 Enterprise Risk Management Framework zu integrieren – in einem dreistufigen Ansatz über zwölf Monate.
Infosys gab am 11. Juni bekannt, einen Pilotversuch für das CMMI AI Maturity (AIM) Framework abgeschlossen zu haben – als eines der ersten globalen Unternehmen überhaupt. Dieses in Zusammenarbeit mit KPMG entwickelte Rahmenwerk konzentriert sich auf verantwortungsvollen Einsatz und ergebnisorientierte Praktiken.
Auch die Modellanbieter passen ihre Geschäftsbedingungen an. Anthropic veröffentlichte am 10. Juni zwei Versionen seines neuesten Modells – Claude Fable 5 und Mythos 5. Bemerkenswert: Die neuen Versionen enthalten eine verbindliche 30-tägige Datenaufbewahrungsfrist für den gesamten Datenverkehr, um Sicherheitskontrollen zu gewährleisten. Diese Regelung hebt frühere Null-Speicher-Vereinbarungen für Unternehmensnutzer auf.
