Die internationale Finanzaufsicht reagiert auf die rasante Verbreitung autonomer KI-Systeme mit neuen Regeln und Sicherheitsvorschriften. Auslöser sind wachsende Sorgen um die Stabilität der Finanzmärkte.
Bereits 52 Prozent der Finanzinstitute setzen laut einer Studie der Universität Cambridge auf sogenannte „agentische KI“ – autonome Systeme, die komplexe Aufgaben mit minimalem menschlichem Eingriff erledigen. 23 Prozent der Unternehmen haben die Technologie bereits im großen Stil eingeführt. Das Tempo der Digitalisierung überrascht selbst Experten.
Die EU-KI-Verordnung stellt neue Regeln auf, die viele noch nicht kennen – dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Welche KI-Systeme gelten als Hochrisiko – und was müssen Unternehmen jetzt konkret tun?
FSB schlägt Status als „synthetische Angestellte“ vor
Der Finanzstabilitätsrat (FSB) hat am 10. Juni einen 12-Punkte-Plan vorgelegt, der Innovation und Risikokontrolle in Einklang bringen soll. Kernstück des Vorschlags: Autonome KI-Systeme könnten künftig als „synthetische Angestellte“ eingestuft werden.
Die vorgeschlagenen Schutzmaßnahmen sehen unter anderem eine zwingende menschliche Genehmigung für risikoreiche Aktionen vor. Zudem sollen klare operationelle Grenzen definiert werden. Ziel ist es, unautorisierte Handlungen oder Datenlecks zu verhindern. Der FSB hat eine öffentliche Konsultation gestartet, die bis zum 22. Juli 2026 läuft.
„Mythos“-Modell alarmiert Aufseher in Asien
Besonders das KI-Modell „Mythos“ des Unternehmens Anthropic sorgt für Unruhe. Es ist in der Lage, sogenannte Zero-Day-Sicherheitslücken in Software zu identifizieren – eine Fähigkeit, die traditionelle Abwehrmechanismen vor enorme Herausforderungen stellt.
Die indische Zentralbank (RBI) hat heimische Banken angewiesen, bis Ende Juni 2026 eine umfassende KI-Risikoanalyse durchzuführen. Gefordert wird eine vom Vorstand genehmigte Lückenanalyse mit konkretem Aktionsplan. Bereits im April hatte Finanzministerin Sitharaman vor den Gefahren durch Mythos gewarnt. Der IT-Dienstleister Infosys arbeitet eigenen Angaben zufolge mit der Regierung, dem indischen Bankenverband und der Cybersicherheitsbehörde CERT-In an Software-Patches für das Bankensystem.
Südkorea schlägt einen anderen Weg ein: Die Finanzaufsicht FSC lockert die Netzwerktrennungsvorschriften für Finanzunternehmen. Ziel ist es, den Instituten mehr Flexibilität bei der Abwehr KI-gestützter Angriffe zu geben. Unternehmen mit hoher KI-Sicherheitskompetenz sollen bis Ende 2026 vollständig von den Beschränkungen befreit werden.
Neue KI-Gesetze bringen neue Cyberrisiken mit sich, die Unternehmer jetzt kennen müssen. Dieser kostenlose Report klärt auf, wie Sie Sicherheitslücken schließen und gleichzeitig aktuelle gesetzliche Anforderungen proaktiv erfüllen. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Große Kluft zwischen Privatwirtschaft und Aufsicht
Eine neue Analyse des Beratungsunternehmens FinregE offenbart ein bemerkenswertes Ungleichgewicht: Während 40 Prozent der Finanzfirmen KI einsetzen, haben nur 18 Prozent der Aufsichtsbehörden die Technologie für ihre Kontrollaufgaben skaliert.
Das von FinregE vorgeschlagene Rahmenwerk für sichere KI-Integration in der Aufsicht ruht auf fünf Säulen. Dazu gehören maschinenlesbare Regelwerke, formale Taxonomien und erklärbare KI. Das Ziel: Die internen Kontrollinstrumente der Behörden müssen mit dem technologischen Tempo der Branche Schritt halten.
Singapur wiederum hat im Rahmen des Haushaltsausschusses 2026 das Nationale KI-Wirkungsprogramm angekündigt. Es soll in den nächsten drei Jahren 10.000 Unternehmen und 100.000 Arbeitnehmer unterstützen. Zudem prüft der Stadtstaat die Einführung von „KI-Nährwertkennzeichnungen“ für mehr Transparenz über Modellfähigkeiten und hat einen Muster-Governance-Rahmen speziell für agentische KI vorgelegt.
Pilotprojekte für autonome Finanztransaktionen
Während die Regulierer die Zügel anziehen, treiben Finanzinstitute die Grenzen des Machbaren weiter voran. HSBC und Mastercard haben in Singapur ein Pilotprojekt für „agentischen Handel“ gestartet. Das System nutzt Mastercard Agent Pay, um Beschaffungs- und Zahlungsprozesse zu automatisieren.
Die Zahlungsplattform SUNRATE hat am 10. Juni mit „Sunrate.AI“ eine Infrastruktur vorgestellt, die spezialisierte KI-Agenten für Kunden-Onboarding, Compliance und Devisengeschäfte in komplexen B2B-Zahlungsabläufen einsetzt. Diese Entwicklungen versprechen zwar enorme Effizienzgewinne – sie sind aber genau die Art autonomer Systeme, die derzeit im Fokus der FSB-Regulierungen stehen.
