Singapurs Regierung erprobt den praktischen Einsatz autonom agierender Künstlicher Intelligenz im öffentlichen Dienst über gezielte Testreihen und Experimente. Wie Tan Kiat How vor dem Parlament darlegte, überprüft und verstärkt der Stadtstaat seine bestehenden Rahmenwerke, um den Risiken zunehmend autonomer agentischer KI-Systeme zu begegnen und globale technologische Entwicklungen engmaschig zu begleiten.
Die Tests werden federführend von der Behörde GovTech und weiteren staatlichen Stellen durchgeführt, wobei strenge Sicherheitsvorkehrungen greifen. Ziel der Initiative ist es, über bestehende Ansätze hinaus eigene interne Kapazitäten für den verantwortungsvollen Umgang mit den Systemen aufzubauen.
Bestehende Vorgaben für das behördliche Risikomanagement, die menschliche Rechenschaftspflicht, etablierte Schutzmechanismen sowie die Meldepflichten bei sicherheitsrelevanten Vorfällen behalten auch für autonome Agenten uneingeschränkt ihre Gültigkeit.
Sorgfaltspflichten für den Privatsektor und Frontier-Entwickler
Tan Kiat How richtete zudem einen Appell an privatwirtschaftliche Unternehmen, bei der Einführung von KI-Agenten angemessene Sorgfalt walten zu lassen. Unternehmen dürften nicht erst passiv auf Risikomeldungen warten. Insbesondere Entwickler sogenannter Frontier-KI stünden in der Verantwortung, Gefahren frühzeitig zu identifizieren und Schutzmechanismen vor einem breiten Rollout zu etablieren.
Ministerin Josephine Teo sprach sich in diesem Kontext für einen mehrschichtigen, risikobasierten Ansatz aus. Demnach müssen die regulatorischen Grenzen an das jeweilige Risikopotenzial angepasst werden. Bei Systemen mit höherem Schadenspotenzial seien rigorosere Tests, unabhängig verifizierbare Nachweise, engere Kontrollen bei der Bereitstellung und eine verstärkte Aufsicht unerlässlich.
Während Regierungen weltweit Rahmenbedingungen für autonome Systeme schaffen, müssen Verantwortliche in der Verwaltung schon heute rechtssichere Entscheidungen treffen. Dieser kostenlose Leitfaden bietet einen Selbsttest und Praxis-Tipps für den verantwortungsvollen KI-Einsatz im öffentlichen Dienst. So nutzen Verwaltungen KI 2026, ohne Rechtsstaatlichkeit zu gefährden
In einer schriftlichen Parlamentsantwort auf Anfragen der Abgeordneten Valerie Lee, Charlene Chen, Alex Yam und Fadli Fawzi hielt Teo fest, dass es bislang keine Meldungen über Cyberangriffe auf staatliche Behördensysteme durch unüberwachte KI-Agenten gebe.
Am 6. Oktober 2026 erklärte Teo, die Regierung schließe katastrophale Risiken zwar nicht aus, nehme diese jedoch nicht als gegeben an. Eine generelle Verpflichtung für Entwickler, vollständigen Modellzugang zu gewähren, lehnt die Regierung ab, da dieser allein kein vollständiges Risikobild biete und partnerschaftliche Kooperationen behindern könne.
Behördenübergreifende Abwehr und internationale Initiativen
Die Cyber Security Agency of Singapore (CSA) und GovTech setzen KI-Werkzeuge bereits aktiv ein, um Regierungssysteme und kritische Infrastrukturen abzusichern sowie Schwachstellen zu identifizieren. Die strategische Ausrichtung der nationalen Initiativen wird dabei vom National AI Council vorgegeben.
Der Einsatz von KI bringt nicht nur Fortschritte, sondern auch neue regulatorische Pflichten wie Kennzeichnung und Risikodokumentation mit sich. Ein kostenloser Umsetzungsleitfaden zum EU AI Act verschafft Ihnen den notwendigen Überblick über aktuelle Fristen und Anforderungen. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Risiken wie indirekte Prompt-Injektionen oder Datenabflüsse wurden zuvor unter anderem in der im August 2025 gestarteten Google AI Agents Sandbox über rund vier Monate hinweg gemeinsam von Google, CSA, GovTech und der Medienbehörde IMDA untersucht.
Auf internationaler Ebene unterstützt Singapur multilaterale Initiativen. Am 22. September 2026 schloss sich das Land einem Aufruf von 21 Staaten und der Europäischen Union an, der verpflichtende Tests vor der Veröffentlichung von Frontier-Modellen sowie die Meldung schwerer Vorfälle vorsieht.
Außenminister Vivian Balakrishnan schlug zudem eine UN-Rahmenkonvention sowie eine internationale Standardisierungsstelle für den KI-Bereich vor. Parallel dazu kündigte die Währungsbehörde MAS eigene Richtlinien für das KI-Risikomanagement im Finanzsektor an, die ab dem 7. Oktober 2027 verbindlich werden.