Microsoft-Präsident Brad Smith hat vor den Gefahren einer reinen Selbstregulierung der Technologiebranche gewarnt und verbindliche staatliche Sicherheitsvorgaben für künstliche Intelligenz angemahnt. Die bisherigen freiwilligen Ansätze der Industrie reichten für den Schutz der öffentlichen Sicherheit nicht mehr aus.
Smith zog dabei den Vergleich, dass künstliche Intelligenz derzeit weniger reguliert sei als Milch oder Waschmaschinen. Er bezeichnete die Technologie als Werkzeug und Waffe zugleich und drängte auf rasche globale Sicherheitsregeln.
Gesetzliche Meldepflichten und Notbremsen gefordert
Zu den zentralen Forderungen des Microsoft-Präsidenten zählen klare gesetzliche Vorgaben bei Zwischenfällen. Unternehmen sollten verpflichtet werden, Betroffene bei Vorfällen mit autonomen KI-Agenten oder Sicherheitsbrüchen unverzüglich in Kenntnis zu setzen sowie offizielle Berichte vorzulegen.
Vor der Marktfreigabe neuer Modelle verlangte Smith zudem unabhängige staatliche Prüfungen. Um Systeme bei einem Kontrollverlust verlangsamen, pausieren oder stoppen zu können, seien technische Notfallschalter erforderlich.
Smith warnte zwar davor, Innovationen durch Überregulierung zu behindern, betonte jedoch, dass sich die Technologie gegenwärtig schneller entwickle als die Sicherheitsmechanismen. Die am 12. Oktober 2026 von ihm thematisierte Selbstverpflichtung des Weißen Hauses stufte er als Schritt nach vorn ein, bezeichnete sie jedoch als unzureichend.
Wer die komplexen Anforderungen der neuen europäischen KI-Gesetzgebung verstehen möchte, erhält in diesem Leitfaden einen kompakten Überblick über alle relevanten Fristen und Pflichten. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Rückendeckung erhält dieser Kurs aus der weiteren Führung von Microsoft. Konzernchef Satya Nadella erklärte, alle KI-Modelle müssten grundsätzlich als kompromittiert behandelt und von Beginn an eingedämmt werden. Autorisierte Personen sollten in der Lage sein, Systeme mitten in einer Aufgabe anzuhalten.
Nadella forderte ein Umdenken bei der Architektur von Sicherheits- und Vertrauensmechanismen durch stärkere Überprüfbarkeit und unabhängige Audits. Damit ging auch er auf Distanz zum industriefreundlichen Kurs der US-Regierung unter Präsident Donald Trump.
Ebenfalls warnend äußerte sich Microsoft-Mitbegründer Bill Gates. Er stellte für die kommenden zwölf Monate einen dramatischen Anstieg KI-gestützter Cyberangriffe in Aussicht, bei denen hochentwickelte Modelle für Schadsoftware und automatisierte Phishing-Kampagnen missbraucht werden könnten.
Da Experten vor einer Zunahme hochentwickelter Cyberangriffe warnen, wird eine proaktive Absicherung für Unternehmen immer dringlicher. Dieser kostenlose Report klärt auf, welche rechtlichen Pflichten und Bedrohungen im Kontext neuer Technologien jetzt wichtig sind. Neue KI-Gesetze, neue Cyberrisiken: Was kommt wirklich auf Ihr Unternehmen zu?
Gates lehnte freiwillige Selbstverpflichtungen ab und forderte durchsetzbare Standards. Bereits am 11. Oktober 2026 hatte er Schutzmaßnahmen angemahnt und auf bestehende Sicherheitsregulierungen in der Luftfahrt, der Automobilbranche und der Medizin verwiesen.
Debatte über freiwillige Abkommen und internationale Kontrollen
Die Forderungen stehen im Kontrast zu den jüngsten Entwicklungen in den USA. Am 29. September 2026 hatten US-Präsident Donald Trump und führende Technologiekonzerne, darunter OpenAI, Google, Meta und Anthropic, eine gemeinsame Vereinbarung im Weißen Haus unterzeichnet.
Dieses Papier stützt sich auf interne Kontrollen und externe Audits, ist jedoch rechtlich unverbindlich und sieht keine behördlichen Strafen vor. Kritiker bemängeln, dass das Abkommen den Unternehmen selbst überlasse, was als sicher gilt. Laut Berichten sprachen sich in Umfragen 57 Prozent der US-Amerikaner für sofortige Bundesregulierungen und 86 Prozent für unabhängige Sicherheitsstandards aus.
Als Vorreiter für internationale Regeln sieht Smith das Vereinigte Königreich. Durch das 2023 gegründete britische AI Security Institute, das vor der Veröffentlichung Zugang zu hochentwickelten US-Modellen erhält, sei London besonders geeignet, globale Rahmenbedingungen anzuführen.
Unterdessen gewinnen unabhängige Prüforganisationen an Bedeutung, während frühere Vorfälle – wie unkontrollierte Agenten-Aktivitäten im Juli 2026 – den Druck auf Gesetzgeber weltweit aufrechterhalten.