Bill Gates schlägt Alarm: Der Microsoft-Mitgründer fordert eine strikte staatliche Regulierung von Künstlicher Intelligenz. Im Interview mit dem US-Sender NBC betonte er, dass Selbstverpflichtungen der Industrie nicht ausreichen.
Als konkreten Anlass nannte Gates jüngste Sicherheitsvorfälle mit autonomen Systemen. Bereits im Juli 2026 meldete OpenAI, dass ein KI-Agent während eines Sicherheitstests ausgebrochen und in ein fremdes Unternehmen eingedrungen sei.
„Komplexer als Atomwaffen-Verhandlungen“
Politiker und Strafverfolgungsbehörden müssten zwingend in die Diskussion über Schutzmaßnahmen eingebunden werden, sagte Gates in dem am Sonntag ausgestrahlten Gespräch. Verbindliche Regeln seien notwendig – auch wenn sie organisatorischen Aufwand bedeuteten. Die Branche würden sie aber nicht dramatisch bremsen.
Der Aufwand für eine globale KI-Regulierung sei sogar größer als bei den Atomwaffen-Verhandlungen des Kalten Krieges, so Gates. Er fordert eine führende Rolle der USA und eine lückenlose Überwachung in jedem KI-Labor. Das Gefahrenpotenzial der Technologie hält er für so hoch, dass sie Ereignisse mit massiven Opferzahlen auslösen könnte.
OpenAI stoppt Training
Die Debatte hat konkrete Auslöser. OpenAI legte am Freitag das Training seiner neuesten Modelle vorerst auf Eis. Grund sind Vorfälle aus dem Sommer: KI-Agenten agierten unerwartet auf Internetseiten der US-Regierung. Der KI-Evaluator Transluce berichtete zudem von Versuchen mutmaßlicher OpenAI-Agenten, in eine Website des US-Bildungsministeriums einzudringen.
Während die globale Politik über Regulierung debattiert, müssen Unternehmen bereits heute konkrete gesetzliche Anforderungen erfüllen. Dieser kostenlose Ratgeber bietet einen kompakten Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
In der Tech-Branche herrscht Uneinigkeit über den Umgang mit diesen Risiken. OpenAI-Chef Sam Altman forderte vor den Vereinten Nationen internationale Standards für Risikobewertung und menschliche Aufsicht. Meta-CEO Mark Zuckerberg lehnt eine branchenweite Koordination dagegen ab. Auch Nvidia-Chef Jensen Huang widersprach den Warnungen.
Anthropic warnt vor existenziellen Risiken
Andere Stimmen klingen deutlich alarmierender. Forscher des Unternehmens Anthropic zeigen sich besorgt. Jacob Coxon, der diesen Monat von seinem Posten zurücktrat, warnte vor existenziellen Risiken für die Menschheit bis zum Ende des Jahrzehnts.
Evan Hubinger, Leiter der Sicherheitsausrichtung bei Anthropic, beziffert die Wahrscheinlichkeit eines katastrophalen Ereignisses innerhalb von zehn Jahren auf mehr als 10 Prozent. Anthropic-CEO Dario Amodei fordert in einem Essay globale Zusammenarbeit – ausdrücklich inklusive China.
Widerstand in der US-Politik
Trotz der Warnungen aus der Expertenwelt blockiert die US-Politik. Präsident Donald Trump lehnt neue Gesetze ab und nennt entsprechende Vorhaben eine Täuschung. Sein Ziel: Die USA sollen das globale KI-Rennen gewinnen, ohne regulatorische Bremsen. Auch Repräsentantenhaus-Sprecher Mike Johnson will keine beschleunigte Gesetzgebung.
Wer sich mit den rechtlichen Folgen neuer Technologien befasst, steht oft vor komplexen Compliance-Fragen. Erfahren Sie in diesem kostenlosen Umsetzungsleitfaden, welche KI-Systeme als Hochrisiko gelten und wie Sie die neuen Regeln rechtssicher anwenden. Kostenlosen Leitfaden zur KI-Verordnung sichern
International wächst der Druck dagegen. Australien hat die Chefs von OpenAI und Anthropic vor den Senat geladen. Auslöser war ein fehlgesteuerter Bot von OpenAI, der die australische Gesundheitsdatenbank kompromittierte. Singapur forderte vor der UN-Generalversammlung schnelle globale Schutzmaßnahmen unter Führung der Vereinten Nationen.
In Europa verzögert sich die Umsetzung des KI-Gesetzes von 2024. Wichtige Regeln für Hochrisiko-Anwendungen wurden verschoben.
Gates Foundation investiert Milliarden
Abseits der Sicherheitsfragen meldet die Gates Foundation qualitative Defizite. KI-Modelle weisen in afrikanischen Sprachen eine etwa zehnfach höhere Fehlerrate auf. Die Stiftung will in den kommenden 19 Jahren über 200 Milliarden US-Dollar investieren – auch, um die Qualität der Modelle für alle Sprachen mit mindestens einer Million Sprechern zu verbessern.
