Angesichts der rasanten Entwicklung künstlicher Intelligenz hat UN-Generalsekretär António Guterres eine koordinierte globale Regulierung angemahnt. In einer Stellungnahme warnte er eindringlich vor den Risiken fortschrittlicher KI-Systeme, die nicht länger ignoriert werden dürften.
Die Welt könne sich keinen „Wettlauf nach unten“ bei der Sicherheit dieser Technologie leisten. Während nationale Maßnahmen essenziell seien, bezeichnete Guterres eine internationale Abstimmung als unverzichtbar, um wirksame Leitplanken zu etablieren.
Der Generalsekretär verwies dabei unter anderem auf Vorschläge aus der Industrie, wie etwa jenen von Anthropic-CEO Dario Amodei, der einen koordinierten „Slowdown“ – eine Verlangsamung der Entwicklung – ins Spiel gebracht hatte. Laut Guterres reichten isolierte und nicht verifizierbare freiwillige Pausen der Unternehmen nicht aus.
Stattdessen forderte er konkrete Initiativen wie einen „AI Child Safety Pledge“ zum Schutz von Kindern sowie die Einrichtung eines „Global Fund for AI“. Das Thema der KI-Aufsicht soll zudem einen Schwerpunkt beim Gipfel der UN-Generalversammlung in der nächsten Woche in New York bilden.
Wissenschaft und Industrie gespalten über Entwicklungsgeschwindigkeit
Unterstützung für eine strengere Regulierung kommt aus Wissenschaft und Teilen der Tech-Branche. Der Turing-Preisträger Yoshua Bengio warnte Mitte September, dass die Menschheit Gefahr laufe, die Kontrolle über die künstliche Intelligenz zu verlieren. Er forderte Sicherheitsvorkehrungen, die mit den Kontrollen für Nuklearwaffen vergleichbar seien.
Während die Weltpolitik über globale Leitplanken diskutiert, müssen Unternehmen bereits heute konkrete rechtliche Anforderungen erfüllen. Dieser kostenlose Leitfaden bietet einen kompakten Überblick über alle Fristen, Pflichten und Risikoklassen der aktuellen Gesetzgebung. EU AI Act in 5 Schritten verstehen
Auch KI-Forscher wiesen zuletzt auf Risiken hin, die bis zur Auslöschung der Menschheit führen könnten, insbesondere da Fortschritte beim rekursiven Selbstlernen die Fähigkeiten der Systeme massiv beschleunigten. Ein ehemaliger Forscher von Anthropic hatte bereits Anfang September entsprechende Warnungen geäußert.
Innerhalb der Führungsetagen der großen KI-Labore zeigt sich jedoch ein uneinheitliches Bild. Während neben Dario Amodei auch OpenAI-CEO Sam Altman und Elon Musk (SpaceXAI) eine Verlangsamung der Entwicklung forderten, distanzierte sich Meta-CEO Mark Zuckerberg von solchen Plänen.
Analysten geben zudem zu bedenken, dass das tiefe Misstrauen zwischen den USA und China eine Einigung erschweren und die Menschheit in eine gefährliche Lage bringen könnte. Ein Treffen zwischen US-Präsident Donald Trump und Xi Jinping zur KI-Sicherheit ist für den 24. September 2026 in Washington geplant.
Wer sich professionell mit dem Einsatz von Algorithmen befasst, steht oft vor der Frage, welche Systeme als Hochrisiko eingestuft werden. Erfahren Sie in diesem kostenlosen Report, welche Dokumentationspflichten jetzt für Anwender und Entwickler gelten. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Politischer Widerstand und neue Förderinitiativen
In der US-Regierung stößt der Ruf nach strengeren Regeln auf Widerstand. Präsident Donald Trump bezeichnete die Warnungen vor KI-Bedrohungen Mitte September als Täuschung und sprach von einer Verschwörung. Er betrachte die bestehenden Schutzmaßnahmen als ausreichend. US-Vizepräsident JD Vance lehnte eine staatliche Regulierung ebenfalls ab und vertrat die Ansicht, dass Frontier-KI-Firmen bei Sicherheitsrisiken intern nach Lösungen suchen sollten.
Trotz dieser politischen Differenzen schreiten multilaterale Projekte voran. Kanada und Deutschland unterstützen die Initiative „LawZero“ mit Fördermitteln in Höhe von CAN$300 Mio. (entspricht S$381 Mio.).
Parallel dazu hat EU-Kommissionspräsidentin Ursula von der Leyen die führenden KI-Labore zu Gesprächen unter dem Titel „Pacing the Frontier“ eingeladen, um über eine kontrollierte Entwicklung der Technologie zu beraten.
Als größte Hindernisse für einen koordinierten Slowdown gelten derzeit der intensive globale Wettbewerb, Profitmotive der Unternehmen sowie die ablehnende Haltung der US-Administration.
