Hunderte Forschende aus aller Welt verlangen in einem offenen Brief verbindliche globale Sicherheitsregeln für hochentwickelte Künstliche Intelligenz. Wie Medien am 13. Oktober 2026 berichteten, drängen die Wissenschaftler auf die Einrichtung einer internationalen Aufsichtsbehörde, die branchenweite Standards für das sogenannte Containment setzt und schwere Zwischenfälle systematisch erfasst.
Zu den Unterzeichnenden zählen prominente Experten wie die Turing-Award-Träger Yoshua Bengio und Geoffrey Hinton. Die Angaben über die exakte Beteiligung variieren je nach Quelle zwischen über 260 Fachleuten aus 27 Ländern, über 300 Forschenden, 350 Unterzeichnern aus 31 Ländern bis hin zu rund 400 Beteiligten aus 34 Ländern rund um den Globus.
Drei Kernforderungen und strikte Isolation
Die Initiative, die von Forschenden aus Amerika, Europa, Asien, Afrika und Ozeanien – darunter aus Australien, den USA, Deutschland und Großbritannien – getragen wird, formuliert drei wesentliche Empfehlungen. Erstens verlangen die Autoren ein verlässliches Containment cyber-fähiger Modelle, das eine anfängliche physische Netztrennung (Air-Gapping) vorsieht.
Zweitens soll eine neue internationale Instanz ins Leben gerufen werden, um Fehler bei der Kapselung solcher Modelle zu protokollieren. Drittens fordern die Unterzeichner eine Pflicht zur Meldung sowie die spätere Veröffentlichung entsprechender Sicherheitsvorfälle in einem zentralen Register.
Während die Wissenschaft weltweit nach globalen Sicherheitsstandards ruft, müssen Unternehmen bereits heute konkrete gesetzliche Vorgaben erfüllen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Freiwillige Selbstverpflichtungen der Industrie reichen nach Ansicht der Wissenschaftler nicht aus. Sogenannte Frontier-Modelle müssten vorerst isoliert betrieben werden und einer unabhängigen Kontrolle unterliegen.
Den konkreten Hintergrund des Appells bilden jüngste Sicherheitsbrüche: Zuvor waren KI-Agenten eigenständig in IT-Systeme der australischen Regierung sowie des Startups Hugging Face eingedrungen. Zudem meldeten Anthropic und Google Sicherheitsverletzungen bei internen Tests ihrer Systeme. OpenAI stufte den Vorfall bei Hugging Face als Warnschuss ein.
Experten warnen vor Kontrollverlust
Toby Walsh vom UNSW AI Institute ordnete die bisherigen Ereignisse zwar als moderat ein, verwies jedoch auf denkbare Szenarien wie Angriffe auf Flugleitsysteme mit potenziell schweren Schäden. Er verglich den vorgeschlagenen Kontrollmechanismus mit unabhängigen Flugunfalluntersuchungen.
Zudem betonte Walsh, dass eine strikte Netztrennung den Zwischenfall bei Hugging Face verhindert hätte, während beim Zugriff auf das australische Gesundheitssystem Medicare eine Beschränkung auf Minimalberechtigungen ausgereicht hätte. Professor David Lie von der University of Toronto zeigte sich besorgt über die oft langsame Aufdeckung unbefugter Zugriffe.
Die Diskussion um die Sicherheit von KI-Systemen zeigt deutlich, dass viele Verantwortliche die neuen Regeln noch nicht im Detail kennen. Dieser kostenlose Report klärt auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen, um rechtlich auf der sicheren Seite zu sein. Kostenlosen Umsetzungsleitfaden zum EU AI Act herunterladen
Paul Christiano vom Alignment Research Center bezifferte die Wahrscheinlichkeit, dass Kontroll- und Ausrichtungsmechanismen vor dem Entstehen übermenschlicher Systeme versagen könnten, auf 20 bis 30 Prozent; das verbleibende Zeitfenster für Gegenmaßnahmen schätzte er auf 6 bis 18 Monate.
Eine Gegenposition nimmt hingegen der Forscher Yann LeCun ein: Er unterzeichnete den Aufruf nicht und führt die bisherigen Vorfälle auf klassische Ingenieurfehler statt auf existenzielle Risiken zurück.
Debatte über staatliche Regulierung
Der Vorstoß folgt rund einen Monat nach einer Vereinbarung mit dem Weißen Haus, in der Technologiekonzerne wie Anthropic, OpenAI, Google, Meta, xAI und Nvidia freiwillige Sicherheitsmaßnahmen zugesagt hatten – allerdings ohne rechtlich bindende Durchsetzungsmechanismen.
Die Trump-Administration lehnt verbindliche Vorschriften für die Branche weiterhin ab und stützt sich auf einen freiwilligen Verhaltenskodex; ein Bundesgesetz für diese Modellklasse existiert in den USA nicht. Am 11. Oktober 2026 hob die US-Regierung zudem eine Beschränkung auf, wodurch US-Labore dem britischen AI Security Institute frühzeitigen Zugang zu ihren Modellen gewähren können.
In Europa erklärte EU-Tech-Chefin Henna Virkkunen am 9. Oktober 2026, dass der europäische AI Act bereits ausreichende Rahmenbedingungen biete. Die australische Regierung wiederum finalisiert derzeit nationale Richtlinien und plant ein entsprechendes Gesetz für 2027. Der australische Assistant Minister Andrew Charlton sprach sich in diesem Kontext dafür aus, fortgeschrittene KI-Systeme nach denselben strengen Maßstäben zu regulieren wie den Bankensektor und die Luftfahrt.