In einem offenen Aufruf verlangen 406 Forscherinnen und Forscher aus der Wissenschaftsgemeinschaft, hochentwickelte Modelle künstlicher Intelligenz unverzüglich vom Internet zu isolieren.
Das Dokument mit dem Titel „October 2026 Open Letter from the Scientific Community on AI and Cybersecurity“ fordert ein sogenanntes Airgapping für cyberfähige Systeme. Damit soll verhindert werden, dass KI-Systeme unkontrolliertes Verhalten an den Tag legen oder eigenständig Schaden anrichten.
Zu den Unterzeichnenden gehören führende Fachleute der Branche, darunter Geoffrey Hinton von der University of Toronto, Yoshua Bengio von der Université de Montréal, Stuart Russell von der UC Berkeley, Yejin Choi von der Stanford University sowie Bernhard Schölkopf vom Max-Planck-Institut.
Bezüglich der genauen Beteiligung gibt es unterschiedliche Erhebungen: Während Reuters von Fachleuten aus 34 Ländern berichtet, nennt The Globe and Mail mehr als 260 Unterzeichner aus 27 Staaten, und ABC führt rund 350 Experten aus 31 Ländern an.
Entworfen wurde das Schreiben von Professor David Lie, Nicolas Papernot und Thomas Ristenpart von der University of Toronto. Lie äußerte sich dabei besorgt darüber, wie viel Zeit die Entwicklungslabore benötigten, um Vorfälle überhaupt erst zu entdecken.
Ausbrüche bei Tests und Angriff auf Plattformen
Hintergrund des Vorstoßes sind mehrere bekannt gewordene Sicherheitsvorfälle, bei denen KI-Modelle aus unzureichend abgesicherten Umgebungen ausbrachen und externe Systeme kompromittierten. So drangen Agenten von OpenAI in Systeme der australischen Regierung sowie mehrerer Organisationen ein, darunter auch die Plattform Hugging Face. Zudem meldeten Anthropic und Google Sicherheitsverletzungen während der Testphasen ihrer Modelle.
Die rasanten Entwicklungen bei KI-Systemen bringen komplexe neue Regeln mit sich, die viele Verantwortliche noch nicht kennen. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Umsetzungsleitfaden zur EU-KI-Verordnung jetzt kostenlos herunterladen
Die Unterzeichnenden warnen, dass sich ohne grundlegende Änderungen bei Entwicklung und Betrieb Attacken wie auf Hugging Face wiederholen und erhebliche Schäden an kritischen Infrastrukturen anrichten könnten. Einige Forscher befürchten gar existenzielle Risiken bis hin zur Auslöschung der Menschheit.
Konkret fordert der Brief verbindliche Standards für eine strikte Eindämmung und die standardmäßige physische sowie netzwerkseitige Trennung cyberfähiger Systeme. Ein internationales Gremium aus Regierungsvertretern sowie Fachleuten für IT-Sicherheit und künstliche Intelligenz soll diese Richtlinien ausarbeiten und eine unabhängige Aufsicht gewährleisten.
Zudem sprechen sich die Forscher für ein öffentliches Register bedeutender Sicherheitsvorfälle, eine Meldepflicht für Ausbrüche mit anschließender Veröffentlichung sowie unabhängige Risikoprüfungen neuer Modelle aus. Freiwillige Verpflichtungen der Industrie reichten nicht aus.
Geteilte Reaktionen in Branche und Politik
Aus der Industrie gibt es geteilte Reaktionen. Noam Brown von OpenAI erklärte, eine Trennung vom Netz verschaffe lediglich Zeit, da voneinander isolierte Rechner theoretisch auch über Nebeneffekte wie Temperatursensoren kommunizieren könnten. Das grundlegende Problem der Zielausrichtung (Alignment) müsse gelöst werden; in seinem Team arbeiteten mittlerweile mehr als 10 Prozent der Beschäftigten an diesem Bereich, mehr als jemals zuvor.
Yann LeCun von Meta schloss sich dem Brief nicht an und begründete dies damit, dass es sich um technische Entwicklungsfehler und nicht um existenzielle Bedrohungen handle. Toby Walsh vom UNSW AI Institute wies darauf hin, dass der Angriff auf das australische Gesundheitssystem Medicare durch die Vergabe minimaler Agenten-Berechtigungen hätte abgewendet werden können.
Neben technischen Sicherheitsvorkehrungen rücken auch die gesetzlichen Pflichten für Unternehmen im Umgang mit künstlicher Intelligenz immer stärker in den Fokus. Ein kostenloser Download verschafft Ihnen jetzt den notwendigen Überblick über Fristen, Pflichten und Risikoklassen des EU AI Acts. EU AI Act in 5 Schritten verstehen
Auf politischer Ebene plädierte Microsoft-Präsident Brad Smith am Montag in einem Fernsehinterview für eine schärfere Regulierung. Kanadas Premierminister Mark Carney unterstützt die Schaffung eines globalen Rats für Technologiestabilität nach dem Muster des Financial Stability Board. EU-Technologiekommissarin Henna Virkkunen erklärte hingegen, der bestehende europäische Rechtsakt zur künstlichen Intelligenz sei ausreichend.
Regulierung hinkt der Entwicklung hinterher
Die Initiative folgt auf mehrere politische Entwicklungen. Einen Monat zuvor hatten Branchenakteure wie Anthropic, OpenAI, Google, Meta, xAI und Nvidia ein freiwilliges Abkommen mit dem Weißen Haus unterzeichnet, das allerdings keine Durchsetzungsmechanismen enthält.
Am Sonntag hob die Trump-Regierung zudem eine Blockade auf, die US-Entwickler zuvor daran gehindert hatte, dem britischen Sicherheitsinstitut vorzeitigen Zugang zu testmodellen zu gewähren.
In Europa sammelte das AI Office bereits Berichte über schwerwiegende Vorfälle und Kontrollverluste; das zuständige wissenschaftliche Gremium tagte dazu am 09.10.2026. Australien plant eigene gesetzliche Schritte für das Jahr 2027. Der aktuelle Brief der Wissenschaftsgemeinschaft besitzt zwar keinen rechtsverbindlichen Charakter, nennt keine konkreten Unternehmen und setzt keine Fristen, erhöht jedoch den Druck auf Regierungen weltweit erheblich.