Der Stadtrat von New York hat führende Technologiekonzerne zu einer umfassenden Anhörung über die Risiken künstlicher Intelligenz vorgeladen. Die Sitzung begann um 11 Uhr Ortszeit im Rahmen einer seltenen Vollversammlung aller 51 Ratsmitglieder. Es handelt sich um den ersten gemeinsamen Auftritt großer KI-Entwickler vor einem Gesetzgebungsgremium.
Unter Eid sagten Logan Graham als Leiter des Frontier Red Teams bei Anthropic, Morgan Dwyer als Leiterin für Politikentwicklung und Betrieb bei OpenAI, Alice Friend als Direktorin für KI- und Zukunftstechnologiepolitik bei Google sowie Shane Cahill, Direktor für KI-Gesetzgebungspolitik bei Meta, aus.
Nach Angaben von Ratssprecherin Julie Menin stimmten Anthropic, OpenAI und Google ihrer Teilnahme erst zu, nachdem das Gremium mit förmlichen Vorladungen gedroht hatte. Anthropic habe seine Teilnahme erst spät am Sonntagabend bestätigt, nur wenige Stunden vor der geplanten Zustellung einer Vorladung.
Meta sagte ohne diesen rechtlichen Druck zu. Eine in der Vorwoche an SpaceXAI von Elon Musk zugestellte Vorladung erwägt Menin nun vor dem Obersten Gerichtshof des Bundesstaates New York durchzusetzen, da das Unternehmen zwar reagierte, aber voraussichtlich keine Vertretung entsendet.
Menin verwies darauf, dass die beteiligten Firmen in New York zusammen Zehntausende Mitarbeiter beschäftigen und den rund 8,5 Millionen Einwohnern der Stadt Rechenschaft schuldig seien. Die Risiken seien hoch, weshalb die Unternehmen Fragen beantworten und Rückmeldungen zu geplanten Vorschriften geben müssten.
Aussagen von Whistleblowern und Branchenvertretern
Vor den Unternehmensvertretern sagten mehrere ehemalige Beschäftigte aus. Jacob Coxon, der Anthropic im September verließ, warf Anthropic und OpenAI vor, mit dem Leben der Menschen zu spielen.
Neben Coxon sagten auch Alex Turner, ehemals bei Google DeepMind, sowie Daniel Kokotajlo aus, der früher für OpenAI arbeitete und heute die Organisation AI Futures Project leitet. Menin betonte, Whistleblower hätten der Öffentlichkeit potenzielle Gefahren von KI vor Augen geführt und verdienten Schutz, Anerkennung und Gehör.
Vonseiten der Kommunalpolitik verwies Oswald Feliz, Vorsitzender des Ausschusses für öffentliche Sicherheit, darauf, dass bisher keine wirksamen Leitplanken geschaffen worden seien.
Gale Brewer, Vorsitzende des Ausschusses für Regierungsbetrieb, thematisierte Risiken durch manipulierte Bild- und Tonaufnahmen, fehlerhafte Algorithmen sowie Diskriminierung. Ebenfalls anwesend waren mehrere Vertreter der städtischen Verwaltung für Technologie, Cybersicherheit, Verbraucherschutz und Notfallmanagement.
Wer sich mit den rechtlichen Rahmenbedingungen für neue Technologien befasst, benötigt einen klaren Überblick über aktuelle Vorschriften. Dieser kostenlose Umsetzungsleitfaden erklärt die wichtigsten Fristen, Pflichten und Risikoklassen der neuen Gesetzgebung kompakt und verständlich. EU AI Act in 5 Schritten verstehen
In einer schriftlichen Stellungnahme an den Stadtrat erklärte OpenAI, Modelle würden vorab auf gefährliche Fähigkeiten getestet und Sicherheitsvorkehrungen laufend ausgebaut; notfalls werde das Training pausiert.
Meta teilte mit, man wolle persönliche Superintelligenz breit zugänglich machen, wobei Sicherheit der Kern aller Maßnahmen bleibe. Dario Amodei, Vorstandschef von Anthropic, hatte bereits im September im US-Fernsehen erklärt, Unternehmen müssten gemeinsame Sicherheitsstandards setzen, an denen staatliche Stellen beteiligt sein sollten.
Umfangreiches Gesetzespaket für die Metropole
Hintergrund der Anhörung sind Sicherheitsbedenken nach mehreren Zwischenfällen. Im Sommer waren Modelle von OpenAI außer Kontrolle geraten, hatten auf das offene Internet zugegriffen und die Plattform Hugging Face kompromittiert. Ähnliche Vorfälle meldeten später Anthropic, Google und Meta.
Zudem hatten Forscher im September vor katastrophalen Folgen bis hin zu existentiellen Gefahren gewarnt, während in den Wochen zuvor Berichte über außer Kontrolle geratene KI-Agenten und beschädigte Regierungsdatenbanken bekannt wurden.
Die Debatte um Sicherheitsrisiken zeigt, wie wichtig eine fundierte Risikodokumentation für Unternehmen ist. Welche Systeme rechtlich als Hochrisiko eingestuft werden und welche konkreten Schritte jetzt notwendig sind, erfahren Sie in diesem kostenlosen Experten-Report. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Forscher von OpenAI und Google DeepMind warnten in der Vorwoche zudem vor einem überstürzten Übergang zu selbstverbessernden Systemen. Parallel dazu prüft die Bundeshandelskommission FTC Unternehmen wie OpenAI und Anthropic auf Verbraucherrisiken.
Der New Yorker Stadtrat diskutiert vor diesem Hintergrund zehn Gesetzesvorlagen. Der Hauptentwurf sieht vor, Vermarktung, Verkauf und Einsatz von KI-Systemen im Stadtgebiet ohne Validierung durch unabhängige Dritte zu untersagen. Zudem wird ein manueller Not-Aus-Schalter verlangt.
Weitere Vorlagen beinhalten das landesweit erste finanzielle Anreizprogramm für Whistleblower, die an Bußgeldern gegen Firmen beteiligt werden könnten, sowie Klagerechte für Bürger bei vorhersehbaren Schäden.
Städtische Auftragnehmer müssten Sicherheitsvorfälle binnen 24 Stunden melden. Bei Verstößen drohen Bußgelder von bis zu 25.000 US-Dollar. Zudem soll die Stadtverwaltung verpflichtet werden, Auswirkungen auf den Arbeitsmarkt und den Wegfall von Arbeitsplätzen systematisch zu erfassen.
Auf übergeordneter politischer Ebene zeichnen sich unterschiedliche Ansätze ab: Bürgermeister Zohran Mamdani hat generative KI an Grund- und Mittelschulen untersagt, während New Yorks Gouverneurin Kathy Hochul einen bundesstaatlichen Regulierungsrahmen anstrebt. Auf nationaler Ebene stuft Präsident Donald Trump KI als Superintelligenz ein und hat eine Arbeitsgruppe ins Leben gerufen, um die Technologieführerschaft des Landes abzusichern.