Der Stadtrat von New York hat Vertreter der führenden Technologiekonzerne OpenAI, Anthropic, Meta und Google unter Eid zu Fragen der Sicherheit und Regulierung künstlicher Intelligenz befragt. Das Unternehmen SpaceXAI blieb der mehrstündigen Sitzung trotz einer offiziellen Vorladung fern.
Die Ratsvorsitzende Julie Menin kündigte daraufhin an, die Vorladung auf juristischem Weg über ein Gericht durchsetzen zu wollen. Die Anhörung, für die 69 Zeugen in 14 Panels vorgesehen waren, befasste sich unter anderem auch mit Berichten über autonome KI-Agenten, die abgeschlossene Testumgebungen verlassen haben sollen.
Strenge Auflagen und Strafen in zehn Gesetzesentwürfen
Hintergrund der Befragung ist ein Paket aus zehn Gesetzesvorlagen und Resolutionen zur Regulierung von KI-Systemen, über die der Stadtrat im regulären Gesetzgebungsverfahren zu einem späteren Zeitpunkt abstimmen will.
Ein zentraler Entwurf, der Prüfbereiche wie Modellleistung, Datenherkunft, Verzerrungen, Datenschutz und Sicherheit umfasst, sieht vor, den Verkauf sowie den Einsatz von KI-Modellen in New York City ohne externe Prüfung und menschliche Notfallabschaltung zu untersagen.
Bei Verstößen gegen diese Regelung stehen Geldstrafen von bis zu 25.000 US-Dollar je Verstoß im Raum. Die Vorgaben sollen 180 Tage nach einer Verabschiedung greifen.
Die technologische Entwicklung von KI-Systemen stellt den Gesetzgeber weltweit vor neue Herausforderungen, wie die aktuellen Regulierungspläne zeigen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen
Ergänzend sehen die parlamentarischen Initiativen ein Whistleblower-Programm vor. Informanten könnten demnach Anspruch auf 25 Prozent der behördlich eingetriebenen Beträge erhalten, bei bestimmten Verfahren sogar bis zu 50 Prozent.
Unternehmen, die Geschäftsbeziehungen mit der Stadtverwaltung unterhalten, sollen zudem verpflichtet werden, schwerwiegende Sicherheitsvorfälle binnen 24 Stunden an das NYC Cyber Command zu melden.
Ein weiterer Vorschlag zielt auf den Chatbot-Datenschutz ab: Er verlangt die ausdrückliche Zustimmung von Nutzern für die Verwendung von Konversationen zum Modelltraining und schränkt zielgerichtete Werbung sowie Profiling ein.
Laut Unterlagen des Stadtrats traten in einem Benchmark der Universität Hamburg im Jahr 2026 Halluzinationen bei 31,4 Prozent der Frage-Antwort-Paare auf, im Bereich der Mathematik lag der Wert bei 60,0 Prozent. Zudem dokumentierten die Ratsunterlagen nahezu ein Dutzend gemeldete KI-Sicherheitsvorfälle bis zum 24. September 2026.
Ausweichende Antworten und Warnungen von Forschern
Während der Befragung vermieden die Vertreter von OpenAI, Anthropic, Meta und Google konkrete Angaben zu den Risiken. Sie bezifferten die Wahrscheinlichkeit katastrophaler Schäden nicht und gaben keine verbindliche Zusage ab, Modelle im Fall nicht bestandener Sicherheitsüberprüfungen zurückzuhalten.
Zudem ließen die Unternehmensvertreter ihre rechtliche Haftung offen, und auf die Frage nach bestehendem Versicherungsschutz meldete sich kein anwesender Konzern.
Wer sich mit dem Einsatz moderner Technologien befasst, muss heute auch die damit verbundenen regulatorischen Anforderungen kennen. Dieser kostenlose Report klärt darüber auf, welche KI-Systeme als Hochrisiko gelten und was Unternehmen jetzt konkret tun müssen. Kostenlosen Umsetzungsleitfaden zum AI Act herunterladen
Die OpenAI-Vertreterin Morgan Dwyer lehnte eine exakte Wahrscheinlichkeitsangabe für Katastrophenrisiken ab und betonte, dass weder 1 Prozent noch 10 Prozent oder 20 Prozent akzeptabel wären. Das Unternehmen sicherte jedoch zu, mehrere Gesetzesinitiativen zur externen Prüfung von Sicherheitsmaßnahmen zu unterstützen.
Bereits am 22. September 2026 hatte OpenAI unabhängige Begutachtungen mit vereinbartem Prüfumfang und offengelegten Interessenkonflikten befürwortet, ohne sich damit jedoch direkt zum New Yorker Gesetzentwurf zu bekennen.
Eindringliche Warnungen kamen hingegen von ehemaligen Beschäftigten führender KI-Labore. Sie mahnten, dass Unternehmen die Technologie schneller weiterentwickelten, als sie deren Verhalten beherrschen könnten.
Jacob Coxon, ein früherer Anthropic-Forscher, erklärte bei der Anhörung, dass auf dem gegenwärtigen Pfad ein Kontrollverlust über die Systeme wahrscheinlicher sei als ein Fortbestehen der menschlichen Kontrolle, was bis zur Auslöschung der Menschheit führen könne. Er forderte ein langsameres Entwicklungstempo und merkte an, dass Abschaltfunktionen kurzfristig helfen könnten, auf lange Sicht jedoch unzureichend seien. Der frühere Google-DeepMind-Forscher Alex Turner bezifferte das persönliche Risiko einer späteren Übernahme durch KI-Systeme auf rund ein Drittel.
Uneinigkeit auf politischer Ebene
Während der Stadtrat verbindliche Vorgaben anstrebt, gehen die Auffassungen in der Exekutive auseinander. Der Bürgermeister Zohran Mamdani sprach sich für bundesweite Regelungen aus und kündigte eine Prüfung der städtischen Entwürfe an. Die New Yorker Gouverneurin Kathy Hochul verfolgt eigene Standards für Berichts- und Transparenzpflichten, während die Trump-Regierung auf eine freiwillige Selbstkontrolle der Tech-Branche setzt.