KI-Chatbots als Verbraucherprodukte: New Jersey plant Bußgelder bis 5.000 Dollar

Zwei Vorlagen passierten den Ausschuss; weitere Vorschläge zu Arbeitsplatzüberwachung und Rechenzentren blieben teils offen.

•

Im US-Bundesstaat New Jersey treiben Abgeordnete der Parlamentskammer gesetzliche Regelungen für den Einsatz von Künstlicher Intelligenz voran. Der Ausschuss für Wissenschaft, Innovation und Technologie der New Jersey Assembly befasste sich am 16. November 2026 mit mehreren Gesetzesinitiativen, die den Einsatz automatisierter Systeme in Versicherungsabläufen, auf dem Wohnungsmarkt und am Arbeitsplatz eingrenzen sollen. Die Vorlagen A5494 und A5495 passierten das Gremium, während der Entwurf A4981 zunächst nur Gegenstand einer Anhörung blieb.

Der Ausschussvorsitzende Chris Tully erklärte hierzu, dass Künstliche Intelligenz das menschliche Urteilsvermögen nicht ersetzen könne.

Grenzen für automatisierte Absagen und Mieterprüfungen

Der gebilligte Gesetzentwurf A5494 untersagt es Versicherern, Künstliche Intelligenz als alleinige und abschließende Entscheidungsinstanz bei der Ablehnung von Leistungsansprüchen in der Wohngebäude-, Auto- und Flutversicherung einzusetzen.

Nach den Vorgaben muss die endgültige Entscheidung zwingend bei einem menschlichen Sachbearbeiter liegen. Die Initiative passierte das Gremium mit breiter Mehrheit, lediglich der Abgeordnete DePhillips enthielt sich.

Ebenfalls mit der Enthaltung von DePhillips und der Zustimmung der übrigen Ausschussmitglieder wurde die Vorlage A5495 verabschiedet. Dieser Entwurf nimmt automatisierte Mieter-Screening-Systeme in den Blick. Vorgesehen sind verbindliche Prüfungen auf Verzerrungen und Diskriminierungsmuster sowie eine schriftliche Benachrichtigungspflicht gegenüber abgelehnten Wohnungsbewerbern.

Zusätzlich sieht ein damit verknüpfter Entwurf mit der Kennung A5496 Kontrollmechanismen für generative KI bei der Bewertung von Hypothekenanträgen vor. Diese Systeme sollen vor ihrer Vermarktung oder ihrem Einsatz im Bundesstaat unabhängigen Prüfungen auf algorithmische Voreingenommenheit unterzogen werden.

Kontroverse um Überwachung am Arbeitsplatz

Keinen Beschluss fasste der Ausschuss hingegen zum Entwurf A4981, dessen Senatsfassung S-4075 zuvor bereits im dortigen Arbeitsausschuss vorangekommen war.

Anzeige

Die Regulierung von Algorithmen und automatisierten Systemen stellt Unternehmen vor komplexe rechtliche Herausforderungen. Dieser kostenlose Download verschafft Ihnen den Überblick über Fristen, Pflichten und Risikoklassen, den Ihre Rechts- und IT-Abteilung jetzt dringend braucht. EU AI Act in 5 Schritten verstehen

Die von Heather Simmons, Cody Miller und 16 weiteren demokratischen Co-Sponsoren eingebrachte Vorlage zielt auf KI-gestützte elektronische Überwachung in Beschäftigungsverhältnissen und im öffentlichen Dienst ab. Unter anderem verlangt der Entwurf für zahlreiche automatisierte digitale Werkzeuge eine vorherige behördliche Genehmigung.

Vertreter des Wirtschaftsverbands New Jersey Business & Industry Association äußerten deutliche Kritik an dem Vorhaben. Die Analysten Jack Ramirez und Jack Kelly bemängelten unklare Begriffsbestimmungen sowie zusätzliche Belastungen bei der Einhaltung von Vorschriften. Zudem gebe es Überschneidungen mit dem bereits bestehenden Antidiskriminierungsrecht.

Die Definitionen für automatisierte Systeme zur Entscheidungsfindung im Beschäftigungsbereich sowie für elektronische Überwachungsinstrumente gingen über das übliche Begriffsverständnis von KI hinaus. Kelly gab zu bedenken, die Regulierung gleiche einem Schuss auf ein bewegliches Ziel; der Gesetzgeber solle sich vorrangig auf konkreten Missbrauch statt auf die Technologie selbst konzentrieren.

Transparenz bei Rechenzentren und Debatte über Chatbots

Neben den Regulierungen für Endanwender befassten sich die Parlamentarier am 16. November 2026 auch mit der Infrastruktur hinter den KI-Modellen. Der Entwurf A5224 soll Entwickler von Datenzentren dazu verpflichten, noch vor der vorläufigen Prüfung von Standortplänen nach dem kommunalen Landnutzungsgesetz umfassende Informationen für die Öffentlichkeit und gewählte Amtsträger offenzulegen.

Anzeige

Während Gesetzgeber weltweit neue Regeln für den Technologie-Einsatz entwerfen, müssen Verantwortliche die konkreten Risiken im Blick behalten. Welche Systeme künftig als Hochrisiko eingestuft werden und was Unternehmen jetzt konkret tun müssen, klärt dieser kostenlose Report auf. Jetzt kostenlosen KI-Umsetzungsleitfaden herunterladen

Zeitgleich passierte die Vorlage A2774, die dem Senatsentwurf S4304 der Senatoren Linda Greenstein und Brian Stack entspricht, mit überparteilicher Unterstützung die Kammer. Sie verbietet künftig Geheimhaltungsvereinbarungen bei Rechenzentrum-Projekten; der Abgeordnete DePhillips votierte hierfür mit Ja.

Zuvor hatte Gouverneurin Mikie Sherrill bereits ein Gesetz von Andrew Macurdy unterzeichnet, durch das ungenutzte Steuergutschriften für Datenzentren in Höhe von 250 Millionen US-Dollar an die New Jersey Economic Development Authority umgeleitet wurden.

Die aktuellen Ausschussberatungen reihen sich in breitere legislative Bemühungen ein. So war bereits am 5. Oktober 2026 der Entwurf A5607 von Cody Miller, Marisa Sweeney, Joe Danielsen und Anthony Angelozzi eingebracht worden, der am 19. Oktober 2026 nach einer Abstimmung von 5 zu 1 Stimmen bei einer Enthaltung im Ausschuss für öffentliche Sicherheit an den Haushaltsausschuss überwiesen wurde.

Der auf einem Modellgesetz von Verbraucher- und Datenschutzorganisationen basierende Entwurf stuft KI-Chatbots als Verbraucherprodukte ein. Er sieht eine verschärfte Haftung für Schäden, Restriktionen für Chat-Protokolle, ein Aufbewahrungslimit von zwei Jahren sowie Bußgelder von bis zu 5.000 US-Dollar pro Verstoß vor.

Einer Rutgers-Studie aus dem Jahr 2025 zufolge haben 74 Prozent der Einwohner New Jerseys bereits KI-Werkzeuge verwendet, im US-weiten Durchschnitt liegt der Wert bei 68 Prozent. Zudem nutzten 57 Prozent der Befragten im Bundesstaat mindestens einmal ChatGPT, während 59 Prozent eine strenge Regulierung der Technologie befürworten.