Der US-Bundesstaat Kalifornien untersagt es Arbeitgebern künftig, Personalentscheidungen über Entlassungen oder Disziplinarmaßnahmen vollständig an automatisierte Systeme zu übertragen. Gouverneur Gavin Newsom unterzeichnete das Gesetz SB 947, das unter der Bezeichnung „No Robo Bosses Act“ bekannt ist. Damit ist Kalifornien der erste US-Bundesstaat, der ein solches Verbot für rein automatisierte Disziplinar- und Kündigungsprozesse einführt.
Das Gesetz tritt am 1. Juli 2027 in Kraft und schützt reguläre Beschäftigte, während selbstständige Auftragnehmer von den Regelungen ausgenommen bleiben. Dient ein Algorithmus oder ein System Künstlicher Intelligenz (KI) als primäre Entscheidungsgrundlage, schreibt das Gesetz zwingend eine menschliche Überprüfung vor.
Ein Mensch muss die Maßnahme anhand zusätzlicher Informationen bestätigen, zu denen Personalakten, Leistungsbewertungen und Beurteilungen durch Kollegen zählen. Zudem müssen betroffene Angestellte schriftlich darüber aufgeklärt werden, dass KI zum Einsatz kam, welche Personaldaten genutzt wurden und wer als menschlicher Ansprechpartner zur Verfügung steht.
Abgeschwächte Neufassung nach früherem Veto
Im Oktober 2025 hatte Newsom eine frühere, in weiten Teilen identische Fassung des Gesetzes noch per Veto gestoppt. Die nun beschlossene Version wurde im Vergleich dazu abgeschwächt: Ein zuvor vorgesehener förmlicher Beschwerdeweg sowie ein direktes Klagerecht für Betroffene sind nicht mehr im Gesetzestext enthalten. Die Durchsetzung der neuen Bestimmungen obliegt künftig dem kalifornischen Arbeitsbeauftragten, dem Generalstaatsanwalt oder lokalen Staatsanwälten.
Auch in Europa rückt die rechtssichere Gestaltung von KI-Systemen im Arbeitsalltag immer stärker in den Fokus von IT- und Rechtsabteilungen. Dieser kostenlose Umsetzungsleitfaden bietet einen kompakten Überblick über Pflichten, Risikoklassen und Fristen der neuen EU-KI-Verordnung. EU AI Act in 5 Schritten verstehen: Jetzt Gratis-E-Book sichern
Der Schritt erfolgt vor dem Hintergrund einer rasch wachsenden Verbreitung algorithmischer Führungsinstrumente in Unternehmen. Laut einer Umfrage der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) gaben 90 Prozent der befragten US-Manager an, dass ihre Unternehmen mindestens ein algorithmisches Management-Werkzeug einsetzen.
In Europa lag dieser Anteil bei 79 Prozent, in Japan bei 40 Prozent. Aus Daten des Branchenportals HR Dive geht zudem hervor, dass ein Viertel der Manager bei Entscheidungen über Stellenabbau häufig oder durchgehend auf KI zurückgreift.
Umfassendes Gesetzespaket zu Arbeitsplatz und KI
Die Unterzeichnung von SB 947 ist Teil eines breiteren Regulierungspakets für digitale Technologien. Newsom unterzeichnete parallel das Gesetz SB 951, das Unternehmen verpflichtet, Beschäftigte schriftlich zu informieren, wenn Massenentlassungen auf den Einsatz von KI zurückgehen.
Überdies beschränken die Regelungen AB 1331 und AB 1883 die Überwachung am Arbeitsplatz: Betriebliche Toiletten dürfen nicht per KI überwacht werden, und die KI-gestützte Vorhersage emotionaler Zustände mittels biometrischer Daten ist untersagt.
Wer die Einführung von KI-Systemen rechtssicher begleiten möchte, muss die neuen regulatorischen Anforderungen genau kennen, um empfindliche Strafen zu vermeiden. Experten haben die wichtigsten Informationen zur Dokumentation und Qualitätssicherung in einem kostenlosen Report zusammengefasst. Kostenlosen Umsetzungsleitfaden zum EU AI Act hier herunterladen
Weitere verabschiedete Gesetze betreffen unter anderem den Einsatz von KI in der Gesundheitsversorgung, Transparenzvorschriften, Deepfakes und die Gen-Synthese.
Im medizinischen Sektor verbleibt die Letztentscheidung bei der Patientenversorgung zwingend beim medizinischen Fachpersonal; Juristen wiederum dürfen zentrale anwaltliche Tätigkeiten nicht vollständig an Algorithmen delegieren. Newsom unterzeichnete zudem eine Verfügung, wonach kalifornische Behörden weiterhin den Begriff „artificial intelligence“ verwenden sollen.
Der Gouverneur kritisierte bei der Vorlage des Pakets das Fehlen einer umfassenden Regulierung auf Bundesebene. Mehrere von Gewerkschaften unterstützte Initiativen, darunter spezifische Schutzmaßnahmen für Beschäftigte im Gesundheitswesen, blieben von Newsom unberücksichtigt; ihr Status war zum Berichtszeitpunkt offen.
