Zusammenfassung:
Der Gouverneur von Kalifornien, Gavin Newsom, unterzeichnete den No Robot Bosses Act (SB 947), der es Arbeitgebern untersagt, sich bei der Entlassung oder Disziplinierung von Mitarbeitern auf künstliche Intelligenz zu verlassen. Das neue Gesetz verbietet es Unternehmen, solche Entscheidungen ausschließlich auf der Grundlage automatisierter Entscheidungssysteme zu treffen, und schränkt zudem den Einsatz von KI als primäres Entscheidungsinstrument ein. Wenn sich der Arbeitgeber bei Entlassungs- oder Disziplinarentscheidungen in erster Linie auf KI-Ergebnisse verlässt, müssen diese von einem menschlichen Prüfer in Verbindung mit anderen Informationen wie Managementbewertungen, Kollegenbewertungen und Personalakten überprüft werden. Betroffene Mitarbeiter müssen außerdem schriftlich darüber informiert werden, dass die KI eine wesentliche Rolle bei der Entscheidung gespielt hat, welche Mitarbeiterdaten vom System verwendet wurden, und einen menschlichen Ansprechpartner, der die Entscheidung näher erläutern kann.
Der Verfasser des Gesetzentwurfs, der Senator des demokratischen Staates Kalifornien, Jerry McNerney, sagte, dass Arbeiter nicht entlassen oder durch Maschinen oder KI bestraft werden sollten; Von künstlicher Intelligenz wird erwartet, dass sie die Produktivität steigert, aber sie kann auch Fehler und Fehleinschätzungen machen und Voreingenommenheit zeigen, daher sollten Menschen KI-Werkzeuge kontrollieren und nicht umgekehrt. Lorena Gonzalez, Präsidentin der California Federation of Labor und eine wichtige Befürworterin des Gesetzentwurfs, sagte, dass Gewerkschaften und kalifornische Arbeitnehmer den Staat dazu drängten, die Führung bei der Regulierung von KI am Arbeitsplatz zu übernehmen, und die Diskussion darüber, wie die amerikanische Öffentlichkeit auf den Einzug von KI am Arbeitsplatz reagieren sollte, verändert hätten.
McNerney brachte den Gesetzentwurf erstmals im Jahr 2025 ein. Obwohl der Gesetzentwurf in diesem Jahr beide Kammern Kaliforniens mit überwältigender Mehrheit verabschiedete, legte Newsom dennoch sein Veto ein. Newsom räumte damals ein, dass eine unregulierte automatisierte Entscheidungsfindung den Mitarbeitern schaden könnte, lehnte es jedoch ab, von Unternehmen zu verlangen, ihre Mitarbeiter vorab über alle KI-Systeme zu informieren, die sich auf die Arbeitsbedingungen auswirken könnten, und argumentierte, dass der ursprüngliche Gesetzentwurf eine zu weit gefasste Meldepflicht für alle Unternehmen und harmlose Tools vorsehe. Als McEnany den Gesetzentwurf im Februar dieses Jahres erneut vorlegte, strich er die Vorabmeldepflicht und entfernte auch eine Bestimmung, die den Schutz für Gig-Arbeiter vorsah; Letzteres wurde von Fahrdienstleistern wie Uber und Lyft heftig abgelehnt. Die Änderungen milderten den Lobbydruck von Technologie- und Unternehmensgruppen, aber die kalifornische Wirtschaft lehnte den Gesetzentwurf weiterhin ab, bevor er unterzeichnet wurde.
Robert Singleton, leitender Direktor für Politik und öffentliche Angelegenheiten für Kalifornien und den Westen der USA bei der Progressive Chamber of Commerce, sagte in einem Brief an Newsom, dass der Gesetzentwurf Arbeitgeber verpflichtet, Verpflichtungen zu erfüllen, wenn sie sich „in erster Linie“ auf automatisierte Entscheidungssysteme verlassen, dieses Schlüsselkonzept jedoch nicht definiert, was es für Unternehmen schwierig macht zu beurteilen, wann sich die Technologie von der Unterstützung der Entscheidungsfindung zur Hauptgrundlage ändert. Er warnte davor, dass Arbeitgeber ohne Klarheit darüber, ob gemeinsame Instrumente reguliert sind, möglicherweise zögern würden, Technologien einzusetzen, die dazu beitragen können, die Konsistenz bei der Entscheidungsfindung zu verbessern, Sicherheitsrisiken zu erkennen oder Managern dabei zu helfen, bessere Urteile zu fällen.
Newsom hat kürzlich eine Reihe von KI-bezogenen Maßnahmen ergriffen. Anfang dieses Monats unterzeichnete er eine Durchführungsverordnung zur Bewältigung der existenziellen Risiken, die von KI-Modellen ausgehen können, „bevor es zu spät ist“, und drängte auf die Einrichtung eines Rahmens auf Landesebene zur unabhängigen Bewertung und Prüfung von KI-Modellen. Er kritisierte auch die Bundesregierung dafür, dass sie ihre Verantwortung zum Schutz der Amerikaner aufgegeben habe. Eine letztes Jahr von der OECD veröffentlichte Umfrage ergab, dass die Vereinigten Staaten bei der Anwendung automatisierter Verwaltungssoftware weltweit führend sind. 90 % der amerikanischen Manager gaben an, dass ihre Unternehmen mindestens ein Tool zur Führung, Überwachung oder Bewertung von Mitarbeitern nutzen. Ehemalige Meta-Mitarbeiter reichten im Juli dieses Jahres eine Klage ein, in der sie behaupteten, das Unternehmen habe KI-gestützte Systeme eingesetzt, um Mitarbeiter auf Entlassungen zu sortieren und zu überprüfen, und Mitarbeiter, die wegen Krankheit oder Familienurlaub in Anspruch genommen hatten, seien unverhältnismäßig stark betroffen; Meta wies die entsprechenden Vorwürfe zurück. Eine im Mai veröffentlichte Umfrage von United for Respect, einer gemeinnützigen Organisation mit Bezug zum US-Einzelhandel, ergab, dass auch Amazon- und Walmart-Mitarbeiter zunehmend besorgt über die Automatisierung von Personalentscheidungen sind. Die Gruppe drängte die Walmart-Aktionäre im vergangenen Sommer erfolglos, vom Management zu verlangen, den Einsatz von KI in der Mitarbeiterführung offenzulegen.
Das neue Gesetz kommt zu einer Zeit, in der die öffentliche Besorgnis über KI in den Vereinigten Staaten weiter zunimmt. Eine Gallup-Umfrage vom Juli ergab, dass 39 % der Amerikaner glaubten, dass KI mehr schaden als nützen würde, gegenüber 31 % im Jahr 2025. Eine Umfrage des Pew Research Center im August dieses Jahres ergab, dass 71 % der Amerikaner glaubten, dass KI „den Menschen die Arbeitsplätze wegnehmen“ würde, ein Anstieg von etwa 7 Prozentpunkten gegenüber vor etwa zwei Jahren. Newsom erwägt, im Jahr 2028 für das Präsidentenamt zu kandidieren, und die KI-Politik wird voraussichtlich ein wichtiges Thema für demokratische Kandidaten sein. Der republikanische Gouverneurskandidat Kaliforniens, Steve Hilton, unterstützt SB 947 ebenfalls öffentlich und ist der Ansicht, dass der Gesetzentwurf nicht streng genug ist. Er sagte, Arbeitgeber sollten KI nicht bestimmen lassen, ob Mitarbeiter entlassen, degradiert werden, regelmäßige Arbeitszeiten verlieren oder von Projekten ausgeschlossen werden, auf die sie angewiesen sind, um ihr Einkommen zu erzielen.
Kalifornien wird der erste Staat sein, der einen so strengen Regulierungsrahmen für KI am Arbeitsplatz einführt. In den letzten fünf Jahren haben Illinois und andere Orte Beschränkungen für die Beteiligung von KI an Beschäftigungsentscheidungen erlassen; Der Illinois Public Act 103-0804, der im Januar dieses Jahres in Kraft trat, verlangt von Arbeitgebern, ihre Mitarbeiter zu benachrichtigen, wenn KI in bestimmten Beschäftigungsszenarien eingesetzt wird, verbietet jedoch nicht den Einsatz agentenähnlicher digitaler Systeme zur Entscheidungsfindung in der Beschäftigung. Ähnliche Gesetzesentwürfe sind in vielen Bundesstaaten des Landes immer noch auf Eis gelegt. Im Juni dieses Jahres schlugen die demokratischen US-Senatoren Ed Markey und Brian Schatz einen gleichnamigen Bundesgesetzentwurf vor, der es Arbeitgebern verbieten würde, sich bei arbeitsbezogenen Entscheidungen auf automatisierte Entscheidungssysteme zu verlassen. Da sich der Kongress jedoch nicht aktiv für die KI-Regulierungsgesetzgebung eingesetzt hat, sind die Aussichten für den Gesetzentwurf begrenzt. Ähnliche Gesetzesentwürfe wurden in New York, Louisiana und New Jersey vorgeschlagen, es wurde jedoch noch nicht darauf reagiert. New York war der erste Staat des Landes, der Anfang des Jahres neue KI-Rechenzentren verbot. Das neue kalifornische Gesetz könnte andere Bundesstaaten dazu veranlassen, die Gesetzgebung zur KI am Arbeitsplatz zu beschleunigen.
Die Electronic Frontier Foundation, eine liberal ausgerichtete Organisation für Bürgerrechte, sagte, die Unterzeichnung des Gesetzentwurfs sei ein wichtiger Schritt zum Schutz von Arbeitnehmern am Arbeitsplatz, die automatisierte Entscheidungssysteme nutzen, und sie werde weiterhin mit Arbeitnehmergruppen zusammenarbeiten, um Richtlinien zu fördern, die die Würde am Arbeitsplatz wahren.
Kommentare