Der kalifornische Gouverneur Gavin Newsom hat eine Reihe neuer Gesetze unterzeichnet, die den Einsatz künstlicher Intelligenz gegen ihre eigenen Arbeitnehmer durch Arbeitgeber stark einschränken. Unternehmen dürfen sich nicht ausschließlich auf KI verlassen, um zu entscheiden, wer entlassen wird, sie dürfen die Technologie nicht nutzen, um den emotionalen Zustand von Mitarbeitern vorherzusagen, und sie dürfen neuronale Daten wie elektrische Signale aus dem Gehirn oder den Nerven einer Person sammeln.

Das Paket, das am Donnerstag laut einer von The Guardian veröffentlichten Analyse unterzeichnet wurde, verpflichtet Unternehmen außerdem dazu, Arbeitnehmer zu benachrichtigen, wenn Entlassungen durch KI verursacht wurden, und verbietet die KI-Überwachung in Arbeitsplatztoiletten. Zusammengenommen stellen die Gesetze eine der bisher umfassendsten Reaktionen auf Landesebene auf den Einsatz von KI bei Beschäftigungsentscheidungen dar – verabschiedet in dem Bundesstaat, in dem viele der Unternehmen ansässig sind, die die Technologie entwickeln. Weitere Informationen zu dieser Geschichte finden Sie in unseren laufenden KI-Nachrichten.

Was die neuen Gesetze bewirken

Die Bestimmungen zielen auf die Momente ab, in denen die Arbeitnehmer am wenigsten Macht haben. Nach den neuen Regeln kann sich ein Arbeitgeber nicht mehr ausschließlich auf ein KI-System stützen, um eine Kündigungsentscheidung zu treffen, und den Arbeitnehmern muss mitgeteilt werden, wann künstliche Intelligenz bei ihrer Entlassung eine Rolle gespielt hat. Die Inferenz von emotionalen Zuständen – eine Software, die angeblich lesen kann, ob ein Mitarbeiter frustriert, abgelenkt oder desinteressiert ist – ist mittlerweile tabu, ebenso wie die Sammlung neuronaler Daten aus dem Gehirn und dem Nervensystem der Mitarbeiter.

Die Gesetze ziehen auch eine harte Linie in Bezug auf die physische Privatsphäre und verbieten die KI-gestützte Überwachung von Toiletten am Arbeitsplatz vollständig.

Die Benachrichtigungspflicht bei Entlassungen könnte sich in der Praxis als die folgenreichste erweisen: Reduzierungen, die teilweise durch KI-Automatisierung bedingt sind, können nicht länger als gewöhnliche Umstrukturierungen dargestellt werden, ohne die Rolle der Technologie bei der Entscheidung offenzulegen.

Warum der Gesetzgeber jetzt umgezogen ist

Der regulatorische Wandel kommt, da Arbeitnehmer zunehmend befürchten, dass KI ihnen Arbeitsplätze wegnimmt, diskriminierende Entscheidungen fördert und die Überwachung am Arbeitsplatz ausweitet. Gewerkschaften und Arbeitervertreter drängten energisch auf die Regeln, und die Berichterstattung des Guardian weist auf Praktiken hin, die sie beunruhigten: Heatmaps, die die Bewegungen der Mitarbeiter verfolgen, einschließlich der Zeit, die sie auf der Toilette verbringen, und automatisierte Systeme, die den Tonfall der Arbeiter bewerten. Amazon-Lagerarbeiter haben sich zuvor darüber beschwert, dass sie bei Toilettenpausen zeitlich begrenzt sind, und Krankenschwestern bei Kaiser Permanente haben erklärt, dass automatisierte Systeme ihren Tonfall bei Patienteninteraktionen bewertet hätten.

Hintergrund sind rekordverdächtige KI-Ausgaben bei großen Technologieunternehmen sowie Wellen des Stellenabbaus. Im Juni pausierte Meta ein Programm, das die Computeraktivität der Arbeiter verfolgte, um seine KI-Modelle zu trainieren, und einen Monat später reichten Dutzende von Mitarbeitern eine Klage ein, in der sie behaupteten, dass die KI-Tools des Unternehmens auf Arbeiter mit Behinderungen oder solche im Krankheits- oder Elternurlaub aufgrund von Entlassungen abzielten.

Gewerkschaftsführer nennen es einen Wendepunkt

Lorena Gonzalez, Präsidentin der California Federation of Labor Unions (AFL-CIO), die Führungskräften in anderen Bundesstaaten bei der Ausarbeitung ähnlicher Vorschriften geholfen hat, sagte gegenüber The Guardian, dieser Moment sei ein Meilenstein für die organisierte Arbeitnehmerschaft.

„Es ist ein Wendepunkt“, sagte Gonzalez. „Es ist wirklich das erste Mal, dass wir kalifornische Arbeiter sehen, die dem Land zeigen, dass wir [das] nicht akzeptieren müssen.“

Sie wies darauf hin, dass die eigenen Produktkataloge von Unternehmen einen Leitfaden für das darstellen, was möglicherweise bereits in Werkstätten und Büros verwendet wird: „Wenn es verkauft wird, ist das ein guter Hinweis darauf, dass es eingesetzt werden könnte.“ Der Verband plant, die Dynamik der neuen Gesetze zu nutzen, um eine Verpflichtung wiederzubeleben, die Arbeitgeber offenlegen müssen, wenn sie KI am Arbeitsplatz einsetzen – ein Gesetzentwurf, der Anfang des Jahres im Bewilligungsausschuss der Landesversammlung scheiterte.

Die Durchsetzungslücke

Die Satzung ist nicht unbegrenzt. Robin Feldman, Direktor und Gründer des AI Law & Innovation Institute am University of California College of the Law in San Francisco, sagte gegenüber The Guardian, dass den neuen Gesetzen ein privates Klagerecht fehlt.

„Die Rechnungen haben keine private Durchsetzung“, sagte Feldman. „Mit anderen Worten: Arbeiter können nicht klagen. Nur die Regierung kann die Gesetze durchsetzen.“

Diese Struktur erlegt den kalifornischen Arbeits- und Bürgerrechtsbehörden die Aufgabe auf, Verstöße zu untersuchen und strafrechtlich zu verfolgen, was laut Arbeitnehmervertretern auf die Probe stellen wird, ob die Gesetze in der Praxis Bestand haben. Ohne Klagen betroffener Mitarbeiter hängt die Durchsetzung von den Prioritäten der Agentur, der Personalausstattung und den Beschwerden von Arbeitnehmern ab, die bereit sind, sich zu melden.

Was als nächstes kommt

Kalifornien ist nicht allein, aber es hat die Nase vorn. Colorado, Connecticut, Illinois und Texas haben strengere Gesetze zur KI am Arbeitsplatz verabschiedet, und Gonzalez sagte, dass im ganzen Land weitere Gesetzesentwürfe in Vorbereitung sind, wobei das kalifornische Paket wahrscheinlich als Vorlage dienen wird.

Das Paket baut auch auf einem aktiven Jahr für die KI-Gesetzgebung in Sacramento auf. Newsom hat bereits Gesetzesentwürfe unterzeichnet, die unabhängige Prüfungen von KI-Entwicklern an vorderster Front erfordern und die Offenlegung verpflichten, wenn KI-generierte Künstler in der Werbung auftreten, und das Arbeitsplatzpaket weitet diesen Regulierungsrahmen von Laboren und Kampagnenanzeigen auf die alltäglichen Mechanismen der Beschäftigung aus. Da die Bundesregierung bei der KI-Regulierung eine zurückhaltende Haltung einnimmt, werden die Bundesstaaten – nicht Washington – zum primären Schauplatz, in dem die Regeln für die KI bei der Arbeit geschrieben werden.

Für Arbeitgeber lautet die Botschaft, dass KI-gesteuerte Personalentscheidungen nun auf dem größten staatlichen Arbeitsmarkt des Landes einer rechtlichen Prüfung unterzogen werden. Für Arbeitnehmer ist es das erste klare Signal, dass die algorithmischen Managementtools, die an Arbeitsplätzen Einzug halten, Grenzen haben – zumindest in Kalifornien.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →