De Californische gouverneur Gavin Newsom heeft een reeks nieuwe wetten ondertekend die de manier waarop werkgevers kunstmatige intelligentie tegen hun eigen werknemers kunnen gebruiken scherp beperken, waardoor bedrijven worden verboden volledig op AI te vertrouwen om te beslissen wie wordt ontslagen, de technologie te gebruiken om de emotionele toestand van werknemers te voorspellen en neurale gegevens te verzamelen, zoals elektrische signalen van iemands hersenen of zenuwen.

Het pakket, donderdag ondertekend volgens een analyse gepubliceerd door The Guardian, verplicht bedrijven ook om werknemers op de hoogte te stellen wanneer ontslagen zijn veroorzaakt door AI en verbiedt AI-toezicht in badkamers op de werkplek. Alles bij elkaar genomen vormen de wetten een van de meest ingrijpende reacties op staatsniveau tot nu toe op het gebruik van AI bij werkgelegenheidsbeslissingen – aangenomen in de staat waar veel van de bedrijven wonen die de technologie bouwen. Voor meer context over dit verhaal, zie ons lopende AI-nieuws.

Wat de nieuwe wetten doen

De bepalingen zijn gericht op de momenten waarop werknemers de minste macht hebben. Volgens de nieuwe regels kan een werkgever niet langer uitsluitend op een AI-systeem vertrouwen om een ​​ontslagbeslissing te nemen, en moeten werknemers op de hoogte worden gesteld wanneer kunstmatige intelligentie een rol heeft gespeeld bij hun ontslag. Inferentie over emotionele toestanden – software die beweert te kunnen lezen of een werknemer gefrustreerd, afgeleid of niet betrokken is – is nu verboden terrein, net als het verzamelen van neurale gegevens uit de hersenen en het zenuwstelsel van werknemers.

De wetten trekken ook een harde grens rond fysieke privacy en verbieden AI-aangedreven bewaking in badkamers op de werkplek volledig.

De eis tot ontslagmelding kan in de praktijk de meest consequente blijken: reducties die gedeeltelijk door AI-automatisering worden aangedreven, kunnen niet langer worden gepresenteerd als gewone herstructureringen zonder de rol van de technologie in de beslissing openbaar te maken.

Waarom wetgevers nu in actie zijn gekomen

De verschuiving in de regelgeving komt doordat werknemers zich steeds meer zorgen maken dat AI hun banen zal innemen, discriminerende beslissingen zal aanwakkeren en het toezicht op de werkplek zal uitbreiden. Vakbonden en pleitbezorgers van werknemers drongen hard aan op de regels, en de rapportage van The Guardian wijst op praktijken die hen verontrustten: heatmaps die de bewegingen van werknemers volgen, inclusief hoe lang ze in de badkamer doorbrengen, en geautomatiseerde systemen die de toon van werknemers beoordelen. Magazijnmedewerkers van Amazon hebben eerder geklaagd over het feit dat ze te laat waren tijdens toiletpauzes, en verpleegsters bij Kaiser Permanente hebben gezegd dat geautomatiseerde systemen de toon van hun stem in patiënteninteracties beoordeelden.

De achtergrond zijn recorduitgaven voor AI bij grote technologiebedrijven, naast golven van banenverlies. In juni stopte Meta een programma dat de computeractiviteit van werknemers volgde om de AI-modellen te trainen, en een maand later spanden tientallen werknemers een rechtszaak aan waarin ze beweerden dat de AI-tools van het bedrijf gericht waren op werknemers met een handicap of op mensen met medisch of ouderschapsverlof vanwege ontslag.

Labour-leiders noemen het een keerpunt

Lorena Gonzalez, voorzitter van de California Federation of Labor Unions, AFL-CIO, die leiders in andere staten heeft geholpen soortgelijke regelgeving op te stellen, vertelde The Guardian dat dit een mijlpaal is voor de georganiseerde arbeid.

"Het is een keerpunt", zei Gonzalez. “Het is echt de eerste keer dat we Californische arbeiders zien die het land laten zien dat we dit niet hoeven te accepteren.”

Ze merkte op dat de eigen productcatalogi van bedrijven een routekaart zijn voor wat mogelijk al in gebruik is op de werkvloer en in kantoren: "Als het wordt verkocht, is dat een goede indicatie" zou het kunnen worden ingezet. De federatie is van plan het momentum van de nieuwe wetten te gebruiken om een ​​vereiste nieuw leven in te blazen dat werkgevers openbaar moeten maken wanneer ze AI op de werkplek gebruiken – een wetsvoorstel dat eerder dit jaar in de kredietcommissie van de staatsvergadering werd aangenomen.

De handhavingskloof

De statuten zijn niet onbeperkt. Robin Feldman, directeur en oprichter van het AI Law & Innovation Institute aan het University of California College of the Law, San Francisco, vertelde The Guardian dat de nieuwe wetten een particulier recht van actie ontberen.

"De wetsvoorstellen hebben geen particuliere handhaving", zei Feldman. "Met andere woorden: werknemers kunnen geen rechtszaak aanspannen. Alleen de overheid kan de wetten handhaven."

Die structuur legt de last op de Californische arbeids- en burgerrechtenagentschappen om schendingen te onderzoeken en te vervolgen, waarvan werknemersvoorstanders zeggen dat ze zullen testen of de wetten in de praktijk tanden hebben. Zonder rechtszaken van getroffen werknemers zal de handhaving afhangen van de prioriteiten van de instanties, de personeelsbezetting en klachten van werknemers die bereid zijn naar voren te komen.

Wat komt erna

Californië is niet de enige, maar loopt voorop. Colorado, Connecticut, Illinois en Texas hebben strengere AI-wetten op de werkplek aangenomen, en Gonzalez zei dat er in het hele land meer wetsvoorstellen in de maak zijn, waarbij het Californische pakket waarschijnlijk als voorbeeld zal dienen.

Het pakket bouwt ook voort op een actief jaar voor AI-wetgeving in Sacramento. Newsom heeft al wetsvoorstellen ondertekend die onafhankelijke audits van grensverleggende AI-ontwikkelaars vereisen en openbaarmaking verplicht stellen wanneer door AI gegenereerde artiesten in advertenties verschijnen, en het werkplekpakket breidt die regelgeving uit van laboratoria en campagneadvertenties naar de dagelijkse mechanica van de werkgelegenheid. Nu de federale overheid zich terughoudend opstelt ten aanzien van AI-regulering, worden staten – en niet Washington – de belangrijkste arena waar de regels voor AI op het werk worden geschreven.

Voor werkgevers is de boodschap dat AI-gestuurde HR-beslissingen nu juridisch onder de loep zullen worden genomen op de grootste staatsarbeidsmarkt van het land. Voor werknemers is dit het eerste duidelijke signaal dat de algoritmische managementtools die op de werkvloer verschijnen, beperkingen kennen – tenminste in Californië.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →