Kaliforniens guvernör Gavin Newsom har undertecknat en rad nya lagar som kraftigt begränsar hur arbetsgivare kan använda artificiell intelligens mot sina egna arbetare, som förbjuder företag att helt och hållet förlita sig på AI för att avgöra vem som får sparken, från att använda tekniken för att förutsäga anställdas känslotillstånd och från att samla in neurala data såsom elektriska signaler från en persons hjärna eller nerver.
Paketet, som undertecknades i torsdags enligt en analys publicerad av The Guardian, kräver också att företag underrättar arbetare när uppsägningar orsakades av AI och förbjuder AI-övervakning i badrum på arbetsplatsen. Sammantaget motsvarar lagarna en av de mest genomgripande svaren på statlig nivå hittills på användningen av AI i anställningsbeslut – antagen i staten som är hem för många av de företag som bygger tekniken. För mer sammanhang om den här historien, se våra pågående AI-nyheter.
Vad de nya lagarna gör
Bestämmelserna är inriktade på de ögonblick då arbetarna har minst makt. Enligt de nya reglerna kan en arbetsgivare inte längre luta sig enbart på ett AI-system för att fatta ett beslut om uppsägning, och arbetarna måste få veta när artificiell intelligens spelade en roll i deras uppsägning. Slutledning av känslomässiga tillstånd - programvara som påstår sig läsa om en anställd är frustrerad, distraherad eller oengagerad - är nu förbjuden, liksom insamlingen av neurala data från arbetarnas hjärnor och nervsystem.
Lagarna drar också en hård linje kring fysisk integritet och förbjuder AI-driven övervakning i badrum på arbetsplatsen.
Kravet på uppsägningsanmälan kan visa sig vara det mest följdriktiga i praktiken: minskningar som delvis drivs av AI-automatisering kan inte längre presenteras som en vanlig omstrukturering utan att avslöja teknikens roll i beslutet.
Varför lagstiftare flyttade nu
Regleringsskiftet kommer när arbetare i allt högre grad oroar sig för att AI kommer att ta deras jobb, underblåsa diskriminerande beslut och utöka arbetsplatsövervakningen. Fackföreningar och arbetarförespråkare pressade hårt för reglerna, och The Guardians rapportering pekar på praxis som skrämde dem: värmekartor som spårar anställdas rörelser, inklusive hur länge de tillbringar i badrummet, och automatiserade system som ger arbetarnas tonfall. Amazons lagerarbetare har tidigare klagat på att ha tid på pauser i badrummet, och sjuksköterskor på Kaiser Permanente har sagt att automatiserade system bedömde deras tonfall i patientinteraktioner.
Bakgrunden är rekordstora AI-utgifter hos stora teknikföretag tillsammans med vågor av nedskärningar. I juni pausade Meta ett program som spårade arbetarnas datoraktivitet för att träna sina AI-modeller, och en månad senare lämnade dussintals anställda in en stämningsansökan och hävdade att företagets AI-verktyg riktade sig till arbetare med funktionshinder eller de som är sjukskrivna eller föräldraledighet för permitteringar.
Arbetarledare kallar det en vändpunkt
Lorena Gonzalez, ordförande för California Federation of Labour Unions, AFL-CIO, som har hjälpt ledare i andra stater att utarbeta liknande regler, sa till The Guardian att ögonblicket är en milstolpe för organiserat arbete.
"Det är en vändpunkt", sa Gonzalez. "Det är verkligen första gången vi ser Kaliforniens arbetare som visar landet att vi inte behöver acceptera [detta]."
Hon noterade att företagens egna produktkataloger är en färdplan för vad som redan kan användas på verkstadsgolv och på kontor: "Om det säljs är det en bra indikation" att den skulle kunna användas. Federationen planerar att använda farten från de nya lagarna för att återuppliva ett krav som arbetsgivare avslöjar när de använder AI på arbetsplatsen - ett lagförslag som dog i delstatsförsamlingens anslagskommitté tidigare i år.
Verkställighetsgapet
Stadgarna är inte utan gränser. Robin Feldman, direktör och grundare av AI Law & Innovation Institute vid University of California College of the Law, San Francisco, sa till The Guardian att de nya lagarna saknar en privat rätt att tala.
"Räkningarna har ingen privat verkställighet," sa Feldman. "Med andra ord: arbetare kan inte stämma. Endast regeringen kan upprätthålla lagarna."
Den strukturen lägger bördan på Kaliforniens arbets- och medborgarrättsorgan att utreda och åtala kränkningar, vilket arbetarförespråkare säger kommer att testa om lagarna har tänder i praktiken. Utan stämningar från berörda anställda kommer verkställigheten att bero på byråns prioriteringar, bemanning och klagomål från arbetare som är villiga att träda fram.
Vad kommer härnäst
Kalifornien är inte ensamt, men det ligger före. Colorado, Connecticut, Illinois och Texas har antagit snävare lagar om AI-på-arbetsplatsen, och Gonzalez sa att fler räkningar håller på att radas upp över hela landet, med Kaliforniens paket troligen att fungera som en mall.
Paketet bygger också på ett aktivt år för AI-lagstiftning i Sacramento. Newsom har redan undertecknat lagförslag som kräver oberoende granskningar av gränsöverskridande AI-utvecklare och obligatoriskt avslöjande när AI-genererade artister dyker upp i reklam, och arbetsplatspaketet utökar den reglerande ställningen från labb och kampanjannonser till den dagliga mekaniken i anställningen. Med den federala regeringen som håller en hands-off-hållning om AI-reglering, håller stater - inte Washington - på att bli den primära arenan där reglerna för AI på jobbet skrivs.
För arbetsgivare är budskapet att AI-drivna HR-beslut nu kommer att stå inför rättslig granskning på landets största statliga arbetsmarknad. För arbetare är det den första tydliga signalen att de algoritmiska hanteringsverktygen som kommer till arbetsplatserna har gränser - åtminstone i Kalifornien.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
