Guvernér Kalifornie Gavin Newsom podepsal sadu nových zákonů, které ostře omezují, jak mohou zaměstnavatelé používat umělou inteligenci proti svým vlastním zaměstnancům, a zakazují společnostem spoléhat se výhradně na AI při rozhodování o tom, kdo bude propuštěn, používat technologii k předpovídání emočních stavů zaměstnanců a shromažďovat neurální data, jako jsou elektrické signály z mozku nebo nervů člověka.

Balíček, podepsaný ve čtvrtek podle analýzy zveřejněné The Guardian, také vyžaduje, aby společnosti informovaly zaměstnance o propouštění způsobených umělou inteligencí, a zakazuje sledování umělé inteligence v koupelnách na pracovišti. Celkově vzato, zákony představují jednu z nejrozsáhlejších reakcí na státní úrovni na používání umělé inteligence při rozhodování o zaměstnání – přijatou ve státě, který je domovem mnoha společností, které tuto technologii vyrábějí. Další kontext k tomuto příběhu naleznete v našich probíhajících zprávách o AI.

Co dělají nové zákony

Ustanovení se zaměřují na okamžiky, kdy mají pracovníci nejmenší moc. Podle nových pravidel se zaměstnavatel již nemůže při rozhodování o ukončení pracovního poměru opírat pouze o systém umělé inteligence a zaměstnanci musí být informováni, kdy umělá inteligence hrála roli v jejich propouštění. Odvozování emočního stavu – software, který tvrdí, že čte, zda je zaměstnanec frustrovaný, roztržitý nebo neangažovaný – je nyní zakázán, stejně jako sběr nervových dat z mozků a nervového systému pracovníků.

Zákony také vymezují tvrdou čáru kolem fyzického soukromí a zcela zakazují sledování AI na pracovištích.

Požadavek na oznámení o propouštění se může v praxi ukázat jako nejdůslednější: snížení částečně způsobená automatizací umělé inteligence již nelze prezentovat jako běžnou restrukturalizaci, aniž by byla odhalena role technologie při rozhodování.

Proč se zákonodárci přestěhovali právě teď

Regulační posun přichází, když se pracovníci stále více obávají, že jim AI vezme práci, podpoří diskriminační rozhodnutí a rozšíří dohled na pracovišti. Odbory a zastánci pracovníků tvrdě prosazovali pravidla a zprávy The Guardian poukazují na praktiky, které je znepokojily: ​​tepelné mapy, které sledují pohyby zaměstnanců, včetně toho, jak dlouho stráví v koupelně, a automatizované systémy, které hodnotí tón hlasu pracovníků. Zaměstnanci skladu Amazonu si již dříve stěžovali na načasování přestávek v koupelně a sestry z Kaiser Permanente uvedly, že automatické systémy hodnotily jejich tón hlasu při interakci s pacientem.

Na pozadí jsou rekordní výdaje na AI ve velkých technologických společnostech spolu s vlnami propouštění pracovních míst. V červnu Meta pozastavila program, který sledoval počítačovou aktivitu pracovníků, aby trénoval své modely umělé inteligence, a o měsíc později desítky zaměstnanců podaly žalobu, která tvrdila, že nástroje společnosti AI se zaměřovaly na pracovníky s ubytováním pro osoby se zdravotním postižením nebo na lidi na zdravotní či rodičovské dovolené kvůli propouštění.

Labourističtí vůdci tomu říkají bod obratu

Lorena Gonzalezová, prezidentka Kalifornské federace odborových svazů, AFL-CIO, která pomáhá lídrům v jiných státech navrhovat podobná nařízení, řekla listu The Guardian, že tento okamžik je milníkem pro organizovanou práci.

"Je to zlomový bod," řekl Gonzalez. "Je to opravdu poprvé, co vidíme kalifornské pracovníky, kteří ukazují zemi, že to nemusíme akceptovat."

Poznamenala, že vlastní produktové katalogy společností jsou plánem toho, co se již může používat v obchodech a v kancelářích: „Pokud se to prodává, je to dobrý náznak“, mohlo by to být nasazeno. Federace plánuje využít impuls z nových zákonů k oživení požadavku, aby zaměstnavatelé zveřejnili, když používají AI na pracovišti – návrh zákona, který zemřel v rozpočtovém výboru státního shromáždění na začátku tohoto roku.

Mezera ve vymáhání

Stanovy nejsou neomezené. Robin Feldman, ředitel a zakladatel AI Law & Innovation Institute na University of California College of the Law, San Francisco, řekl The Guardian, že nové zákony postrádají soukromé právo na žalobu.

"Směnky nemají žádné soukromé vymáhání," řekl Feldman. "Jinými slovy: pracovníci nemohou žalovat. Pouze vláda může vymáhat zákony."

Tato struktura klade břemeno na kalifornské úřady pro práci a občanská práva, aby vyšetřovaly a stíhaly porušování, což podle obhájců pracovníků otestuje, zda zákony fungují v praxi. Bez žalob ze strany dotčených zaměstnanců bude vymáhání záviset na prioritách agentury, personálním obsazení a stížnostech pracovníků, kteří budou ochotni vystoupit.

Co přijde dál

Kalifornie není sama, ale má náskok. Colorado, Connecticut, Illinois a Texas přijaly užší zákony týkající se umělé inteligence na pracovišti a Gonzalez řekl, že po celé zemi se seřazují další účty, přičemž jako vzor bude pravděpodobně sloužit kalifornský balíček.

Balíček také staví na aktivním roce pro legislativu AI v Sacramentu. Newsom již podepsal zákony vyžadující nezávislé audity hraničních vývojářů umělé inteligence a nařizující zveřejňování, když se umělci generovaní umělou inteligencí objeví v reklamě, a balíček pro pracoviště rozšiřuje tento regulační postoj z laboratoří a reklamních kampaní do každodenních mechanismů zaměstnávání. Vzhledem k tomu, že federální vláda zastává k regulaci umělé inteligence odmítavý postoj, státy – nikoli Washington – se stávají primární arénou, kde se píší pravidla pro umělou inteligenci v práci.

Pro zaměstnavatele je poselstvím, že HR rozhodnutí řízená umělou inteligencí budou nyní čelit právní kontrole na největším státním trhu práce v zemi. Pro pracovníky je to první jasný signál, že nástroje pro algoritmické řízení, které přicházejí na pracoviště, mají své limity – alespoň v Kalifornii.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →