Il governatore della California Gavin Newsom ha firmato una serie di nuove leggi che limitano drasticamente il modo in cui i datori di lavoro possono utilizzare l’intelligenza artificiale contro i propri dipendenti, vietando alle aziende di fare affidamento interamente sull’intelligenza artificiale per decidere chi verrà licenziato, di utilizzare la tecnologia per prevedere gli stati emotivi dei dipendenti e di raccogliere dati neurali come segnali elettrici dal cervello o dai nervi di una persona.

Il pacchetto, firmato giovedì secondo un’analisi pubblicata da The Guardian, impone inoltre alle aziende di avvisare i lavoratori quando i licenziamenti sono stati causati dall’intelligenza artificiale e vieta la sorveglianza dell’intelligenza artificiale nei bagni dei luoghi di lavoro. Nel loro insieme, le leggi rappresentano una delle risposte più radicali a livello statale finora all’uso dell’intelligenza artificiale nelle decisioni sull’occupazione – approvate nello stato che ospita molte delle aziende che sviluppano la tecnologia. Per ulteriori informazioni su questa storia, consulta le nostre notizie sull'AI.

Cosa fanno le nuove leggi

Le disposizioni mirano ai momenti in cui i lavoratori hanno meno potere. Secondo le nuove regole, un datore di lavoro non può più affidarsi esclusivamente a un sistema di intelligenza artificiale per prendere una decisione di licenziamento, e i lavoratori devono essere informati quando l’intelligenza artificiale ha avuto un ruolo nel loro licenziamento. L’inferenza dello stato emotivo – software che pretende di leggere se un dipendente è frustrato, distratto o disimpegnato – è ora vietata, così come la raccolta di dati neurali dal cervello e dal sistema nervoso dei lavoratori.

Le leggi tracciano inoltre una linea dura riguardo alla privacy fisica, vietando del tutto la sorveglianza basata sull’intelligenza artificiale nei bagni dei luoghi di lavoro.

L’obbligo di notifica del licenziamento potrebbe rivelarsi quello più consequenziale nella pratica: le riduzioni guidate in parte dall’automazione dell’intelligenza artificiale non possono più essere presentate come una ristrutturazione ordinaria senza rivelare il ruolo della tecnologia nella decisione.

Perché i legislatori si sono mossi adesso

Il cambiamento normativo arriva mentre i lavoratori temono sempre più che l’intelligenza artificiale possa sottrarre loro il lavoro, alimentare decisioni discriminatorie ed espandere la sorveglianza sul posto di lavoro. I sindacati e i difensori dei lavoratori hanno spinto molto per le regole, e il rapporto del Guardian sottolinea pratiche che li hanno allarmati: mappe di calore che tracciano i movimenti dei dipendenti, compreso quanto tempo trascorrono in bagno, e sistemi automatizzati che valutano il tono di voce dei lavoratori. I magazzinieri di Amazon si sono già lamentati di essere programmati durante le pause bagno, e gli infermieri della Kaiser Permanente hanno affermato che i sistemi automatizzati valutano il loro tono di voce nelle interazioni con i pazienti.

Lo scenario è rappresentato da una spesa record per l’intelligenza artificiale presso le principali aziende tecnologiche insieme a ondate di tagli di posti di lavoro. A giugno, Meta ha sospeso un programma che monitorava l'attività dei computer dei lavoratori per addestrare i suoi modelli di intelligenza artificiale, e un mese dopo decine di dipendenti hanno intentato una causa sostenendo che gli strumenti di intelligenza artificiale dell'azienda prendevano di mira i lavoratori con disabilità o quelli in congedo medico o parentale per licenziamento.

I leader laburisti lo definiscono un punto di svolta

Lorena Gonzalez, presidente della Federazione dei sindacati della California, AFL-CIO, che ha aiutato i leader di altri stati a elaborare regolamenti simili, ha detto al Guardian che questo momento è una pietra miliare per il lavoro organizzato.

"È un punto di svolta", ha detto Gonzalez. "È davvero la prima volta che vediamo i lavoratori della California mostrare al Paese che non dobbiamo accettare [questo]."

Ha osservato che i cataloghi dei prodotti delle aziende sono una tabella di marcia per ciò che potrebbe essere già in uso nei negozi e negli uffici: "Se viene venduto, è una buona indicazione" potrebbe essere implementato. La federazione prevede di sfruttare lo slancio delle nuove leggi per rilanciare l’obbligo che i datori di lavoro divulghino quando utilizzano l’intelligenza artificiale sul posto di lavoro – un disegno di legge che è morto nel comitato per gli stanziamenti dell’Assemblea statale all’inizio di quest’anno.

Il divario nell'applicazione

Gli statuti non sono illimitati. Robin Feldman, direttore e fondatore dell'AI Law & Innovation Institute presso il College of the Law dell'Università della California, a San Francisco, ha dichiarato al Guardian che le nuove leggi mancano di un diritto di azione privato.

"Le fatture non hanno alcuna applicazione privata", ha detto Feldman. "In altre parole: i lavoratori non possono fare causa. Solo il governo può far rispettare le leggi."

Questa struttura pone l’onere sulle agenzie del lavoro e dei diritti civili della California di indagare e perseguire le violazioni, cosa che secondo i sostenitori dei lavoratori metterà alla prova se le leggi hanno efficacia nella pratica. Senza azioni legali da parte dei dipendenti interessati, l’applicazione della normativa dipenderà dalle priorità dell’agenzia, dal personale e dai reclami dei lavoratori disposti a farsi avanti.

Cosa verrà dopo

La California non è sola, ma è avanti. Colorado, Connecticut, Illinois e Texas hanno approvato leggi più restrittive sull'intelligenza artificiale sul posto di lavoro e Gonzalez ha affermato che più progetti di legge sono in fase di elaborazione in tutto il paese, con il pacchetto della California che probabilmente fungerà da modello.

Il pacchetto si basa anche su un anno attivo per la legislazione sull’IA a Sacramento. Newsom ha già firmato progetti di legge che richiedono audit indipendenti degli sviluppatori di intelligenza artificiale di frontiera e impongono la divulgazione di quando gli artisti generati dall’intelligenza artificiale compaiono nella pubblicità, e il pacchetto sul posto di lavoro estende tale posizione normativa dai laboratori e dalle campagne pubblicitarie ai meccanismi quotidiani dell’occupazione. Con il governo federale che mantiene un atteggiamento distaccato sulla regolamentazione dell’IA, gli stati – e non Washington – stanno diventando l’arena principale in cui vengono scritte le regole per l’intelligenza artificiale sul lavoro.

Per i datori di lavoro, il messaggio è che le decisioni relative alle risorse umane basate sull’intelligenza artificiale dovranno ora affrontare il controllo legale nel più grande mercato del lavoro statale del paese. Per i lavoratori, è il primo segnale chiaro che gli strumenti di gestione algoritmica che arrivano nei luoghi di lavoro presentano dei limiti, almeno in California.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →