Le gouverneur de Californie, Gavin Newsom, a signé une série de nouvelles lois qui restreignent fortement la manière dont les employeurs peuvent utiliser l'intelligence artificielle contre leurs propres travailleurs, interdisant aux entreprises de s'appuyer entièrement sur l'IA pour décider qui sera licencié, d'utiliser la technologie pour prédire l'état émotionnel des employés et de collecter des données neuronales telles que des signaux électriques provenant du cerveau ou des nerfs d'une personne.
Le paquet, signé jeudi selon une analyse publiée par The Guardian, exige également que les entreprises informent les travailleurs lorsque des licenciements sont provoqués par l'IA et interdit la surveillance par l'IA dans les toilettes des lieux de travail. Prises ensemble, ces lois constituent l’une des réponses les plus radicales jamais apportées au niveau de l’État à l’utilisation de l’IA dans les décisions d’emploi – adoptée dans l’État qui abrite de nombreuses entreprises qui développent cette technologie. Pour plus de contexte sur cette histoire, consultez nos AI news en cours.
Ce que font les nouvelles lois
Les dispositions ciblent les moments où les travailleurs ont le moins de pouvoir. En vertu des nouvelles règles, un employeur ne peut plus s'appuyer uniquement sur un système d'IA pour prendre une décision de licenciement, et les travailleurs doivent être informés du moment où l'intelligence artificielle a joué un rôle dans leur licenciement. L'inférence sur l'état émotionnel – un logiciel qui prétend lire si un employé est frustré, distrait ou désengagé – est désormais interdite, tout comme la collecte de données neuronales provenant du cerveau et du système nerveux des travailleurs.
Les lois fixent également une ligne dure en matière de confidentialité physique, interdisant entièrement la surveillance basée sur l’IA dans les toilettes des lieux de travail.
L'obligation de notification des licenciements pourrait s'avérer la plus lourde de conséquences dans la pratique : les réductions induites en partie par l'automatisation de l'IA ne peuvent plus être présentées comme une restructuration ordinaire sans révéler le rôle de la technologie dans la décision.
Pourquoi les législateurs ont déménagé maintenant
Le changement de réglementation intervient alors que les travailleurs craignent de plus en plus que l’IA ne leur prenne leur emploi, n’alimente les décisions discriminatoires et n’étende la surveillance sur le lieu de travail. Les syndicats et les défenseurs des travailleurs ont fait pression pour que les règles soient adoptées, et les reportages du Guardian soulignent des pratiques qui les ont alarmés : des cartes thermiques qui suivent les mouvements des employés, y compris le temps qu'ils passent dans la salle de bain, et des systèmes automatisés qui enregistrent le ton de la voix des travailleurs. Les employés des entrepôts d'Amazon se sont déjà plaints d'être chronométrés lors des pauses toilettes, et les infirmières de Kaiser Permanente ont déclaré que des systèmes automatisés évaluaient le ton de leur voix lors des interactions avec les patients.
En toile de fond, des dépenses record en IA dans les grandes entreprises technologiques ainsi que des vagues de suppressions d’emplois. En juin, Meta a suspendu un programme qui suivait l'activité informatique des travailleurs pour entraîner ses modèles d'IA, et un mois plus tard, des dizaines d'employés ont intenté une action en justice, affirmant que les outils d'IA de l'entreprise ciblaient les travailleurs bénéficiant d'aménagements pour personnes handicapées ou ceux en congé médical ou parental en raison d'un licenciement.
Les dirigeants syndicaux qualifient cela de tournant
Lorena Gonzalez, présidente de la Fédération des syndicats de Californie, AFL-CIO, qui a aidé les dirigeants d'autres États à rédiger des réglementations similaires, a déclaré au Guardian que ce moment était une étape importante pour les syndicats.
"C'est un tournant", a déclaré Gonzalez. "C'est vraiment la première fois que nous voyons des travailleurs californiens montrer au pays que nous n'avons pas à l'accepter."
Elle a souligné que les catalogues de produits des entreprises constituent une feuille de route pour ce qui est peut-être déjà utilisé dans les magasins et les bureaux : « S'il est vendu, c'est une bonne indication » qu'il pourrait être déployé. La fédération prévoit de profiter de l'élan donné par les nouvelles lois pour rétablir l'obligation pour les employeurs de divulguer lorsqu'ils utilisent l'IA sur le lieu de travail – un projet de loi qui est mort au comité des crédits de l'Assemblée de l'État plus tôt cette année.
L'écart en matière d'application
Les statuts ne sont pas sans limites. Robin Feldman, directeur et fondateur de l'AI Law & Innovation Institute de la faculté de droit de l'Université de Californie à San Francisco, a déclaré au Guardian que les nouvelles lois ne prévoient pas de droit d'action privé.
"Les projets de loi n'ont aucune application privée", a déclaré Feldman. "En d'autres termes : les travailleurs ne peuvent pas intenter de poursuites. Seul le gouvernement peut faire appliquer les lois."
Cette structure impose aux agences californiennes du travail et des droits civiques la charge d'enquêter et de poursuivre les violations, ce qui, selon les défenseurs des travailleurs, permettra de vérifier si les lois ont du mordant dans la pratique. Sans poursuites judiciaires de la part des employés concernés, l'application dépendra des priorités de l'agence, du personnel et des plaintes des travailleurs disposés à se manifester.
Ce qui vient ensuite
La Californie n’est pas seule, mais elle est en avance. Le Colorado, le Connecticut, l'Illinois et le Texas ont adopté des lois plus strictes sur l'IA sur le lieu de travail, et Gonzalez a déclaré que d'autres projets de loi étaient en cours d'élaboration à travers le pays, le paquet californien étant susceptible de servir de modèle.
Le paquet s'appuie également sur une année active pour la législation sur l'IA à Sacramento. Newsom a déjà signé des projets de loi exigeant des audits indépendants des développeurs d’IA de pointe et exigeant la divulgation lorsque des artistes générés par l’IA apparaissent dans la publicité, et le paquet sur le lieu de travail étend cette posture réglementaire des laboratoires et des publicités de campagne aux mécanismes quotidiens de l’emploi. Alors que le gouvernement fédéral maintient une attitude non interventionniste en matière de réglementation de l’IA, ce sont les États – et non Washington – qui deviennent le principal lieu où sont rédigées les règles relatives à l’IA au travail.
Pour les employeurs, le message est que les décisions en matière de ressources humaines basées sur l'IA seront désormais soumises à un examen juridique sur le plus grand marché du travail national du pays. Pour les travailleurs, c’est le premier signal clair que les outils de gestion algorithmiques qui arrivent sur les lieux de travail ont des limites – du moins en Californie.
---
Gardez une longueur d'avance sur l'IARecevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.
Lire plus d'actualités sur l'IA →
