El gobernador de California, Gavin Newsom, firmó un conjunto de nuevas leyes que restringen drásticamente cómo los empleadores pueden usar la inteligencia artificial contra sus propios trabajadores, prohibiendo a las empresas depender completamente de la IA para decidir quién es despedido, usar la tecnología para predecir los estados emocionales de los empleados y recopilar datos neuronales como señales eléctricas del cerebro o los nervios de una persona.
El paquete, firmado el jueves según un análisis publicado por The Guardian, también exige que las empresas notifiquen a los trabajadores cuando los despidos sean causados por la IA y prohíbe la vigilancia por IA en los baños del lugar de trabajo. En conjunto, las leyes representan una de las respuestas más radicales a nivel estatal hasta el momento al uso de la IA en las decisiones laborales, aprobada en el estado que alberga muchas de las empresas que construyen la tecnología. Para obtener más contexto sobre esta historia, consulte nuestras noticias de IA en curso.
Qué hacen las nuevas leyes
Las disposiciones apuntan a los momentos en los que los trabajadores tienen menos poder. Según las nuevas reglas, un empleador ya no puede depender únicamente de un sistema de inteligencia artificial para tomar una decisión de despido, y se debe informar a los trabajadores cuándo la inteligencia artificial influyó en su despido. La inferencia del estado emocional (software que pretende leer si un empleado está frustrado, distraído o desconectado) ahora está prohibida, al igual que la recopilación de datos neuronales del cerebro y el sistema nervioso de los trabajadores.
Las leyes también trazan una línea dura en torno a la privacidad física, prohibiendo por completo la vigilancia impulsada por IA en los baños del lugar de trabajo.
El requisito de notificación de despidos puede resultar el más trascendente en la práctica: las reducciones impulsadas en parte por la automatización de la IA ya no pueden presentarse como una reestructuración ordinaria sin revelar el papel de la tecnología en la decisión.
Por qué los legisladores actuaron ahora
El cambio regulatorio se produce cuando los trabajadores se preocupan cada vez más de que la IA les quite sus empleos, impulse decisiones discriminatorias y amplíe la vigilancia en el lugar de trabajo. Los sindicatos y los defensores de los trabajadores presionaron mucho para que se implementaran las reglas, y los informes de The Guardian señalan prácticas que los alarmaron: mapas de calor que rastrean los movimientos de los empleados, incluido el tiempo que pasan en el baño, y sistemas automatizados que califican el tono de voz de los trabajadores. Los trabajadores del almacén de Amazon se han quejado anteriormente de que se les toma el tiempo para ir al baño, y las enfermeras de Kaiser Permanente han dicho que los sistemas automatizados califican su tono de voz en las interacciones con los pacientes.
El telón de fondo es un gasto récord en IA en las principales empresas de tecnología junto con oleadas de recortes de empleo. En junio, Meta detuvo un programa que rastreaba la actividad informática de los trabajadores para entrenar sus modelos de IA, y un mes después, docenas de empleados presentaron una demanda alegando que las herramientas de IA de la compañía estaban dirigidas a trabajadores con adaptaciones para discapacitados o aquellos con licencia médica o parental por despidos.
Los líderes sindicales lo llaman un punto de inflexión
Lorena González, presidenta de la Federación de Sindicatos de California, AFL-CIO, que ha estado ayudando a líderes de otros estados a redactar regulaciones similares, dijo a The Guardian que el momento es un hito para los sindicatos.
"Es un punto de inflexión", dijo González. "Es realmente la primera vez que vemos a los trabajadores de California mostrarle al país que no tenemos que aceptar [esto]".
Señaló que los propios catálogos de productos de las empresas son una hoja de ruta para lo que ya puede estar en uso en las tiendas y en las oficinas: "Si se está vendiendo, es una buena indicación" de que podría implementarse. La federación planea aprovechar el impulso de las nuevas leyes para revivir el requisito de que los empleadores revelen cuándo usan IA en el lugar de trabajo, un proyecto de ley que murió en el comité de asignaciones de la Asamblea estatal a principios de este año.
La brecha en la aplicación de la ley
Los estatutos no están exentos de límites. Robin Feldman, director y fundador del AI Law & Innovation Institute de la Facultad de Derecho de la Universidad de California en San Francisco, dijo a The Guardian que las nuevas leyes carecen de un derecho de acción privado.
"Los proyectos de ley no tienen aplicación privada", dijo Feldman. "En otras palabras: los trabajadores no pueden demandar. Sólo el gobierno puede hacer cumplir las leyes".
Esa estructura impone a las agencias laborales y de derechos civiles de California la carga de investigar y procesar las violaciones, lo que, según los defensores de los trabajadores, probará si las leyes tienen fuerza en la práctica. Sin demandas de los empleados afectados, la aplicación de la ley dependerá de las prioridades de la agencia, la dotación de personal y las quejas de los trabajadores dispuestos a presentarse.
¿Qué viene después?
California no está sola, pero está por delante. Colorado, Connecticut, Illinois y Texas han aprobado leyes más estrictas sobre la IA en el lugar de trabajo, y González dijo que se están preparando más proyectos de ley en todo el país, y que el paquete de California probablemente sirva como modelo.
El paquete también se suma a un año activo para la legislación sobre IA en Sacramento. Newsom ya ha firmado proyectos de ley que exigen auditorías independientes de los desarrolladores de IA de vanguardia y exigen la divulgación cuando los artistas generados por IA aparecen en la publicidad, y el paquete sobre el lugar de trabajo extiende esa postura regulatoria desde los laboratorios y los anuncios de campaña a la mecánica diaria del empleo. Dado que el gobierno federal mantiene una postura de no intervención en la regulación de la IA, los estados (no Washington) se están convirtiendo en el principal escenario donde se redactan las reglas para la IA en el trabajo.
Para los empleadores, el mensaje es que las decisiones de recursos humanos impulsadas por la IA ahora enfrentarán un escrutinio legal en el mercado laboral estatal más grande del país. Para los trabajadores, es la primera señal clara de que las herramientas de gestión algorítmica que llegan a los lugares de trabajo tienen límites, al menos en California.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
