Los profesores de Multiverse, la empresa de formación tecnológica de 1.600 millones de libras cofundada por Euan Blair, dicen que un sistema de inteligencia artificial que monitorea y califica su enseñanza en línea ha causado un "estrés horrendo", y algunos miembros del personal pierden el sueño y buscan terapia, según un informe exclusivo de The Guardian. El sistema analiza las transcripciones de las sesiones de clase en línea y alerta a los administradores humanos cuando se sospecha que los instructores están haciendo algo mal.
La disputa es una de las miradas más detalladas hasta el momento sobre cómo la vigilancia de IA está ingresando a los lugares de trabajo administrativos, y aterriza en medio de un debate más amplio sobre los últimos desarrollos de IA que remodelan la forma en que el software vigila, califica y administra a los trabajadores.
Lo que observa la IA
El sistema, introducido en las últimas semanas, reemplaza un régimen anterior en el que un administrador humano observaba a cada instructor una vez al mes. Ahora los profesores son monitoreados durante varias horas al día por una IA entrenada para detectar una variedad de comportamientos: no solucionar una interrupción en la conexión en línea lo suficientemente rápido (en aproximadamente un minuto), usar demasiadas frases de relleno como "más o menos" y "más o menos", dar respuestas vagas o inciertas a las preguntas de los alumnos y verse arrastrados a prolongados intercambios uno a uno que dejan de lado al resto del grupo.
La IA etiqueta a cada instructor con un "estado de riesgo", calcula una "puntuación porcentual de confianza" y produce comentarios escritos para que los gerentes los revisen de un vistazo. Sus instrucciones, citadas por The Guardian, le dicen que "juzgue el PATRÓN en toda la transcripción, no en casos aislados", aunque la autocorrección también cuenta en contra del maestro: si un instructor "tuvo que autocorregirse mientras daba la instrucción, esa confusión en sí misma cuenta como evidencia de que la instrucción no fue clara la primera vez", incluso si "finalmente se corrigió".
'Despertarse en medio de la noche'
Varios profesores, hablando de forma anónima, describieron el efecto en su bienestar. "Desde que ocurrió todo esto, el nivel de estrés ha sido absolutamente horrendo", dijo uno. "Ha afectado el sueño, y no sólo a mí. He pasado por muchas cosas en mi vida y nunca he estado en una posición en la que me despierte en medio de la noche".
Otros dijeron que la puntuación constante había cambiado la forma en que enseñan. "Su atención ya no se centra en impartir la lección y escuchar al alumno", dijo un instructor, "sino en '¿estoy diciendo lo correcto para que la IA no me marque por algo estúpido'?". Los trabajadores también informaron que los gerentes los detuvieron por sospechas de "digresiones" que en realidad eran respuestas a preguntas de los estudiantes. Describieron el sistema como "despiadado" y "desconcertante".
Multiverso: la IA 'dirige el tiempo humano'
Multiverse rechaza la caracterización de que la IA ha reemplazado el juicio humano. Un portavoz de la compañía dijo que el sistema "proporciona a los instructores mejores consejos sobre desarrollo y retroalimentación, exactamente cómo cualquier organización de aprendizaje debería implementar la IA", y enfatizó que "la acción de gestión del desempeño más importante que puede tomar es recomendar que un humano revise personalmente una sesión".
La compañía dijo que la IA "dirige el tiempo humano hacia donde más se necesita" al resaltar los problemas, que sólo los gerentes humanos escriben evaluaciones de desempeño de los maestros, que su introducción se comunicó con anticipación y que los maestros tendrán acceso a los datos que recopila la IA. No abordó directamente las quejas sobre el estrés y la ansiedad.
Un debate cada vez más amplio sobre la vigilancia
La disputa en Multiverse se ajusta a un patrón de monitoreo de IA que se extiende por los lugares de trabajo. A principios de este año, Burger King comenzó a utilizar IA para rastrear las interacciones con los clientes de los trabajadores del restaurante, y este verano Meta detuvo el seguimiento de las pulsaciones de teclas de las computadoras de los empleados después de preocupaciones sobre la privacidad de los datos y una reacción violenta del personal.
Los organizadores sindicales sostienen que la tendencia es más profunda que la de cualquier empleador. La rama United Tech and Allied Workers del Communication Workers Union ha concluido que la IA en el lugar de trabajo produce una "rendición cognitiva" ya que el personal se somete a los juicios de las máquinas, y una nueva investigación que se publicará esta semana supuestamente encuentra que los trabajadores de toda la industria tecnológica del Reino Unido dicen que la IA degrada la satisfacción laboral.
La empresa detrás del sistema
Multiverse capacita a miles de trabajadores del Reino Unido en habilidades informáticas y de inteligencia artificial para empleadores como el NHS, ayuntamientos, universidades y empresas privadas, y la mayor parte de sus ingresos fluyen a través del impuesto de aprendizaje del gobierno. La empresa emplea a más de 800 personas y recientemente fue valorada en 1.600 millones de libras, aunque esto se basa en una facturación de 118 millones de libras y unas pérdidas de 28 millones de libras el año pasado.
Blair, el hijo mayor del ex primer ministro Tony Blair, posee una gran participación minoritaria que sitúa su patrimonio neto personal en aproximadamente 350 millones de libras. Ha sido una de las voces corporativas más fuertes a favor de la adopción de la IA en la economía del Reino Unido, afirmando la semana pasada que "cada trabajador necesitará volver a capacitarse" y que los empleadores quieren que su fuerza laboral esté "lo más equipada posible con IA".
Ofsted, la inspección de educación, descubrió en febrero que Multiverse no cumplió con los estándares esperados en varias áreas, al tiempo que elogió a sus instructores como "maestros calificados y eficaces". Si la IA que observa a esos profesores los ayuda a mejorar o simplemente los agota es ahora la pregunta que la empresa tendrá que responder.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
