Professores da Multiverse, empresa de treinamento em tecnologia de 1,6 bilhão de libras cofundada por Euan Blair, dizem que um sistema de IA que monitora e pontua seu ensino on-line causou “estresse terrível”, com alguns funcionários perdendo o sono e buscando terapia, de acordo com um relatório exclusivo do The Guardian. O sistema analisa transcrições de sessões de sala de aula on-line e alerta os gerentes humanos quando os instrutores são suspeitos de fazer algo errado.
A disputa é uma das análises mais detalhadas sobre como a vigilância da IA está a entrar nos locais de trabalho de colarinho branco — e surge no meio de um debate mais amplo sobre os últimos desenvolvimentos da IA remodelando a forma como os trabalhadores são observados, avaliados e geridos pelo software.
O que a IA assiste
O sistema, introduzido nas últimas semanas, substitui um regime anterior em que um gestor humano observava cada instrutor uma vez por mês. Os professores são agora monitorizados durante várias horas por dia por uma IA treinada para sinalizar uma série de comportamentos: não conseguem resolver uma interrupção na ligação online com a rapidez suficiente - dentro de cerca de um minuto - usando demasiadas frases de preenchimento, como "mais ou menos" e "mais ou menos", dando respostas vagas ou incertas às perguntas dos alunos, e sendo arrastados para trocas prolongadas de um para um que marginalizam o resto do grupo.
A IA marca cada instrutor com um “status de risco”, calcula uma “pontuação percentual de confiança” e produz comentários por escrito para os gerentes revisarem rapidamente. Suas instruções, citadas pelo The Guardian, dizem-lhe para "julgar o PADRÃO em toda a transcrição, não em casos isolados" - embora a autocorreção também conte contra o professor: se um instrutor "teve que se autocorrigir ao dar a instrução, essa própria confusão conta como evidência de que a instrução não foi clara na primeira vez", mesmo que "foi finalmente corrigida".
'Acordar no meio da noite'
Vários professores, falando anonimamente, descreveram o efeito no seu bem-estar. “Desde que tudo isso aconteceu, o nível de estresse tem sido absolutamente horrível”, disse um deles. “Isso afetou o sono, e não apenas para mim. Passei por muitas coisas na minha vida e nunca estive em uma posição em que acordasse no meio da noite.”
Outros disseram que a pontuação constante mudou a forma como ensinam. "Sua atenção não está mais em dar a lição e ouvir o aluno", disse um instrutor, "mas 'estou dizendo a coisa certa para que a IA não me marque por algo estúpido'." Os trabalhadores também relataram terem sido detidos pelos gestores por suspeitas de “digressões” que eram, na verdade, respostas às perguntas dos estudantes. Eles descreveram o sistema como “implacável” e “errante”.
Multiverso: a IA ‘dirige o tempo humano’
O Multiverso rejeita a caracterização de que a IA substituiu o julgamento humano. Um porta-voz da empresa disse que o sistema “fornece aos instrutores conselhos aprimorados sobre desenvolvimento e feedback – exatamente como qualquer organização de aprendizagem deveria implantar IA”, e enfatizou que “a ação de gerenciamento de desempenho mais importante que pode ser tomada é recomendar que um ser humano revise pessoalmente uma sessão”.
A empresa disse que a IA “direciona o tempo humano para onde é mais necessário”, destacando os problemas, que apenas os gestores humanos escrevem avaliações de desempenho dos professores, que a sua introdução foi comunicada com antecedência e que os professores terão acesso aos dados que a IA recolhe. Não abordou diretamente as queixas sobre estresse e ansiedade.
Um debate cada vez mais amplo sobre vigilância
A disputa no Multiverse se enquadra em um padrão de monitoramento de IA que se espalha pelos locais de trabalho. No início deste ano, o Burger King começou a usar IA para rastrear as interações dos funcionários dos restaurantes com os clientes, e neste verão a Meta interrompeu o rastreamento das teclas digitadas pelos funcionários no computador após preocupações com a privacidade dos dados e uma reação negativa da equipe.
Os organizadores trabalhistas argumentam que a tendência é mais profunda do que qualquer empregador. O ramo United Tech and Allied Workers do Communication Workers Union concluiu que a IA no local de trabalho produz uma "rendição cognitiva" à medida que os funcionários se submetem aos julgamentos das máquinas, e uma nova pesquisa a ser publicada esta semana supostamente revela que trabalhadores de toda a indústria tecnológica do Reino Unido dizem que a IA degrada a satisfação no trabalho.
A empresa por trás do sistema
A Multiverse treina milhares de trabalhadores do Reino Unido em habilidades de informática e IA para empregadores, incluindo o NHS, conselhos locais, universidades e empresas privadas, com a maior parte de sua receita fluindo através da taxa governamental de aprendizagem. A empresa emprega mais de 800 pessoas e foi recentemente avaliada em 1,6 mil milhões de libras, embora isso se baseie num volume de negócios de 118 milhões de libras e em perdas de 28 milhões de libras no ano passado.
Blair, o filho mais velho do antigo primeiro-ministro Tony Blair, possui uma grande participação minoritária que coloca o seu património líquido pessoal estimado em 350 milhões de libras. Ele tem sido uma das vozes corporativas mais fortes a favor da adopção da IA na economia do Reino Unido, afirmando na semana passada que “todos os trabalhadores vão precisar de ser requalificados” e que os empregadores querem que as suas forças de trabalho sejam “tão cheias de IA quanto possível”.
Ofsted, a inspecção da educação, descobriu em Fevereiro que o Multiverse não cumpriu os padrões esperados em diversas áreas – ao mesmo tempo que elogiou os seus instrutores como “professores qualificados e eficazes”. Se a IA que observa esses professores os ajuda a melhorar ou simplesmente os esgota, é agora a questão que a empresa terá de responder.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
