Les enseignants de Multiverse, la société de formation technologique d'un montant de 1,6 milliard de livres cofondée par Euan Blair, affirment qu'un système d'IA qui surveille et note leur enseignement en ligne a provoqué un « stress horrible », certains membres du personnel perdant le sommeil et recherchant une thérapie, selon un rapport exclusif de The Guardian. Le système analyse les transcriptions des séances de classe en ligne et alerte les responsables humains lorsque les instructeurs sont soupçonnés d'avoir fait quelque chose de mal.

Ce conflit est l’un des examens les plus détaillés jamais réalisés sur la façon dont la surveillance de l’IA pénètre dans les lieux de travail des cols blancs – et il se situe au milieu d’un débat plus large sur les derniers développements de l’IA qui remodèlent la façon dont les travailleurs sont surveillés, notés et gérés par des logiciels.

Ce que l'IA regarde

Le système, introduit ces dernières semaines, remplace un régime précédent dans lequel un responsable humain observait chaque instructeur une fois par mois. Les enseignants sont désormais surveillés plusieurs heures par jour par une IA entraînée à signaler toute une série de comportements : ne pas réparer une interruption de la connexion en ligne assez rapidement (en une minute environ), utiliser trop d'expressions de remplissage telles que « en quelque sorte » et « en quelque sorte », donner des réponses vagues ou incertaines aux questions des apprenants et se laisser entraîner dans des échanges individuels prolongés qui marginalisent le reste du groupe.

L'IA attribue à chaque instructeur un « statut de risque », calcule un « pourcentage de confiance » et produit des commentaires écrits que les gestionnaires peuvent examiner en un coup d'œil. Ses instructions, citées par The Guardian, lui demandent de « juger le MODÈLE sur l'ensemble du relevé de notes, et non sur des cas isolés » – bien que l'autocorrection compte également contre l'enseignant : si un instructeur « devait s'autocorriger tout en donnant l'instruction, cette confusion elle-même compte comme une preuve que l'instruction n'était pas claire la première fois », même si elle « a finalement été corrigée ».

'Se réveiller au milieu de la nuit'

Plusieurs enseignants, parlant anonymement, ont décrit les effets sur leur bien-être. "Depuis que tout cela est arrivé, le niveau de stress est absolument horrible", a déclaré l'un d'entre eux. "Cela a affecté le sommeil, et pas seulement pour moi. J'ai vécu beaucoup de choses dans ma vie et je n'ai jamais été dans une position où je me réveillais au milieu de la nuit."

D’autres ont déclaré que la notation constante avait changé leur façon d’enseigner. "Votre attention n'est plus de donner la leçon et d'écouter l'apprenant", a déclaré un instructeur, "mais 'est-ce que je dis la bonne chose pour que l'IA ne me note pas pour quelque chose de stupide'." Les travailleurs ont également déclaré avoir été interpellés par leurs supérieurs pour des « digressions » présumées qui étaient en fait des réponses aux questions des étudiants. Ils ont décrit le système comme « impitoyable » et « déconcertant ».

Multivers : l'IA 'dirige le temps humain'

Multiverse rejette l’idée selon laquelle l’IA aurait remplacé le jugement humain. Un porte-parole de l'entreprise a déclaré que le système "fournit aux instructeurs de meilleurs conseils sur le développement et les commentaires - exactement comment toute organisation apprenante devrait déployer l'IA", et a souligné que "l'action de gestion des performances la plus conséquente qu'elle puisse prendre est de recommander qu'un humain examine personnellement une session".

L'entreprise a déclaré que l'IA "dirige le temps humain là où il est le plus nécessaire" en mettant en évidence les problèmes, que seuls les managers humains rédigent les évaluations de performance des enseignants, que son introduction a été communiquée à l'avance et que les enseignants auront accès aux données collectées par l'IA. Il n’a pas directement répondu aux plaintes concernant le stress et l’anxiété.

Un débat élargi sur la surveillance

La dispute chez Multiverse correspond à un modèle de surveillance de l’IA qui se propage sur les lieux de travail. Plus tôt cette année, Burger King a commencé à utiliser l'IA pour suivre les interactions des employés des restaurants avec les clients, et cet été, Meta a suspendu le suivi des frappes sur l'ordinateur des employés en raison de problèmes de confidentialité des données et de réactions négatives du personnel.

Les organisateurs syndicaux affirment que cette tendance est plus profonde que n’importe quel employeur. La branche United Tech and Allied Workers du Communication Workers Union a conclu que l'IA sur le lieu de travail produit un « abandon cognitif » lorsque le personnel s'en remet aux jugements de la machine, et une nouvelle étude qui sera publiée cette semaine aurait révélé que les travailleurs de l'ensemble de l'industrie technologique britannique affirment que l'IA dégrade la satisfaction au travail.

L'entreprise derrière le système

Multiverse forme des milliers de travailleurs britanniques aux compétences en informatique et en IA pour des employeurs, notamment le NHS, les conseils locaux, les universités et les entreprises privées, la plupart de ses revenus provenant de la taxe d'apprentissage du gouvernement. L'entreprise emploie plus de 800 personnes et a récemment été valorisée à 1,6 milliard de livres, même si ce chiffre repose sur un chiffre d'affaires de 118 millions de livres et des pertes de 28 millions de livres l'année dernière.

Blair, le fils aîné de l'ancien Premier ministre Tony Blair, détient une importante participation minoritaire qui porte sa valeur nette personnelle à environ 350 millions de livres. Il a été l'une des voix les plus véhémentes des entreprises en faveur de l'adoption de l'IA dans l'économie britannique, affirmant la semaine dernière que « chaque travailleur devra être recyclé » et que les employeurs veulent que leur main-d'œuvre soit « aussi IA que possible ».

Ofsted, l'inspection de l'éducation, a constaté en février que Multiverse ne répondait pas aux normes attendues dans plusieurs domaines – tout en qualifiant ses instructeurs d'« enseignants compétents et efficaces ». La question à laquelle l’entreprise devra désormais répondre est de savoir si l’IA qui surveille ces enseignants les aide à s’améliorer ou simplement les épuise.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →