Gli insegnanti di Multiverse, la società di formazione tecnologica da 1,6 miliardi di sterline co-fondata da Euan Blair, affermano che un sistema di intelligenza artificiale che monitora e valuta il loro insegnamento online ha causato "stress terribile", con alcuni membri del personale che perdono il sonno e cercano una terapia, secondo un rapporto esclusivo di The Guardian. Il sistema analizza le trascrizioni delle sessioni in aula online e avvisa i manager umani quando gli istruttori sono sospettati di fare qualcosa di sbagliato.
La disputa è uno degli aspetti più dettagliati finora su come la sorveglianza dell’intelligenza artificiale sta entrando nei luoghi di lavoro dei colletti bianchi – e finisce nel mezzo di un dibattito più ampio sugli [ultimi sviluppi dell’intelligenza artificiale] (https://aibuzzwire.news) che stanno rimodellando il modo in cui i lavoratori vengono osservati, valutati e gestiti dal software.
Cosa osserva l'intelligenza artificiale
Il sistema, introdotto nelle ultime settimane, sostituisce il regime precedente in cui un manager umano osservava ciascun istruttore una volta al mese. Gli insegnanti sono ora monitorati per diverse ore al giorno da un’intelligenza artificiale addestrata a segnalare una serie di comportamenti: non riuscire a risolvere un’interruzione della connessione online abbastanza rapidamente – entro circa un minuto – usare troppe frasi di riempimento come “in un certo senso” e “in un certo senso”, dare risposte vaghe o incerte alle domande degli studenti e farsi trascinare in scambi individuali prolungati che mettono da parte il resto del gruppo.
L'intelligenza artificiale contrassegna ciascun istruttore con uno "stato di rischio", calcola un "punteggio percentuale di confidenza" e produce commenti scritti affinché i manager possano esaminarli a colpo d'occhio. Le sue istruzioni, citate da The Guardian, dicono di "giudicare il PATTERN sull'intera trascrizione, non su casi isolati" - sebbene l'autocorrezione conti anche contro l'insegnante: se un istruttore "dovesse autocorreggersi mentre impartiva l'istruzione, quella stessa confusione conta come prova che l'istruzione non era chiara la prima volta", anche se "alla fine è stata corretta".
'Svegliarsi nel cuore della notte'
Diversi insegnanti, parlando in forma anonima, hanno descritto l’effetto sul loro benessere. "Da quando è arrivato tutto questo, il livello di stress è stato assolutamente tremendo", ha detto uno. "Ha influito sul sonno, e non solo per me. Ho attraversato molte cose nella mia vita e non sono mai stato nella posizione di svegliarmi nel cuore della notte."
Altri hanno detto che il punteggio costante ha cambiato il modo in cui insegnano. "La tua attenzione non è più nel fornire la lezione e nell'ascoltare lo studente", ha detto un istruttore, "ma 'sto dicendo la cosa giusta in modo che l'intelligenza artificiale non mi screditi per qualcosa di stupido'." I lavoratori hanno anche riferito di essere stati fermati dai dirigenti per sospette "divagazioni" che in realtà erano risposte alle domande degli studenti. Hanno descritto il sistema come “spietato” e “snervante”.
##Multiverso: l'IA 'dirige il tempo umano'
Il Multiverso rifiuta la caratterizzazione secondo cui l'intelligenza artificiale ha sostituito il giudizio umano. Un portavoce dell'azienda ha affermato che il sistema "fornisce agli istruttori consigli migliori sullo sviluppo e sul feedback - esattamente come qualsiasi organizzazione didattica dovrebbe implementare l'intelligenza artificiale" e ha sottolineato che "l'azione di gestione delle prestazioni più consequenziale che può essere intrapresa è raccomandare che un essere umano riveda personalmente una sessione."
L'azienda ha affermato che l'intelligenza artificiale "orienta il tempo umano dove è più necessario" evidenziando i problemi, che solo i manager umani scrivono le revisioni delle prestazioni degli insegnanti, che la sua introduzione è stata comunicata in anticipo e che gli insegnanti avranno accesso ai dati raccolti dall'intelligenza artificiale. Non ha affrontato direttamente le lamentele su stress e ansia.
Un dibattito sempre più ampio sulla sorveglianza
La disputa al Multiverse si adatta a un modello di monitoraggio dell’intelligenza artificiale che si diffonde nei luoghi di lavoro. All'inizio di quest'anno Burger King ha iniziato a utilizzare l'intelligenza artificiale per monitorare le interazioni dei dipendenti dei ristoranti con i clienti, e quest'estate Meta ha sospeso il monitoraggio delle sequenze di tasti del computer dei dipendenti dopo problemi di privacy dei dati e una reazione negativa del personale.
Gli organizzatori del lavoro sostengono che la tendenza è più profonda di qualunque altro datore di lavoro. La sezione United Tech and Allied Workers della Communication Workers Union ha concluso che l'intelligenza artificiale sul posto di lavoro produce una "resa cognitiva" poiché il personale si rimette ai giudizi delle macchine, e una nuova ricerca che sarà pubblicata questa settimana, secondo quanto riferito, rileva che i lavoratori di tutto il settore tecnologico britannico affermano che l'intelligenza artificiale degrada la soddisfazione lavorativa.
L'azienda dietro il sistema
Multiverse forma migliaia di lavoratori del Regno Unito in competenze informatiche e di intelligenza artificiale per datori di lavoro tra cui il servizio sanitario nazionale, i consigli locali, le università e le società private, con la maggior parte delle sue entrate che fluiscono attraverso il prelievo di apprendistato del governo. L'azienda impiega più di 800 persone e recentemente è stata valutata 1,6 miliardi di sterline, anche se lo scorso anno ha un fatturato di 118 milioni di sterline e perdite di 28 milioni di sterline.
Blair, il figlio maggiore dell'ex primo ministro Tony Blair, possiede una grande quota di minoranza che porta il suo patrimonio netto personale a circa 350 milioni di sterline. È stato una delle voci aziendali più forti a favore dell’adozione dell’intelligenza artificiale nell’economia del Regno Unito, sostenendo la scorsa settimana che “ogni singolo lavoratore avrà bisogno di essere riqualificato” e che i datori di lavoro vogliono che la loro forza lavoro “sia quanto più ricca di intelligenza artificiale possibile”.
Ofsted, l'ispettorato dell'istruzione, ha scoperto a febbraio che Multiverse non è riuscita a soddisfare gli standard attesi in diverse aree, elogiando i suoi istruttori come "insegnanti qualificati ed efficaci". Se l’intelligenza artificiale che osserva quegli insegnanti li aiuta a migliorare o semplicemente li brucia è ora la domanda a cui l’azienda dovrà rispondere.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
