Profesorii de la Multiverse, compania de instruire tehnologică de 1,6 miliarde de lire sterline co-fondată de Euan Blair, spun că un sistem AI care monitorizează și notează predarea lor online a provocat „stres îngrozitor”, unii membri ai personalului pierzând somnul și căutând terapie, potrivit unui raport exclusiv al The Guardian. Sistemul analizează transcrierile sesiunilor de clasă online și alertează managerii umani atunci când instructorii sunt suspectați că au făcut ceva greșit.
Disputa este una dintre cele mai detaliate analize de până acum asupra modului în care supravegherea AI intră în locurile de muncă cu gulere albe – și ajunge în mijlocul unei dezbateri mai ample despre ultimele dezvoltări AI remodelarea modului în care lucrătorii sunt urmăriți, punctați și gestionați de software.
Ce urmărește AI
Sistemul, introdus în ultimele săptămâni, înlocuiește un regim anterior în care un manager uman observa fiecare instructor o dată pe lună. Profesorii sunt acum monitorizați timp de câteva ore pe zi de o IA instruită să semnaleze o serie de comportamente: nu reușesc să remedieze o întrerupere a conexiunii online suficient de rapid - în aproximativ un minut - folosind prea multe expresii de completare precum „un fel de” și „un fel de”, oferind răspunsuri vagi sau incerte la întrebările cursanților și să fie atrași într-un schimb prelungit unul la celălalt grup.
AI etichetează fiecare instructor cu o „stare de risc”, calculează un „scor procentual de încredere” și produce comentarii scrise pentru ca managerii să le revizuiască dintr-o privire. Instrucțiunile sale, citate de The Guardian, îi spun „să judece PATTERN-ul pe toată transcrierea, nu cazuri izolate” – deși auto-corecția contează și împotriva profesorului: dacă un instructor „a trebuit să se autocorecteze în timp ce dă instrucțiunea, acea confuzie în sine contează ca dovadă că instrucțiunea nu a fost clară prima dată”, chiar dacă „a fost în cele din urmă îndreptată”.
„Te trezesc în mijlocul nopții”
Mai mulți profesori, vorbind anonim, au descris efectul asupra bunăstării lor. „De când au venit toate acestea, nivelul de stres a fost absolut îngrozitor”, a spus unul. "A afectat somnul, și nu doar pentru mine. Am trecut prin multe lucruri în viața mea și nu am fost niciodată într-o poziție în care să mă trezesc în miezul nopții".
Alții au spus că notarea constantă a schimbat modul în care predau. „Atenția ta nu mai oferă lecția și nu-l mai ascultă pe cel care învață”, a spus un instructor, „dar „spun eu ceea ce trebuie, ca AI să nu mă considere prost?”. Lucrătorii au raportat, de asemenea, că au fost atrași de manageri pentru presupuse „digresiuni” care erau de fapt răspunsuri la întrebările studenților. Ei au descris sistemul ca fiind „neremușcat” și „enervant”.
Multivers: AI „direcționează timpul uman”
Multiversul respinge caracterizarea conform căreia IA a înlocuit judecata umană. Un purtător de cuvânt al companiei a spus că sistemul „oferă instructorilor consiliere îmbunătățită cu privire la dezvoltare și feedback – exact cum ar trebui să implementeze orice organizație de învățare AI” și a subliniat că „cea mai importantă acțiune de management al performanței pe care o poate lua este de a recomanda unui om să revizuiască personal o sesiune”.
Compania a spus că AI „direcționează timpul uman către locul în care este cel mai necesar”, evidențiind problemele, că doar managerii umani scriu evaluări ale performanței profesorilor, că introducerea sa a fost comunicată în prealabil și că profesorii vor avea acces la datele pe care le colectează AI. Nu a abordat direct plângerile legate de stres și anxietate.
O dezbatere extinsă de supraveghere
Rândul de la Multiverse se potrivește unui model de monitorizare AI care se răspândește la locurile de muncă. La începutul acestui an, Burger King a început să folosească inteligența artificială pentru a urmări interacțiunile cu clienții lucrătorilor restaurantului, iar în această vară Meta a întrerupt urmărirea tastelor de pe computer ale angajaților, după preocupările privind confidențialitatea datelor și o reacție a personalului.
Organizatorii muncii susțin că tendința este mai profundă decât oricare angajator. Filiala United Tech and Allied Workers a Communication Workers Union a concluzionat că IA la locul de muncă produce o „predare cognitivă” pe măsură ce personalul se așteaptă la judecățile mașinilor, iar noi cercetări care vor fi publicate în această săptămână arată că lucrătorii din industria tehnologică din Marea Britanie spun că AI degradează satisfacția în muncă.
Compania din spatele sistemului
Multiverse antrenează mii de lucrători din Regatul Unit în abilități de calculatoare și inteligență artificială pentru angajatori, inclusiv NHS, consilii locale, universități și companii private, cea mai mare parte a veniturilor sale circulând prin taxa de ucenicie a guvernului. Compania are peste 800 de angajați și a fost evaluată recent la 1,6 miliarde de lire sterline, deși aceasta se bazează pe o cifră de afaceri de 118 milioane de lire sterline și pierderi de 28 de milioane de lire sterline anul trecut.
Blair, fiul cel mare al fostului prim-ministru Tony Blair, deține o acțiune minoritară mare, care își ridică valoarea netă personală la aproximativ 350 de milioane de lire sterline. El a fost una dintre cele mai puternice voci corporative pentru adoptarea inteligenței artificiale în economia Regatului Unit, susținând săptămâna trecută că „fiecare lucrător va trebui să fie recalificat” și că angajatorii își doresc forța de muncă „cât mai concentrată cu IA”.
Ofsted, inspectoratul educațional, a constatat în februarie că Multiverse nu a reușit să îndeplinească standardele așteptate în mai multe domenii – în timp ce și-a lăudat instructorii drept „profesori calificați și eficienți”. Dacă AI care urmărește acești profesori îi ajută să se îmbunătățească sau pur și simplu îi epuizează, este acum întrebarea la care compania va trebui să răspundă.
---
Rămâneți înaintea AIObțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.
Citiți mai multe știri AI →
