În timp ce profesioniștii din industrii se întrec pentru a adopta instrumente de inteligență artificială, o întrebare îngrijorătoare trece de la speculații în domeniul dovezilor măsurate: pierdem abilitățile pe care aceste instrumente erau menite să le ajute?
Un raport publicat în Nature constată că rezultatele timpurii sunt în - și nu sunt încurajatoare. Dependența de sistemele bazate pe inteligența artificială începe să erodeze abilitățile medicilor, inginerilor de software și ale altor lucrători calificați, ridicând întrebări urgente despre cum să păstrăm expertiza umană într-o era a automatizării. For more context on this story, see our ongoing AI trends.
Medicii au rezultate mai proaste fără AI
Unul dintre cele mai clare exemple vine din medicină. Un studiu al medicilor polonezi specializați în endoscopie a examinat ce se întâmplă atunci când medicii cu experiență se obișnuiesc cu un asistent AI și apoi pierd accesul la acesta.
Medicii, toți dintre care au efectuat cel puțin 2.000 de colonoscopii în timpul carierei lor, au primit un sistem AI care analizează imaginile de colonoscopie în timp real și semnalează un tip de leziune intestinală precanceroasă numită adenom. Instrumentul a fost disponibil în unele zile, dar nu și în altele, creând un experiment natural.
Rezultatele au fost dure. În perioada de trei luni înainte de introducerea instrumentului AI, specialiștii au descoperit cel puțin un adenom în timpul a 28,4% din colonoscopii. După ce instrumentul a fost introdus, rata de detectare a adenomului pentru colonoscopiile efectuate fără asistență AI a scăzut la 22,4%.
Cu alte cuvinte, odată ce medicii au început să se bazeze pe sistemul AI, propria lor performanță de diagnostic a scăzut atunci când acesta nu era disponibil. Descoperirile au fost publicate în octombrie anul trecut în The Lancet Gastroenterology and Hepatology.
Autorii studiului au concluzionat că expunerea continuă la astfel de instrumente poate determina clinicienii să devină „mai puțin motivați, mai puțin concentrați și mai puțin responsabili atunci când iau decizii cognitive fără asistență AI”.
Un sondaj arată că îngrijorarea este răspândită
Teama de pierderea abilităților nu se limitează la câteva studii. Un sondaj al lucrătorilor din domeniul sănătății din SUA, publicat la începutul lunii iunie, a constatat că 70% dintre asistente și 77% dintre medici sunt îngrijorați să-și piardă abilitățile din cauza dependenței excesive de sistemele AI.
Această anxietate pare să fie justificată de datele care apar. Pe măsură ce mai mulți profesioniști integrează inteligența artificială în fluxurile lor zilnice de lucru, diferența dintre ceea ce pot face cu tehnologia și ceea ce pot face fără ea se poate extinde.
Kevin Crowston, un om de știință în domeniul informațiilor de la Universitatea Syracuse, a formulat clar provocarea: „Doar a fi conștient de faptul că acest fenomen există, sperăm că provoacă o anumită reflecție despre abilitățile pe care oamenii doresc să le păstreze și pe care sunt dispuși să le externalizeze” instrumentelor AI.
Inginerii software arată modele similare
Efectul deskilling nu se limitează la medicamente. Pentru a investiga dacă abilitățile se pierd în informatică, cercetătorii de la firma de inteligență artificială Anthropic au conceput un studiu controlat randomizat care a implicat 52 de ingineri software.
Tuturor participanților li sa cerut să efectueze o sarcină de codare de bază. Fiecare inginer ar putea căuta pe web și să acceseze instrucțiuni despre cum să-l completeze. Jumătate au fost, de asemenea, solicitați să folosească un asistent AI. Studiul, lansat ca preprint, a fost conceput pentru a izola efectul asistenței AI asupra capacității fundamentale de codare.
Descoperirile se adaugă la un număr tot mai mare de dovezi că transferarea activității cognitive de rutină către IA poate slăbi competențele de bază pe care profesioniștii le-au dezvoltat cândva prin practică repetată. Când AI se ocupă de sarcinile grele, practicantul uman are mai puține oportunități de a construi și menține stăpânirea.
Mecanica deskillingului
Cercetătorii descriu decalificarea ca un proces gradual. Atunci când un instrument se ocupă de o sarcină în mod fiabil, implicarea unui lucrător cu competența de bază scade. De-a lungul timpului, căile neuronale și judecata perfecționate de-a lungul anilor de practică încep să se estompeze.
În medicină, acest lucru poate fi deosebit de periculos. Un medic care s-a bazat cândva pe judecata vizuală ascuțită pentru a detecta țesutul suspect poate, după luni de asistență AI, să devină dependent de indicațiile sistemului. Dacă sistemul eșuează sau nu este disponibil, este posibil ca performanța neasistată a medicului să nu mai îndeplinească standardul pe care l-a îndeplinit cândva.
Yuichi Mori, medic-cercetător la Universitatea din Oslo și coautor al studiului de colonoscopie, avertizează că oamenii care folosesc instrumente AI ar trebui să fie conștienți că riscă să-și piardă unele dintre abilitățile. „Nu există o soluție stabilită împotriva decalificarii în acest moment”, a spus el. „Ar trebui să fie un subiect de cercetare foarte fierbinte în următorul deceniu”.
De ce testările standard ratează problema
O parte din dificultatea de a aborda decalificarea este că este invizibil până când AI este eliminat. Valorile de performanță par puternice atunci când instrumentul este în uz, maschând erodarea treptată a capacității umane dedesubt.
Acest lucru creează o buclă de feedback. Lucrătorii au rezultate mai bune cu inteligența artificială, așa că o folosesc mai mult. Cu cât îl folosesc mai mult, cu atât practică mai puțin abilitatea neasistată. În momentul în care declinul devine evident - când instrumentul este oprit, retras sau înlocuit - este posibil ca abilitatea să se fi atrofiat deja.
Fenomenul ridică, de asemenea, întrebări cu privire la modul în care organizațiile ar trebui să structureze instruirea și evaluarea. Dacă competența profesională este măsurată din ce în ce mai mult în timp ce asistența AI este activă, evaluările pot supraestima ceea ce lucrătorii pot face cu adevărat singuri.
Păstrarea experienței umane
Cercetătorii și experții la locul de muncă dezbat acum cum să păstreze abilitățile umane importante în era AI. Soluțiile nu sunt încă clare, dar apar mai multe principii.
În primul rând, conștientizarea contează. Simpla recunoaștere a faptului că poate apărea decalificarea poate determina indivizii și organizațiile să mențină în mod deliberat practica neasistată. În al doilea rând, este posibil ca profesioniștii să fie nevoiți să facă alegeri conștiente cu privire la abilitățile pe care să le păstreze și pe care să le delege. Nu orice abilitate merită păstrată la maxim, dar unele – în special cele legate de siguranță, diagnostic și judecată critică – sunt în mod clar.
În al treilea rând, este posibil ca organizațiile să fie nevoite să reproiecteze fluxurile de lucru, astfel încât AI să sporească mai degrabă decât să înlocuiască munca cognitivă de bază. În loc să lase instrumentul să gândească, inteligența artificială ar putea fi poziționată ca un control al raționamentului uman, solicitând ca profesionistul să ajungă mai întâi la un răspuns înainte de a consulta sistemul.
O provocare definitorie pentru era AI
Raportul Nature arată clar că decalificarea nu mai este o preocupare ipotetică. Dovezile, deși încă devreme, sunt consecvente în toate domeniile: atunci când oamenii predau munca cognitivă AI, abilitățile de bază se pot slăbi.
Pentru milioanele de profesioniști care integrează acum AI în rutina lor zilnică, miza este atât personală, cât și socială. Un chirurg care pierde atingerea pentru a depista o tumoare, un inginer care uită cum să depaneze fără un asistent, o asistentă a cărei intuiție clinică se estompează - acestea nu sunt riscuri abstracte.
După cum a menționat Mori, nu există încă o soluție stabilită. Dar primul pas, sunt de acord cercetătorii, este să iei amenințarea în serios. Rezultatele timpurii sunt prezente și sunt un avertisment: instrumentele concepute pentru a ne face mai buni, dacă sunt folosite cu neglijență, ne pot lăsa mai puțin capabili decât înainte.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
