Petrecerea a doar zece minute bazându-se pe un instrument AI afectează semnificativ capacitatea unei persoane de a se concentra asupra sarcinilor dificile și de a persista în acestea, potrivit unui studiu evaluat de colegi, prezentat săptămâna aceasta la Conferința privind modelarea lingvistică (COLM).
Lucrarea, intitulată „AI Assistance Reduces Persistence and Hurts Independent Performance”, a fost co-autor de scriitorul și cercetătorul Brian Christian, cercetător la Centrul UC Berkeley pentru IA compatibilă cu oamenii, împreună cu cercetători de la Carnegie Mellon University, Massachusetts Institute of Technology, Universitatea Oxford și UCLA. O versiune anterioară a lucrării a circulat în primăvară, dar versiunea actualizată, revizuită de colegi a fost prezentată la conferință săptămâna aceasta, iar biroul de cercetare al UC Berkeley a publicat un rezumat detaliat pe 9 octombrie. For more context on this story, see our ongoing more AI stories.
Ce au descoperit cercetătorii
Pentru a măsura cât de repede au scăzut concentrarea și persistența oamenilor, echipa a desfășurat o serie de studii controlate randomizate cu 1.222 de participanți recrutați online.
În primul experiment, 354 de participanți au fost rugați să rezolve 15 probleme de bază cu fracțiuni. Un grup a lucrat fără ajutor, în timp ce un al doilea grup avea ChatGPT deschis în lateral și era liber să îl folosească pentru asistență – sau chiar să ceară răspunsuri direct. Grupul cu acces AI a început mai precis. Apoi, după 12 probleme, cercetătorii au luat instrumentul. Aproape imediat, precizia din acel grup s-a prăbușit.
Modelul s-a repetat cu un al doilea grup mai mare de 667 de participanți. Când asistența AI a fost retrasă, utilizatorii AI au primit răspunsuri greșite sau au renunțat complet, în timp ce grupul care a lucrat fără ajutor a rămas cu sarcina și a terminat cu mai mult succes.
Un al treilea experiment cu 201 de participanți a schimbat problemele de matematică cu un prompt SAT de înțelegere a lecturii. Rezultatul a făcut ecou încercărilor anterioare: când instrumentul a dispărut, la fel și persistența și acuratețea.
„Aproape că nu ai putea cere o poveste mai clară”, a spus Christian în comentariile publicate de UC Berkeley.
„Costul uman” al răspunsurilor instantanee
Cercetătorii susțin că problema nu este AI în sine, ci tipul de ajutor la care se folosește implicit. Când un sistem produce răspunsuri în câteva secunde, utilizatorii se obișnuiesc cu acea viteză și orice lucru mai lent începe să se simtă ineficient. Bazarea pe instrument elimină, de asemenea, ceea ce echipa numește „luptă productivă” – angajamentul efort care îi ajută pe oameni să-și descopere propriile puncte forte și interese.
„Am construit aceste sisteme pentru a fi utile, dar ne sunt de ajutor într-un mod care ne ajută de fapt?” spuse Christian. „Am arătat, în mod ironic, că deseori ne ajută în moduri care sunt oarecum inutile”.
Christian, a cărui carte din 2020 „The Alignment Problem” este considerată una dintre principalele lucrări accesibile despre siguranța AI, a spus că descoperirea furnizează dovezi pentru o intuiție pe care o dețin mulți oameni. „Este o descoperire izbitoare, dar într-un fel furnizează muniție pentru o poveste pe care mulți dintre noi o simțim în intestine”, a spus el. „Si eu experimentez asta”.
De ce contează dincolo de fracții
Studiul aterizează pe fondul preocupării tot mai mari cu privire la descărcarea cognitivă în educație. Companiile de frontieră AI au recunoscut că descărcarea sarcinilor către chatbot poate reduce înțelegerea de bază a unui utilizator asupra unui subiect, conform raportului lui Berkeley. Christian sugerează o posibilă remediere: răspunsurile AI ar putea fi implicit mai instructive – comportându-se ca un tutore care ghidează, mai degrabă decât un robot care înlocuiește.
„Trebuie să lucrăm către un viitor în care abilitățile umane să fie, pe cât posibil, sporite și nu înlocuite”, a spus el.
Preocuparea sa se extinde și asupra cercetării profesionale. Creștin se teme că dependența excesivă de instrumentele AI în știință ar putea eroda exact obiceiurile care fac un bun om de știință: a rămâne aproape de date, a se scufunda în material și a lucra îndeaproape cu o echipă. Un grup de cercetare format din zece care generează ideile din spatele unei descoperiri, a remarcat el, s-ar putea micșora la doi sau trei cercetători și un chatbot.
„Aceasta nu este o poveste despre fracții și probleme SAT”, a spus Christian. „Acesta este ceva ce se întâmplă cu cunoștințele umane și expertiza umană de sus până jos și de la elevii de școală până la experții de top din lume.”
Un studiu care a intrat în curentul mainstream
Primele descoperiri au fost acoperite de WIRED și Psychology Today, când proiectul preliminar a apărut în primăvară, iar The New York Times a publicat o poveste despre lucrare și cercetări similare săptămâna trecută, potrivit UC Berkeley. Prezentarea evaluată de colegi de la COLM – unul dintre principalele locuri de cercetare în domeniul modelării lingvistice – oferă acum rezultatului o ștampilă oficială.
Pentru educatori și angajatori, mesajul este inconfortabil, dar concret: chiar și expunerea scurtă la răspunsurile instant AI schimbă în mod măsurabil modul în care oamenii se comportă atunci când răspunsurile nu mai sunt disponibile. Iar pentru companiile de inteligență artificială, studiul crește presiunea pentru proiectarea sistemelor care predau ori de câte ori rezolvă.
Christian, la rândul său, ține un caiet pe birou și scrie în el în fiecare zi. Practica, i-a spus el lui Berkeley, îl menține pe pământ - și îi împiedică să se încurce.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
