Att bara spendera tio minuter på att lita på ett AI-verktyg försämrar avsevärt en persons förmåga att fokusera på och fortsätta med svåra uppgifter, enligt en peer-reviewed studie som presenterades denna vecka på Conference on Language Modeling (COLM).
Uppsatsen, med titeln "AI Assistance Reduces Persistence and Hurts Independent Performance", skrevs av författaren och forskaren Brian Christian, en forskare vid UC Berkeley Center for Human-Compatible AI, tillsammans med forskare från Carnegie Mellon University, Massachusetts Institute of Technology, University of Oxford och UCLA. Ett tidigare utkast till arbetet cirkulerade under våren, men den uppdaterade, peer-reviewade versionen presenterades på konferensen i veckan och UC Berkeleys forskningskontor publicerade en detaljerad sammanfattning den 9 oktober. For more context on this story, see our ongoing AI trends.
Vad forskarna hittade
För att mäta hur snabbt människors fokus och uthållighet minskade, körde teamet en serie randomiserade kontrollerade försök med 1 222 deltagare rekryterade online.
I det första experimentet ombads 354 deltagare att lösa 15 grundläggande bråkproblem. En grupp arbetade utan hjälp, medan en andra grupp hade ChatGPT öppet på sidan och var fri att använda den för hjälp - eller till och med be om svar direkt. Gruppen med AI-åtkomst började mer exakt. Sedan, efter 12 problem, tog forskarna bort verktyget. Nästan omedelbart kollapsade precisionen i den gruppen.
Mönstret upprepades med en andra, större grupp på 667 deltagare. När AI-hjälpen drogs in fick AI-användarna fel svar eller gav upp helt, medan gruppen som hade arbetat utan hjälp fastnade i uppgiften och avslutade mer framgångsrikt.
Ett tredje experiment med 201 deltagare bytte ut matematikproblemen mot en SAT-läsförståelseprompt. Resultatet upprepade de tidigare försöken: när verktyget försvann, gjorde det också uthållighet och noggrannhet.
"Man kunde nästan inte begära en tydligare historia", sa Christian i kommentarer publicerade av UC Berkeley.
Den "mänskliga kostnaden" för omedelbara svar
Forskarna hävdar att problemet inte är AI i sig utan den typ av hjälp den misslyckas med. När ett system ger svar på några sekunder, vänjer sig användarna vid den hastigheten, och allt långsammare börjar kännas ineffektivt. Att förlita sig på verktyget tar också bort det som teamet kallar "produktiv kamp" – det ansträngande engagemanget som hjälper människor att upptäcka sina egna styrkor och intressen.
"Vi har byggt dessa system för att vara till hjälp, men är de till hjälp för oss på ett sätt som faktiskt hjälper oss?" sa Christian. "Vi visade ironiskt nog att de ofta hjälper oss på sätt som är lite hjälpsamma."
Christian, vars bok "The Alignment Problem" från 2020 anses allmänt vara ett av de ledande tillgängliga verken om AI-säkerhet, sa att fyndet ger bevis för en intuition som många människor har. "Det är ett slående fynd, men på ett sätt tillhandahåller det ammunition till en historia som många av oss känner i magen", sa han. — Jag upplever det också.
Varför det spelar roll bortom bråk
Studien landar mitt i växande oro för kognitiv avlastning inom utbildning. Frontier AI-företag har själva erkänt att avlastning av uppgifter till chatbots kan minska en användares grundläggande förståelse av ett ämne, enligt Berkeleys rapport. Christian föreslår en möjlig korrigering: AI-svar kan som standard vara mer lärorika – bete sig som en handledare som vägleder snarare än en telefonsvarare som ersätter.
"Vi måste arbeta mot en framtid där mänskliga förmågor så mycket som möjligt förstärks snarare än ersätts", sa han.
Hans oro sträcker sig till professionell forskning. Kristna oroar sig för att övertilltro till AI-verktyg inom vetenskapen kan urholka exakt de vanor som gör en bra vetenskapsman: att hålla sig nära data, fördjupa sig i materialet och arbeta nära ett team. En forskargrupp på tio som genererar idéerna bakom ett genombrott, noterade han, kan krympa till två eller tre forskare och en chatbot.
"Det här är inte en berättelse om bråk och SAT-problem," sa Christian. "Det här är något som händer med mänsklig kunskap och mänsklig expertis från topp till botten och från grundskoleelever hela vägen till de ledande experterna i världen."
En studie som kom in i mainstream
De tidiga fynden fick täckning från WIRED och Psychology Today när det preliminära utkastet dök upp i våras, och The New York Times publicerade en berättelse om tidningen och liknande forskning förra veckan, enligt UC Berkeley. Den peer-reviewade presentationen på COLM – en av fältets främsta platser för forskning om språkmodellering – ger nu resultatet en formell prägel.
För lärare och arbetsgivare är budskapet obekvämt men konkret: även kort exponering för omedelbara AI-svar förändrar mätbart hur människor beter sig när svaren inte längre är tillgängliga. Och för AI-företag bidrar studien till ökat tryck för att designa system som lär ut lika ofta som de löser.
Christian å sin sida har en anteckningsbok på sitt skrivbord och skriver i den varje dag. Praxis, sa han till Berkeley, håller honom jordad - och hindrar hans egen akademiska kant från att mattas.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
