Strávit pouhých deset minut spoléháním se na nástroj umělé inteligence výrazně zhoršuje schopnost člověka soustředit se na obtížné úkoly a vytrvat u nich, uvádí recenzovaná studie prezentovaná tento týden na konferenci o jazykovém modelování (COLM).
Příspěvek s názvem „AI Assistance snižuje perzistenci a poškozuje nezávislý výkon“ byl spoluautorem spisovatele a výzkumníka Briana Christiana, výzkumného pracovníka Centra UC Berkeley pro umělou inteligenci kompatibilní s lidmi, spolu s vědci z Carnegie Mellon University, Massachusetts Institute of Technology, University of Oxford a UCLA. Dřívější návrh práce koloval na jaře, ale aktualizovaná, recenzovaná verze byla představena na konferenci tento týden a výzkumná kancelář UC Berkeley zveřejnila podrobné shrnutí 9. října. For more context on this story, see our ongoing more AI stories.
Co výzkumníci našli
Aby bylo možné změřit, jak rychle klesalo soustředění a vytrvalost lidí, provedl tým sérii randomizovaných kontrolovaných studií s 1 222 účastníky přijatými online.
V prvním experimentu bylo 354 účastníků požádáno, aby vyřešili 15 základních zlomkových úloh. Jedna skupina pracovala bez pomoci, zatímco druhá skupina měla ChatGPT otevřený na straně a mohla jej volně používat pro pomoc – nebo dokonce přímo žádat o odpovědi. Skupina s přístupem AI začala přesněji. Poté, po 12 problémech, vědci nástroj odebrali. Téměř okamžitě se přesnost v této skupině zhroutila.
Vzor se opakoval s druhou, větší skupinou 667 účastníků. Když byla pomoc AI stažena, uživatelé AI dostali špatné odpovědi nebo to úplně vzdali, zatímco skupina, která pracovala bez pomoci, zůstala u úkolu a dokončila úspěšněji.
Třetí experiment s 201 účastníky vyměnil matematické úlohy za SAT výzvu k porozumění čtení. Výsledek odrážel dřívější pokusy: když nástroj zmizel, zmizela i vytrvalost a přesnost.
"Skoro si nemůžete přát jasnější příběh," řekl Christian v komentářích zveřejněných UC Berkeley.
„Lidské náklady“ okamžitých odpovědí
Výzkumníci tvrdí, že problémem není samotná umělá inteligence, ale druh pomoci, který je výchozí. Když systém produkuje odpovědi během několika sekund, uživatelé si na tuto rychlost zvyknou a cokoli pomalejšího se začne zdát neefektivní. Spoléhání se na tento nástroj také odstraňuje to, co tým nazývá „produktivní boj“ – usilovné zapojení, které pomáhá lidem objevit jejich vlastní silné stránky a zájmy.
"Vytvořili jsme tyto systémy, aby byly užitečné, ale pomáhají nám způsobem, který nám ve skutečnosti pomáhá?" řekl Christian. "Ironicky jsme ukázali, že nám často pomáhají způsoby, které jsou svým způsobem neužitečné."
Christian, jehož kniha „The Alignment Problem“ z roku 2020 je široce považována za jedno z předních dostupných děl o bezpečnosti umělé inteligence, uvedl, že nález poskytuje důkazy pro intuici, kterou zastává mnoho lidí. "Je to pozoruhodné zjištění, ale svým způsobem dodává munici pro příběh, který spousta z nás cítí ve svých útrobách," řekl. "Taky to prožívám."
Proč na tom záleží mimo zlomky
Studie přistává uprostřed rostoucích obav z kognitivní zátěže ve vzdělávání. Podle zprávy Berkeleyho společnosti Frontier AI samy společnosti Frontier AI uznaly, že přesunutí úkolů na chatboty může snížit základní znalosti uživatele o tématu. Christian navrhuje možnou opravu: reakce umělé inteligence by mohly být ve výchozím nastavení instruktivnější – chovat se jako učitel, který vede, spíše než záznamník, který nahrazuje.
"Musíme pracovat na budoucnosti, ve které budou lidské schopnosti co nejvíce rozšiřovány, nikoli nahrazovány," řekl.
Jeho starost se rozšiřuje i na odborný výzkum. Christian se obává, že přílišné spoléhání na nástroje umělé inteligence ve vědě by mohlo narušit přesně ty zvyky, které dělají dobrého vědce: zůstat blízko datům, ponořit se do materiálu a úzce spolupracovat s týmem. Desetičlenná výzkumná skupina, která generuje myšlenky stojící za průlomem, by se podle něj mohla zmenšit na dva nebo tři výzkumníky a chatbota.
"Toto není příběh o zlomcích a problémech SAT," řekl Christian. "To je něco, co se děje s lidskými znalostmi a odborností od shora dolů a od studentů základních škol až po přední odborníky na světě."
Studie, která vstoupila do hlavního proudu
První zjištění čerpala z WIRED a Psychology Today, když se na jaře objevil předběžný návrh, a The New York Times minulý týden zveřejnily článek o novinách a podobném výzkumu, podle UC Berkeley. Recenzovaná prezentace na COLM – jednom z hlavních míst výzkumu jazykového modelování v oboru – nyní dává výsledku formální punc.
Pro pedagogy a zaměstnavatele je sdělení nepříjemné, ale konkrétní: i krátké vystavení okamžitým odpovědím AI měřitelně změní chování lidí, když odpovědi již nejsou k dispozici. A pro společnosti s umělou inteligencí tato studie zvyšuje tlak na navrhování systémů, které učí tak často, jak řeší.
Christian má na svém stole notebook a každý den do něj píše. Tato praxe, řekl Berkeleymu, ho drží při zemi – a chrání jeho vlastní učenec před otupením.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
