Kutumia dakika kumi tu kutegemea zana ya AI hudhoofisha kwa kiasi kikubwa uwezo wa mtu kuzingatia na kuendelea na kazi ngumu, kulingana na utafiti uliopitiwa na marika uliowasilishwa wiki hii kwenye Mkutano wa Kuiga Lugha (COLM).
Karatasi hiyo, iliyopewa jina la "Msaada wa AI Hupunguza Ustahimilivu na Huumiza Utendaji Huru," ilitungwa kwa ushirikiano na mwandishi na mtafiti Brian Christian, mtafiti mwenzake katika Kituo cha UC Berkeley cha AI Inayooana na Binadamu, pamoja na wasomi kutoka Chuo Kikuu cha Carnegie Mellon, Taasisi ya Teknolojia ya Massachusetts, Chuo Kikuu cha Oxford na UCLA. Rasimu ya awali ya kazi hiyo ilisambazwa katika majira ya kuchipua, lakini toleo lililosasishwa, lililopitiwa na marika liliwasilishwa kwenye mkutano wiki hii, na ofisi ya utafiti ya UC Berkeley ilichapisha muhtasari wa kina mnamo Oktoba 9. For more context on this story, see our ongoing AI trends.
Walichogundua Watafiti
Ili kupima jinsi umakini na uvumilivu wa watu ulipungua kwa haraka, timu iliendesha mfululizo wa majaribio yaliyodhibitiwa nasibu na washiriki 1,222 waliosajiliwa mtandaoni.
Katika jaribio la kwanza, washiriki 354 waliulizwa kutatua matatizo 15 ya msingi ya sehemu. Kundi moja lilifanya kazi bila msaada, wakati kundi la pili lilikuwa na ChatGPT iliyofunguliwa kando na ilikuwa huru kuitumia kwa usaidizi - au hata kuuliza majibu moja kwa moja. Kikundi kilicho na ufikiaji wa AI kilianza kwa usahihi zaidi. Kisha, baada ya matatizo 12, watafiti walichukua chombo. Karibu mara moja, usahihi katika kundi hilo uliporomoka.
Mchoro ulirudiwa na kundi la pili, kubwa la washiriki 667. Usaidizi wa AI ulipoondolewa, watumiaji wa AI walipata majibu kimakosa au waliacha kabisa, huku kundi lililofanya kazi bila kusaidiwa lilikwama na kumaliza kwa ufanisi zaidi.
Jaribio la tatu na washiriki 201 lilibadilisha matatizo ya hesabu kwa haraka ya ufahamu wa kusoma wa SAT. Matokeo yake yalirudia majaribio ya awali: wakati chombo kilipotea, pia uvumilivu na usahihi.
"Karibu usingeweza kuuliza hadithi iliyo wazi zaidi," Christian alisema katika maoni yaliyochapishwa na UC Berkeley.
'Gharama ya Kibinadamu' ya Majibu ya Papo Hapo
Watafiti wanahoji kuwa shida sio AI yenyewe lakini aina ya usaidizi ambayo inabadilika. Mfumo unapotoa majibu kwa sekunde, watumiaji huizoea kasi hiyo, na kitu chochote polepole huanza kuhisi kutofaa. Kutegemea zana pia huondoa kile ambacho timu inakiita "mapambano yenye tija" - ushirikiano wa juhudi ambao huwasaidia watu kugundua uwezo na maslahi yao wenyewe.
"Tumeunda mifumo hii ili kusaidia, lakini je, inatusaidia kwa njia ambayo inatusaidia kweli?" Christian alisema. "Tulionyesha, kwa kushangaza, kwamba mara nyingi wanatusaidia kwa njia ambazo hazifai."
Christian, ambaye kitabu chake cha 2020 "The Alignment Problem" kinachukuliwa sana kama mojawapo ya kazi zinazoweza kupatikana kwa usalama wa AI, alisema ugunduzi huo unatoa ushahidi wa uvumbuzi ambao watu wengi wanashikilia. "Ni jambo la kushangaza, lakini kwa njia fulani hutoa risasi kwa hadithi ambayo wengi wetu tunahisi katika utumbo wetu," alisema. "Nina uzoefu pia."
Kwa Nini Ni Muhimu Zaidi ya Sehemu
Utafiti huo unatua huku kukiwa na wasiwasi unaoongezeka kuhusu upakiaji wa utambuzi katika elimu. Kampuni za Frontier AI zenyewe zimekubali kwamba kupakua kazi kwenye chatbots kunaweza kupunguza uelewa wa msingi wa mtumiaji wa somo, kulingana na ripoti ya Berkeley. Christian anapendekeza urekebishaji unaowezekana: Majibu ya AI yanaweza kuwa ya kufundisha zaidi - kuishi kama mwalimu anayeongoza badala ya mashine ya kujibu inayobadilisha.
"Tunahitaji kufanyia kazi siku zijazo ambapo uwezo wa binadamu, kadri inavyowezekana, unaongezwa badala ya kubadilishwa," alisema.
Wasiwasi wake unaenea kwa utafiti wa kitaaluma. Mkristo ana wasiwasi kwamba kuegemea kupita kiasi kwa zana za AI katika sayansi kunaweza kuharibu tabia zinazomfanya mwanasayansi mzuri: kukaa karibu na data, kuzama kwenye nyenzo, na kufanya kazi kwa karibu na timu. Kundi la utafiti la watu kumi ambao hutoa mawazo nyuma ya mafanikio, alibainisha, wanaweza kupungua kwa watafiti wawili au watatu na chatbot.
"Hii sio hadithi kuhusu sehemu na shida za SAT," Christian alisema. "Hili ni jambo ambalo linatokea kwa ujuzi wa binadamu na ujuzi wa kibinadamu kutoka juu hadi chini na kutoka kwa wanafunzi wa shule za daraja hadi kwa wataalam wakuu duniani."
Utafiti Ulioingia Katika Mfumo Mkuu
Matokeo ya mapema yaliibua habari kutoka kwa WIRED na Saikolojia ya Leo wakati rasimu ya awali ilipoonekana katika chemchemi, na The New York Times ilichapisha hadithi kuhusu karatasi na utafiti kama huo wiki iliyopita, kulingana na UC Berkeley. Wasilisho lililopitiwa na marika katika COLM - mojawapo ya maeneo makuu ya utafiti wa uigaji lugha - sasa yanatoa matokeo muhuri rasmi.
Kwa waelimishaji na waajiri, ujumbe si mzuri lakini ni thabiti: hata mfiduo mfupi wa majibu ya papo hapo ya AI hubadilisha jinsi watu wanavyofanya wakati majibu hayapatikani tena. Na kwa kampuni za AI, utafiti huo unaongeza shinikizo la kuunda mifumo inayofundisha mara nyingi inaposuluhisha.
Christian, kwa upande wake, huweka daftari kwenye meza yake na kuandika ndani yake kila siku. Mazoezi hayo, alimwambia Berkeley, yanamweka msingi - na huzuia makali yake ya kielimu kutoka kwa kufifia.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
