Mbuwang mung sepuluh menit kanggo ngandelake alat AI kanthi signifikan ngrusak kemampuan wong kanggo fokus lan terus-terusan nindakake tugas sing angel, miturut studi sing dideleng peer sing ditampilake minggu iki ing Conference on Language Modeling (COLM).

Makalah kasebut, kanthi irah-irahan "Bantuan AI Ngurangi Ketekunan lan Ngrusak Kinerja Independen," ditulis bebarengan karo penulis lan peneliti Brian Christian, peneliti ing Pusat UC Berkeley kanggo AI sing Kompatibel karo Manungsa, bebarengan karo sarjana saka Universitas Carnegie Mellon, Institut Teknologi Massachusetts, Universitas Oxford lan UCLA. Draf karya sadurunge nyebar ing musim semi, nanging versi sing dianyari lan ditinjau peer ditampilake ing konferensi minggu iki, lan kantor riset UC Berkeley nerbitake ringkesan rinci tanggal 9 Oktober. For more context on this story, see our ongoing breaking AI news.

Sing Ditemukake Peneliti

Kanggo ngukur sepira cepet fokus lan ketekunan wong nolak, tim kasebut nindakake serangkaian uji coba sing dikontrol kanthi acak kanthi 1,222 peserta sing direkrut online.

Ing eksperimen pisanan, 354 peserta dijaluk ngrampungake 15 masalah pecahan dhasar. Siji klompok makarya tanpa bantuan, nalika klompok kapindho wis ChatGPT mbukak ing sisih lan bebas nggunakake kanggo pitulungan - utawa malah takon jawaban langsung. Klompok kanthi akses AI diwiwiti kanthi luwih akurat. Banjur, sawise 12 masalah, para peneliti njupuk alat kasebut. Meh sanalika, akurasi ing grup kasebut ambruk.

Pola kasebut diulang kanthi klompok nomer loro, luwih gedhe saka 667 peserta. Nalika pitulungan AI ditarik, pangguna AI entuk jawaban sing salah utawa nyerah, dene klompok sing wis kerja tanpa bantuan tetep nindakake tugas kasebut lan luwih sukses.

Eksperimen katelu karo 201 peserta ngganti masalah matematika kanggo pituduh pemahaman maca SAT. Asil kasebut nyinaoni uji coba sadurunge: nalika alat kasebut ilang, uga ketekunan lan akurasi.

"Sampeyan meh ora bisa njaluk crita sing luwih jelas," ujare Christian ing komentar sing diterbitake dening UC Berkeley.

'Biaya Manungsa' Jawaban Langsung

Peneliti mbantah manawa masalah kasebut dudu AI dhewe, nanging jenis bantuan sing ora bisa ditindakake. Nalika sistem mrodhuksi jawaban ing sawetara detik, kedhaftar dadi rakulino kanggo kacepetan sing, lan apa luwih alon wiwit aran ora efisien. Ngandelake alat kasebut uga mbusak apa sing diarani tim "perjuangan produktif" - keterlibatan sing bisa mbantu wong nemokake kekuwatan lan kapentingane dhewe.

"Kita wis mbangun sistem kasebut supaya bisa mbiyantu, nanging apa bisa mbantu kita kanthi cara sing bener-bener mbantu kita?" Christian ngandika. "Kita nuduhake, kanthi ironis, dheweke asring nulungi kita kanthi cara sing ora ana gunane."

Christian, sing buku 2020 "The Alignment Problem" dianggep minangka salah sawijining karya sing bisa diakses ing safety AI, ujar manawa panemuan kasebut nyedhiyakake bukti kanggo intuisi sing dicekel wong akeh. "Iki minangka panemuan sing nggumunake, nanging kanthi cara nyedhiyakake amunisi kanggo crita sing umume dirasakake ing usus," ujare. "Aku uga ngalami."

Apa Iku Penting Ngluwihi Fraksi

Panliten kasebut ana ing tengah-tengah keprihatinan babagan beban kognitif ing pendidikan. Perusahaan Frontier AI dhewe wis ngakoni manawa ngunggahake tugas menyang chatbots bisa nyuda pangerten dhasar pangguna babagan subyek, miturut laporan Berkeley. Kristen nyaranake bisa ndandani: Tanggepan AI bisa dadi standar dadi luwih instruktif - tumindak kaya tutor sing nuntun tinimbang mesin jawaban sing ngganti.

"Kita kudu ngupayakake masa depan sing kabisan manungsa, sabisa-bisa, ditambah tinimbang diganti," ujare.

Keprigelan kasebut ngluwihi riset profesional. Kristen kuwatir yen overreliance ing alat AI ing ilmu bisa ngrusak persis kabiasaan sing nggawe ilmuwan sing apik: tetep cedhak karo data, nyemplungake awake dhewe ing materi, lan kerja bareng karo tim. Klompok riset sepuluh sing ngasilake ide ing mburi terobosan, ujare, bisa nyuda dadi loro utawa telu peneliti lan chatbot.

"Iki dudu crita babagan pecahan lan masalah SAT," ujare Christian. "Iki kedadeyan babagan kawruh manungsa lan keahliane manungsa saka ndhuwur nganti ngisor lan saka siswa sekolah dasar nganti tekan para ahli terkemuka ing donya."

Sinau Sing Mlebet ing Mainstream

Temuan awal narik jangkoan saka WIRED lan Psychology Today nalika rancangan awal muncul ing musim semi, lan The New York Times nerbitake crita babagan kertas lan riset sing padha minggu kepungkur, miturut UC Berkeley. Presentasi peer-reviewed ing COLM — salah sawijining papan utama lapangan kanggo riset model basa — saiki menehi asil prangko resmi.

Kanggo pendidik lan pengusaha, pesen kasebut ora nyenengake nanging konkrit: sanajan cahya singkat kanggo jawaban AI cepet bisa owah-owahan cara wong nindakake nalika jawaban ora kasedhiya maneh. Lan kanggo perusahaan AI, panliten kasebut nambah tekanan kanggo ngrancang sistem sing asring mulang.

Christian, kanggo bagean, nyimpen notebook ing meja lan nulis ing saben dina. Praktek kasebut, ujare marang Berkeley, nggawe dheweke tetep lemah - lan njaga pinggiran ilmiah dhewe supaya ora ngganggu.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →