Akses menyang saran intelijen buatan ndadekake wong dadi luwih elek nalika mangsuli pitakon nalika nggawe dheweke luwih yakin karo jawaban sing salah, miturut panaliten anyar saka peneliti ing telung universitas Eropa. Panemuan kasebut, sing diterbitake tanggal 19 Juli 2026, nambah titik data sing cetha menyang bukti sing saya tambah akeh manawa alat AI bisa nyuda pertimbangan independen tinimbang nambah.
Panliten kasebut, sing nyinaoni cara wong nanggapi nalika diwenehi pitulungan AI, muncul liwat jangkoan breaking AI sing wis nglacak keprihatinan sing saya tambah akeh babagan ketergantungan manungsa marang sistem otomatis. Asil kasebut nggumunake: wong dadi kira-kira kaping telu kurang akurat nanging meh kaping pindho luwih yakin nalika AI kasedhiya kanggo konsultasi.
Ambruk ing kekarepan kanggo ngakoni Bodho
Panaliten kasebut digawe dening Valerio Capraro, profesor asosiasi ing Universitas Milano-Bicocca, bebarengan karo Chiara Marcoccia saka École Normale Supérieure lan Walter Quattrociocchi saka Universitas Sapienza Roma. Peneliti sengaja ngrancang eksperimen babagan pitakonan ing ngendi model AI biasane gagal - rincian visual saka film, kayata warna seragam tim ing Bend It Like Beckham.
Kanggo mesthekake yen penurunan kinerja ora bisa diterangake minangka delegasi sing wicaksana menyang alat sing dipercaya, tim kasebut nggunakake Langkah 3.5 Flash, model sing biasane salah kanggo pitakonan kasebut. Persiyapan kasebut ora nguji apa AI bisa nulungi, nanging manawa anane mung bakal ngrusak pambiji manungsa.
Asil padha unambiguous. Nalika ora ana AI, 44% peserta gelem ngomong "Aku ora ngerti." Nalika saran AI ana, angka kasebut ambruk mung 3%. Akurasi mudhun saka 27% dadi 9%, dene kapercayan mundhak saka 30% dadi 76%.
> Wong dadi luwih elek. Akurasi mung siji katelu, nanging padha yakin kaping pindho.
Kutipan kasebut, saka Capraro, ngemot temuan inti: sawetara peserta sing bakal mangsuli kanthi bener dhewe takon karo AI lan pungkasane salah - nanging rumangsa luwih apik babagan jawabane tinimbang sadurunge.
Insentif Moneter Ora Dibantu
Muga-muga ganjaran finansial bisa nglawan efek kasebut, para peneliti menehi insentif dhuwit kanggo jawaban sing bener. Intervensi kasebut mbantu, nanging mung sithik. Kesanggupan ngakoni ora ngerti mundhak saka 3% dadi 8%, lan akurasi mundhak saka 9% dadi 16% - loro-lorone isih adoh saka garis dasar tanpa AI 44% lan 27%.
Implikasi kasebut penting. Sanajan wong duwe alasan finansial sing konkrit kanggo mikir kanthi ati-ati lan nglawan kesalahan, tarikan gravitasi saka jawaban AI sing yakin tetep cukup kuat kanggo ngatasi pertimbangan sing luwih apik.
Fenomena 'Cognitive Surrender'
Temuan kasebut nyuarakke karya sadurunge saka peneliti ing Wharton School, sing taun iki nyipta istilah "penyerahan kognitif" kanggo njlèntrèhaké pola sing padha. Ing panalitene, wong nampa jawaban AI sing salah kira-kira 80% nalika nglaporake kapercayan sing luwih dhuwur tinimbang sing kerja tanpa bantuan AI.
Apa sing ditambahake sinau Eropa anyar yaiku mekanisme sing luwih tepat. Ora mung wong percaya jawaban AI sing salah nalika nemoni. Iku sing kasedhiyan panemu AI suppresses pakulinan kognitif ngenali watesan saka kawruh dhewe - kapasitas dhasar kanggo ngaso lan ngomong, "Aku ora ngerti."
Kanggo manungsa, kemampuan kanggo ngakoni kahanan sing durung mesthi dadi dhasar kanggo sinau lan nggawe keputusan. Capraro ujar manawa dheweke prihatin babagan bocah-bocah, sing tuwuh bebarengan karo sistem kasebut sadurunge ngembangake katrampilan mikir kritis sing diwasa.
Implikasi sing luwih amba kanggo Desain Produk AI
Panliten kasebut ana ing tengah-tengah debat sing luwih akeh babagan carane alat AI dibangun lan disebarake. Rokok Google babagan produk telusuran ngganti tautan tradisional kanthi ringkesan sing digawe AI sing ujar kanthi wewenang sing konsisten, lan klompok advokasi Common Sense Media minggu iki nyebat desain kasebut minangka "risiko sing ora bisa ditampa" kanggo para siswa.
Pola sing diidentifikasi para peneliti konsisten ing antarane produk: Sistem AI dirancang kanggo mangsuli, meh ora ngomong "Aku ora ngerti." Manungsa sing nggunakake, bukti nuduhake, sinau kanggo nindakake sing padha.
Sing duwe akibat sing ngluwihi trivia babagan film. Ing papan kerja, rumah sakit, lan ruang kelas, alat sing ngrusak kekarepan kanggo menehi tandha kahanan sing durung mesthi bisa ngrusak kualitas keputusan kanthi tenang sanajan rumangsa menehi kekuwatan. Kapercayan sing ditimbulake, ing pirang-pirang kasus, pancen ngelawan karo akurasi sing ndasari.
Apa Sabanjure
Peneliti mbantah manawa temuan kasebut kudu nggawe maneh carane asisten AI dirancang. Yen prilaku standar AI yaiku ngasilake jawaban sing manteb, preduli saka linuwih, mula beban kanggo ngerteni kahanan sing durung mesthi dadi tanggung jawab pangguna sing, miturut data kasebut, ora bisa nanggung. Sistem bangunan sing bisa kalibrasi lan ngandhani kahanan sing durung mesthi dhewe - lan sing ragu-ragu tinimbang negesake yen bukti tipis - bisa uga penting kanggo njaga paukuman manungsa.
Nganti saiki, sinau kasebut menehi pelajaran sing prasaja, yen ora nyenengake: AI sing muni ora padha karo AI sing bener. Lan naluri manungsa kanggo dipercaya swara sing yakin, sanajan sing salah, bisa uga dadi kekuwatan paling kuat sing durung diluncurake teknologi kasebut.
Tetep Ahead saka AI
Laju owah-owahan ing intelijen buatan ora mandheg, lan implikasi ndemek saben industri. Kanggo liputan terus-terusan babagan riset, regulasi, lan produk sing ngowahi cara kerja lan mikir, tindakake pangembangan AI paling anyar.
Waca liyane warta AI →
