Nasihat AI Menjadikan Orang Tiga Kali Kurang Tepat tetapi Dua Kali Lebih Yakin, Kajian Dapatan

Akses kepada nasihat kecerdasan buatan menjadikan orang ramai secara mendadak lebih teruk dalam menjawab soalan sambil menjadikan mereka jauh lebih yakin dengan jawapan salah mereka, menurut satu kajian baru daripada penyelidik di tiga universiti Eropah. Penemuan yang diterbitkan pada 19 Julai 2026, menambah titik data yang tajam kepada kumpulan bukti yang semakin meningkat bahawa alat AI boleh menyekat pertimbangan bebas daripada meningkatkannya.

Penyelidikan, yang mengkaji cara orang ramai bertindak balas apabila diberi bantuan AI, muncul melalui liputan berita terbaharu AI yang telah menjejaki kebimbangan yang semakin meningkat tentang pergantungan berlebihan manusia pada sistem automatik. Hasilnya sangat menarik: orang menjadi kira-kira tiga kali kurang tepat tetapi hampir dua kali lebih yakin apabila AI tersedia untuk berunding.

Keruntuhan Kesanggupan Mengaku Kejahilan

Kajian itu telah dikarang oleh Valerio Capraro, seorang profesor bersekutu di Universiti Milano-Bicocca, bersama Chiara Marcoccia dari École Normale Supérieure dan Walter Quattrociocchi dari Universiti Sapienza di Rom. Para penyelidik sengaja mereka bentuk eksperimen mereka di sekitar soalan di mana model AI biasanya gagal — butiran visual daripada filem, seperti warna pakaian seragam pasukan dalam Bend It Like Beckham.

Untuk memastikan bahawa sebarang penurunan dalam prestasi tidak dapat dijelaskan sebagai delegasi yang wajar kepada alat yang boleh dipercayai, pasukan menggunakan Langkah 3.5 Flash, model yang biasanya salah pada soalan ini. Persediaan tidak menguji sama ada AI boleh membantu, tetapi sama ada kehadirannya semata-mata akan memesongkan pertimbangan manusia.

Hasilnya tidak jelas. Apabila tiada AI tersedia, 44% peserta bersedia untuk berkata "Saya tidak tahu." Apabila nasihat AI tersedia, angka itu merosot kepada hanya 3%. Ketepatan menurun daripada 27% kepada 9%, manakala keyakinan melonjak daripada 30% kepada 76%.

> Orang ramai menjadi lebih teruk. Ketepatan hanya satu pertiga, tetapi mereka dua kali lebih yakin.

Petikan itu, daripada Capraro, merangkum penemuan teras: sesetengah peserta yang akan menjawab dengan betul sendiri telah berunding dengan AI dan akhirnya salah - namun berasa lebih baik tentang jawapan mereka berbanding sebelum ini.

Insentif Kewangan Hampir Tidak Dibantu

Dengan harapan bahawa ganjaran kewangan mungkin mengatasi kesannya, para penyelidik menawarkan peserta insentif kewangan untuk jawapan yang betul. Campur tangan membantu, tetapi hanya sedikit. Kesediaan untuk mengakui kejahilan meningkat daripada 3% kepada 8%, dan ketepatan bertambah baik daripada 9% kepada 16% — kedua-duanya masih jauh di bawah garis dasar tanpa AI iaitu 44% dan 27%.

Implikasinya adalah ketara. Walaupun orang ramai mempunyai sebab kewangan yang konkrit untuk berfikir dengan teliti dan melindung nilai daripada kesilapan, tarikan graviti jawapan AI yang yakin tetap cukup kuat untuk mengatasi pertimbangan yang lebih baik.

Fenomena 'Penyerahan Kognitif'

Penemuan itu menggemakan kerja awal daripada penyelidik di Sekolah Wharton, yang tahun ini mencipta istilah "penyerahan kognitif" untuk menggambarkan corak yang sama. Dalam kajian mereka, orang ramai menerima jawapan AI yang salah kira-kira 80% sepanjang masa sambil melaporkan keyakinan yang lebih tinggi daripada mereka yang bekerja tanpa bantuan AI.

Apa yang ditambah oleh kajian Eropah baharu ialah mekanisme yang lebih tepat. Bukan sahaja orang mempercayai jawapan AI yang salah apabila mereka menemuinya. Ketersediaan pendapat AI menghalang tabiat kognitif untuk mengenali had pengetahuan sendiri — kapasiti asas untuk berhenti seketika dan berkata, "Saya tidak tahu."

Bagi manusia, keupayaan untuk mengakui ketidakpastian adalah asas kepada pembelajaran dan membuat keputusan. Capraro berkata dia amat mengambil berat tentang kanak-kanak, yang membesar bersama sistem ini sebelum mereka mengembangkan kemahiran berfikir kritis yang matang.

Implikasi yang Lebih Luas untuk Reka Bentuk Produk AI

Penyelidikan itu berlaku di tengah-tengah perdebatan yang lebih luas mengenai cara alat AI dibina dan digunakan. Pembaikan Google terhadap produk cariannya menggantikan pautan tradisional dengan ringkasan yang dijana AI yang bercakap dengan kuasa yang konsisten, dan kumpulan advokasi Common Sense Media minggu ini memanggil reka bentuk itu sebagai "risiko yang tidak boleh diterima" untuk pelajar.

Corak yang dikenal pasti oleh penyelidik adalah konsisten merentas produk: Sistem AI direka untuk menjawab, hampir tidak pernah mengatakan "Saya tidak tahu." Manusia yang menggunakannya, bukti menunjukkan, sedang belajar untuk melakukan perkara yang sama.

Itu mempunyai akibat yang melampaui trivia tentang filem. Di tempat kerja, hospital dan bilik darjah, alat yang menghakis kesediaan untuk membenderakan ketidakpastian secara senyap-senyap boleh merendahkan kualiti keputusan walaupun ia dirasakan memberi kuasa. Keyakinan yang ditanamkannya, dalam banyak kes, adalah bertentangan dengan ketepatan asas.

Apa Yang Akan Datang

Para penyelidik berpendapat bahawa penemuan itu harus membentuk semula bagaimana pembantu AI direka bentuk. Jika tingkah laku lalai AI adalah untuk menghasilkan jawapan yang yakin tanpa mengira kebolehpercayaan, maka beban untuk mengiktiraf ketidakpastian jatuh sepenuhnya kepada pengguna yang, menurut data, tidak lengkap untuk menanggungnya. Membina sistem yang boleh menentukur dan menyampaikan ketidakpastian mereka sendiri - dan yang teragak-agak daripada menegaskan apabila bukti adalah nipis - mungkin penting untuk memastikan penghakiman manusia tetap utuh.

Sehingga itu, kajian itu menawarkan pengajaran yang mudah, jika tidak selesa: AI yang terdengar pasti tidak sama dengan AI yang betul. Dan naluri manusia untuk mempercayai suara yang yakin, walaupun suara yang salah, mungkin merupakan kuasa yang paling berkuasa yang belum dilepaskan oleh teknologi.

Kekal Mendahului AI

Kepantasan perubahan dalam kecerdasan buatan tidak henti-henti, dan implikasinya menyentuh setiap industri. Untuk liputan berterusan tentang penyelidikan, peraturan dan produk yang membentuk semula cara kami bekerja dan berfikir, ikuti perkembangan AI terkini.

Baca lebih banyak berita AI →