Saran AI Membuat Orang Tiga Kali Kurang Akurat tetapi Dua Kali Lebih Percaya Diri, Temuan Studi

Akses terhadap saran kecerdasan buatan membuat orang jauh lebih buruk dalam menjawab pertanyaan dan membuat mereka jauh lebih percaya diri dengan jawaban yang salah, menurut sebuah studi baru yang dilakukan oleh para peneliti di tiga universitas di Eropa. Temuan yang dipublikasikan pada 19 Juli 2026 ini menambah poin data yang tajam pada semakin banyak bukti bahwa alat AI dapat menekan penilaian independen dibandingkan meningkatkannya.

Penelitian tersebut, yang meneliti bagaimana respons manusia ketika diberi bantuan AI, muncul melalui liputan berita AI terkini yang melacak meningkatnya kekhawatiran mengenai ketergantungan manusia yang berlebihan pada sistem otomatis. Hasilnya sangat mengejutkan: orang-orang menjadi kurang akurat tiga kali lipat namun hampir dua kali lebih percaya diri ketika AI tersedia untuk berkonsultasi.

Runtuhnya Kesediaan untuk Mengakui Ketidaktahuan

Studi ini ditulis oleh Valerio Capraro, seorang profesor di Universitas Milano-Bicocca, bersama Chiara Marcoccia dari École Normale Supérieure dan Walter Quattrociocchi dari Universitas Sapienza Roma. Para peneliti sengaja merancang eksperimen mereka berdasarkan pertanyaan-pertanyaan yang biasanya membuat model AI gagal — detail visual dari film, seperti warna seragam tim di Bend It Like Beckham.

Untuk memastikan bahwa setiap penurunan kinerja tidak dapat dijelaskan sebagai pendelegasian yang masuk akal ke alat yang andal, tim menggunakan Langkah 3.5 Flash, sebuah model yang biasanya salah dalam menjawab pertanyaan-pertanyaan ini. Pengaturan tersebut tidak menguji apakah AI dapat membantu, namun apakah kehadirannya akan mengubah penilaian manusia.

Hasilnya tidak ambigu. Ketika AI tidak tersedia, 44% peserta bersedia menjawab "Saya tidak tahu". Ketika saran AI tersedia, angka tersebut turun menjadi hanya 3%. Akurasi turun dari 27% menjadi 9%, sementara kepercayaan melonjak dari 30% menjadi 76%.

> Masyarakat menjadi jauh lebih buruk. Akurasinya hanya sepertiga, tapi mereka dua kali lebih percaya diri.

Kutipan dari Capraro tersebut merangkum temuan inti: beberapa peserta yang seharusnya bisa menjawab dengan benar, berkonsultasi dengan AI dan akhirnya mendapatkan jawaban yang salah — namun merasa lebih baik dengan jawaban mereka dibandingkan sebelumnya.

Insentif Moneter Hampir Tidak Membantu

Dengan harapan bahwa imbalan finansial dapat mengatasi dampak tersebut, para peneliti menawarkan insentif uang kepada peserta untuk jawaban yang benar. Intervensi tersebut membantu, namun hanya sedikit. Kesediaan untuk mengakui ketidaktahuan meningkat dari 3% menjadi 8%, dan akurasi meningkat dari 9% menjadi 16% — keduanya masih jauh di bawah standar tanpa AI sebesar 44% dan 27%.

Implikasinya sangat signifikan. Bahkan ketika orang-orang mempunyai alasan keuangan yang konkrit untuk berpikir secara hati-hati dan melakukan lindung nilai terhadap kesalahan, tarikan gravitasi dari jawaban AI yang percaya diri masih cukup kuat untuk mengesampingkan penilaian yang lebih baik.

Fenomena 'Penyerahan Kognitif'

Temuan ini sejalan dengan penelitian sebelumnya yang dilakukan para peneliti di Wharton School, yang tahun ini menciptakan istilah “penyerahan kognitif” untuk menggambarkan pola yang sama. Dalam penelitian mereka, orang-orang menerima jawaban AI yang salah sekitar 80% dan melaporkan tingkat kepercayaan diri yang lebih tinggi dibandingkan mereka yang bekerja tanpa bantuan AI.

Apa yang ditambahkan oleh studi baru di Eropa adalah mekanisme yang lebih tepat. Bukan hanya orang-orang yang memercayai jawaban AI yang salah ketika mereka menemukannya. Ketersediaan opini AI menekan kebiasaan kognitif dalam mengenali batas-batas pengetahuan seseorang – kemampuan dasar untuk berhenti sejenak dan berkata, "Saya tidak tahu."

Bagi manusia, kemampuan untuk mengakui ketidakpastian adalah dasar pembelajaran dan pengambilan keputusan. Capraro mengatakan dia sangat prihatin terhadap anak-anak, yang tumbuh dengan sistem ini sebelum mereka mengembangkan keterampilan berpikir kritis yang matang.

Implikasi Lebih Luas terhadap Desain Produk AI

Penelitian ini muncul di tengah perdebatan yang lebih luas mengenai bagaimana alat AI dibuat dan diterapkan. Perombakan Google terhadap produk penelusurannya menggantikan tautan tradisional dengan ringkasan yang dihasilkan AI yang menyampaikan otoritas yang konsisten, dan kelompok advokasi Common Sense Media minggu ini menyebut desain tersebut sebagai "risiko yang tidak dapat diterima" bagi siswa.

Pola yang diidentifikasi para peneliti konsisten di seluruh produk: sistem AI dirancang untuk menjawab, hampir tidak pernah mengatakan "Saya tidak tahu". Bukti menunjukkan bahwa manusia yang menggunakannya juga belajar melakukan hal yang sama.

Hal ini memiliki konsekuensi yang jauh melampaui hal-hal sepele tentang film. Di tempat kerja, rumah sakit, dan ruang kelas, alat yang mengikis kemauan untuk menandai ketidakpastian dapat secara diam-diam menurunkan kualitas keputusan meskipun hal tersebut terasa memberdayakan. Keyakinan yang ditanamkan, dalam banyak kasus, justru bertolak belakang dengan keakuratan yang mendasarinya.

Apa yang Terjadi Selanjutnya

Para peneliti berpendapat bahwa temuan ini harus mengubah cara asisten AI dirancang. Jika perilaku default AI adalah menghasilkan jawaban yang meyakinkan tanpa mempedulikan keandalannya, maka beban untuk mengenali ketidakpastian sepenuhnya berada pada pengguna yang, menurut data, tidak mampu menanggungnya. Membangun sistem yang dapat mengkalibrasi dan mengomunikasikan ketidakpastian mereka – dan yang ragu-ragu dibandingkan menegaskan ketika buktinya sedikit – mungkin penting untuk menjaga penilaian manusia tetap utuh.

Sampai saat itu tiba, penelitian ini menawarkan pelajaran yang sederhana, namun tidak nyaman: AI yang terdengar pasti tidak sama dengan AI yang benar. Dan naluri manusia untuk memercayai suara yang percaya diri, bahkan suara yang salah sekalipun, mungkin merupakan kekuatan paling kuat yang pernah dihasilkan oleh teknologi ini.

Tetap Terdepan dalam AI

Laju perubahan dalam kecerdasan buatan tidak ada hentinya, dan dampaknya dapat dirasakan di setiap industri. Untuk liputan berkelanjutan mengenai penelitian, regulasi, dan produk yang mengubah cara kita bekerja dan berpikir, ikuti perkembangan AI terbaru.

Baca berita AI selengkapnya →