Menghabiskan sepuluh menit saja dengan mengandalkan alat AI secara signifikan mengganggu kemampuan seseorang untuk fokus dan bertahan dalam tugas-tugas sulit, menurut sebuah studi peer-review yang dipresentasikan minggu ini di Conference on Language Modeling (COLM).
Makalah yang berjudul “Bantuan AI Mengurangi Persistensi dan Menyakiti Kinerja Independen,” ditulis bersama oleh penulis dan peneliti Brian Christian, seorang peneliti di UC Berkeley Center for Human-Compatible AI, bersama dengan para peneliti dari Carnegie Mellon University, Massachusetts Institute of Technology, University of Oxford dan UCLA. Draf awal dari karya tersebut diedarkan pada musim semi, namun versi terbaru dan telah ditinjau oleh rekan sejawat dipresentasikan pada konferensi minggu ini, dan kantor penelitian UC Berkeley menerbitkan ringkasan rinci pada tanggal 9 Oktober. For more context on this story, see our ongoing AI news.
Apa yang Ditemukan Peneliti
Untuk mengukur seberapa cepat fokus dan ketekunan orang menurun, tim melakukan serangkaian uji coba terkontrol secara acak dengan 1.222 peserta yang direkrut secara online.
Pada percobaan pertama, 354 peserta diminta menyelesaikan 15 soal pecahan dasar. Kelompok pertama bekerja tanpa bantuan, sementara kelompok kedua membuka ChatGPT dan bebas menggunakannya untuk mendapatkan bantuan — atau bahkan untuk meminta jawaban secara langsung. Grup dengan akses AI memulai dengan lebih akurat. Kemudian, setelah 12 soal, peneliti mengambil alat tersebut. Hampir seketika, akurasi dalam kelompok itu runtuh.
Pola ini diulangi pada kelompok kedua yang lebih besar yang terdiri dari 667 peserta. Ketika bantuan AI ditarik, pengguna AI mendapatkan jawaban yang salah atau menyerah sama sekali, sementara kelompok yang bekerja tanpa bantuan tetap mengerjakan tugas dan menyelesaikannya dengan lebih sukses.
Eksperimen ketiga dengan 201 peserta menukar soal matematika dengan perintah pemahaman bacaan SAT. Hasilnya serupa dengan uji coba sebelumnya: ketika alat tersebut menghilang, ketekunan dan akurasi pun ikut hilang.
“Anda hampir tidak bisa meminta cerita yang lebih jelas,” kata Christian dalam komentar yang diterbitkan oleh UC Berkeley.
'Harga Manusia' dari Jawaban Instan
Para peneliti berpendapat bahwa masalahnya bukan pada AI itu sendiri, melainkan jenis bantuan yang biasa digunakannya. Ketika sistem menghasilkan jawaban dalam hitungan detik, pengguna menjadi terbiasa dengan kecepatan tersebut, dan sistem yang lebih lambat mulai terasa tidak efisien. Mengandalkan alat ini juga menghilangkan apa yang disebut oleh tim sebagai "perjuangan produktif" – yaitu keterlibatan penuh upaya yang membantu orang menemukan kekuatan dan minat mereka sendiri.
“Kami telah membangun sistem ini agar dapat membantu, namun apakah sistem tersebut membantu kami dengan cara yang benar-benar membantu kami?” kata Kristian. Ironisnya, kami menunjukkan bahwa mereka sering membantu kami dengan cara yang tidak membantu.
Christian, yang bukunya “The Alignment Problem” pada tahun 2020 secara luas dianggap sebagai salah satu karya terkemuka yang dapat diakses tentang keamanan AI, mengatakan bahwa temuan ini memberikan bukti atas intuisi yang dianut banyak orang. “Ini adalah temuan yang mengejutkan, namun bisa menjadi amunisi bagi sebuah cerita yang banyak dari kita rasakan,” katanya. "Saya juga mengalaminya."
Mengapa Penting Selain Pecahan
Studi ini muncul di tengah meningkatnya kekhawatiran tentang penurunan kognitif dalam pendidikan. Perusahaan AI Frontier sendiri telah mengakui bahwa memindahkan tugas ke chatbots dapat mengurangi pemahaman dasar pengguna terhadap suatu subjek, menurut laporan Berkeley. Christian menyarankan kemungkinan perbaikan: respons AI bisa saja lebih instruktif – berperilaku seperti tutor yang memandu, bukan mesin penjawab yang menggantikan.
“Kita perlu bekerja menuju masa depan di mana kemampuan manusia, sebisa mungkin, ditingkatkan, bukan digantikan,” katanya.
Kekhawatirannya meluas ke penelitian profesional. Christian khawatir bahwa ketergantungan yang berlebihan pada alat AI dalam sains dapat mengikis kebiasaan yang menjadikan seorang ilmuwan baik: tetap dekat dengan data, mendalami materi, dan bekerja sama dengan tim. Sebuah kelompok penelitian yang terdiri dari sepuluh orang yang menghasilkan ide-ide di balik sebuah terobosan, katanya, mungkin menyusut menjadi dua atau tiga peneliti dan sebuah chatbot.
“Ini bukan cerita tentang pecahan dan soal SAT,” kata Christian. “Ini adalah sesuatu yang terjadi pada pengetahuan manusia dan keahlian manusia dari tingkat atas hingga bawah dan dari siswa sekolah dasar hingga para ahli terkemuka di dunia.”
Kajian yang Masuk Mainstream
Temuan awal ini mendapat liputan dari WIRED dan Psychology Today ketika draf awal muncul pada musim semi, dan The New York Times menerbitkan cerita tentang makalah tersebut dan penelitian serupa minggu lalu, menurut UC Berkeley. Presentasi yang ditinjau oleh rekan sejawat di COLM - salah satu tempat utama penelitian pemodelan bahasa - kini memberikan hasil yang formal.
Bagi para pendidik dan perusahaan, pesan yang disampaikan tidak mengenakkan namun nyata: bahkan paparan singkat terhadap jawaban instan AI dapat mengubah cara orang berperilaku ketika jawaban tidak lagi tersedia. Dan bagi perusahaan AI, penelitian ini menambah tekanan untuk merancang sistem yang dapat mengajar sesering mereka memecahkan masalah.
Christian, pada bagiannya, menyimpan buku catatan di mejanya dan menulis di dalamnya setiap hari. Praktek ini, katanya kepada Berkeley, membuatnya tetap membumi – dan menjaga keunggulan ilmiahnya agar tidak tumpul.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
