Tanya Mod AI Google yang memenangi pilihan raya presiden 2020 dan, bagi kebanyakan pengguna, jawapannya ialah mengangkat bahu dalam bentuk teks. Daripada menamakan pemenang, pengalaman carian yang dikuasakan AI telah mengarahkan orang ramai untuk merujuk laporan rasmi Suruhanjaya Pilihan Raya Persekutuan. Tingkah laku ganjil itu, yang pertama kali diperincikan oleh Ars Technica, telah menarik perhatian yang cukup sehingga Google kini mengakuinya sebagai jurang teknikal yang sedang berusaha untuk diperbaiki, kurang daripada dua minggu sebelum pilihan raya pertengahan penggal AS.
Episod ini merupakan peringatan yang berguna bahawa produk carian AI boleh gagal dengan cara yang pelik walaupun berdasarkan fakta sejarah yang telah diselesaikan, dan bahawa mengikuti perkembangan AI semakin bermakna menjejaki bukan sahaja pelancaran model tetapi bagaimana sistem ini berkelakuan di bawah tekanan politik.
Perkara yang Ditemui Ujian Ars Technica
Apabila seorang wartawan Ars Technica mengemukakan soalan terus kepada Mod AI Google, jawapannya adalah secara tidak langsung: untuk menyemak keputusan rasmi dan statistik pilihan raya presiden Amerika Syarikat 2020, termasuk pecahan akhir kolej pemilih, pengiraan undi popular dan pensijilan pemenang, alat mengesyorkan merujuk laporan rasmi yang disusun oleh FEC.
Pengelak itu tidak konsisten. Ujian menunjukkan jawapan tidak langsung yang serupa untuk pilihan raya 2024 dan 2012, manakala Mod AI memberikan jawapan yang terperinci dan betul untuk setiap pilihan raya presiden yang lain sejak 2000. Kakitangan Ars yang berbeza melihat corak yang berbeza, dengan seorang mendapat jawapan segera hanya untuk perlumbaan 2016 dan 2024 dan pautan ke data luar untuk semua perkara lain.
Persoalan sejarah politik di luar perlumbaan presiden turut terjejas. Ditanya parti mana yang mengawal Senat selepas pilihan raya 2020, AI Mode memberitahu wartawan untuk menyemak rekod rasmi kongres dan dikaitkan dengan halaman sejarah bahagian parti Senat. Ditanya soalan yang sama mengenai pilihan raya 1992, ia menjawab secara langsung bahawa Demokrat memegang majoriti 57 hingga 43.
Chatbot Lain Menjawab Tanpa Teragak-agak
Model Gemini Google sendiri, berasingan daripada Mod AI, menjawab soalan tanpa masalah, menurut laporan itu. Begitu juga OpenAI's ChatGPT, Anthropic's Claude, dan juga model AI yang dikendalikan kerajaan di America.gov. Perbezaan itu penting, kerana ia mencadangkan masalahnya terletak pada cara perlindungan lapisan carian Mod AI mengendalikan pertanyaan pilihan raya dan bukannya dalam pengetahuan model bahasa asas.
Tingkah laku juga berubah dengan geografi. Semakan segera Ars Technica melalui VPN di Taiwan, Rusia, Perancis dan Kanada semuanya memberikan jawapan yang tepat dan terus terang tentang keputusan pilihan raya AS baru-baru ini, membayangkan pengendalian terhad adalah khusus untuk pengguna di Amerika Syarikat.
Respons Google: Jurang Teknikal
Jurucakap Google mula-mula menunjukkan siaran media sosial yang mengakui bahawa aplikasi Gemini menjawab soalan dengan lebih lengkap dan tindak balas Mod AI bukanlah yang paling membantu, sambil menambah bahawa syarikat sedang menelitinya. Jurucakap itu kemudiannya memberikan penjelasan yang lebih konkrit, memberitahu Ars Technica bahawa Google sedang membetulkan isu dengan pertanyaan pilihan raya 2020 dalam Mod AI. Menurut jurucakap itu, sistem Google mengesahkan respons pilihan raya menggunakan artikel berita atau data AP untuk pilihan raya baru-baru ini dan rekod bersejarah untuk pilihan raya yang lebih tua, dan terdapat jurang teknikal dengan 2020, dengan perkara yang sama berlaku untuk perlumbaan Senat 2022, yang syarikat sedang berusaha untuk memperbaikinya dalam kemas kini yang sama.
Kedutan yang menarik dari ujian: kegigihan membuahkan hasil. Apabila soalan yang sama ditanya untuk kali kedua, Mod AI memberikan pemenang secara langsung, memetik data Google Civics. Ditanya mengapa ia tidak menjawab pada mulanya, alat itu menyalahkan penapis keselamatan yang ketat untuk topik pilihan raya baru-baru ini dan sangat sensitif dan menggambarkan sistem yang sangat automatik yang menyalurkan pertanyaan sedemikian ke pangkalan data kerajaan yang disahkan rasmi untuk mengelakkan sebarang risiko memaparkan data yang tidak disahkan atau maklumat salah. Seperti yang dinyatakan oleh Ars Technica, model AI adalah perawi yang tidak boleh dipercayai tentang proses dalaman mereka sendiri, jadi penjelasan itu patut diberi perhatian.
Mengapa Jawapan Pilihan Raya Sukar untuk Carian AI
Google tidak salah menganggap pertanyaan pilihan raya sebagai kepentingan tinggi. Sistem carian generatif boleh berhalusinasi, dan maklumat salah pilihan raya adalah masalah yang didokumenkan yang platform telah berulang kali tersandung. Pada tahun 2023, YouTube milik Google telah mengubah dasar yang menghalang semua video membuat dakwaan palsu tentang pilihan raya 2020, dengan mengatakan penyingkiran boleh menyekat ucapan politik tanpa mengurangkan bahaya dunia nyata secara bermakna.
Sikap awam semasa syarikat itu menekankan maklumat pilihan raya yang berwibawa secara langsung dalam keputusan, termasuk pautan terus ke sumber rasmi, menurut halaman Dasar Awam Pilihan Raya dan catatan blog September tentang membantu pengundi mencari maklumat yang boleh dipercayai sekitar pertengahan penggal. Insiden Mod AI menunjukkan jurang antara dasar itu dan gelagat di lapangan sistem automatik: dalam cuba mengelak daripada mengatakan sesuatu yang salah, ia akhirnya menolak untuk mengatakan sesuatu yang diselesaikan.
Dengan tempoh separuh penggal semakin hampir, episod ini menggambarkan garis halus produk AI berjalan semasa pilihan raya. Jawapan fakta yang terlalu menyekat mengecewakan pengguna dan boleh menghakis kepercayaan sama pasti seperti kesilapan, dan mengelak yang berbeza-beza mengikut pengguna, negara dan pengulangan sukar untuk dipertahankan sama ada keselamatan atau ketepatan. Kemas kini yang dijanjikan Google akan menunjukkan sama ada pembetulan memulihkan jawapan langsung secara seragam, atau sama ada pertanyaan pilihan raya dalam Mod AI kekal sebagai loteri penapis dan jurang teknikal.
Kekal Mendahului AI
Untuk liputan berterusan tentang dasar AI, gelagat platform dan sistem yang membentuk maklumat dalam talian, ikuti AI Buzz Wire untuk berita terkini AI dan analisis bebas.
Baca lebih banyak berita AI di AI Buzz Wire
