3 Pendaki Diselamatkan Selepas Perancangan Perjalanan Gemini Tersalah di Gunung Shasta

Tiga pejalan kaki baru dari Roseville, California, menghabiskan malam terkandas di Mud Creek Canyon di Gunung Shasta selepas merancang pendakian mereka dengan chatbot Gemini Google, menurut Pejabat Syerif Daerah Siskiyou. Ketiga-tiga mereka memulakan pendakian pada pukul 3 pagi, mencapai puncak 14,000 kaki pada pukul 7 malam, dan kemudian cuba turun dalam kegelapan sebelum memanggil pihak berkuasa untuk mendapatkan arahan.

Penyelamatan, pertama kali dilaporkan oleh kedai tempatan dan sejak diliputi oleh Fox News, Digital Trends dan lain-lain, telah menjadi salah satu kisah peringatan AI yang paling banyak dikongsi pada musim panas. Ia juga merupakan peringatan bahawa pembantu perbualan hanya boleh dipercayai seperti andaian perancangan di belakang mereka, sesuatu yang kami jejaki dengan teliti dalam liputan berita AI terkini kami tentang cara orang sebenarnya menggunakan alat ini dalam situasi berisiko tinggi.

Apa yang berlaku di atas gunung

Menurut pejabat sheriff, ketiga-tiga pejalan kaki itu sangat bergantung pada Gemini semasa bersiap untuk perjalanan mereka, menganggap chatbot sebagai sumber utama laluan dan maklumat logistik mereka. Pendakian mereka yang dirancang selama lapan jam menjangkau jauh ke petang. Selepas berdiri di puncak pada jam 7 malam, mereka cuba mencari jalan turun selepas malam dan akhirnya menghubungi Pejabat Syerif Daerah Siskiyou semasa turun untuk bertanyakan arah.

Kumpulan itu bermalam di Mud Creek Canyon, di sebelah tenggara gunung, sebelum diekstrak keesokan harinya oleh renjer Perkhidmatan Hutan AS dan penyelamat sukarela. Tiada siapa yang cedera parah, tetapi pengalaman pahit itu boleh menjadi lebih teruk: suhu semalaman pada ketinggian di Shasta boleh turun dengan mendadak walaupun pada musim panas, dan rupa bumi ngarai tidak boleh dimaafkan bagi sesiapa sahaja tanpa peruntukan yang sewajarnya.

Pelan yang dibina selama lapan jam

Perincian yang paling dipetik daripada insiden itu ialah pejabat sheriff mendapati bahawa para pejalan kaki "dinasihatkan oleh Gemini untuk membawa makanan dan air yang jauh lebih sedikit daripada yang diperlukan oleh kumpulan mereka, terutamanya apabila pendakian 8 jam yang dirancang mereka menjadi pahit berbilang hari." Dalam erti kata lain, nasihat pembungkusan chatbot telah ditentukur mengikut jadual perjalanan terbaik, tanpa margin keselamatan untuk senario yang sebenarnya berlaku.

Pendaki Shasta yang berpengalaman biasanya menganggap tengah hari sebagai titik pusingan untuk percubaan puncak, dengan tepat supaya penurunan berlaku pada waktu siang. Bermula pada jam 3 pagi dan melebihi tujuh jam melepasi garis panduan itu bermakna kumpulan itu sudah mendalami improvisasi sebelum turun pun bermula. Pejabat sheriff menyifatkan pergantungan pejalan kaki pada chatbot sebagai "salah langkah kritikal."

Amaran sheriff: sahkan sebelum anda pergi

Selepas itu, Pejabat Syerif Daerah Siskiyou menggesa sesiapa yang merancang mendaki Shasta untuk menghubungi stesen renjer Mount Shasta Perkhidmatan Perhutanan AS sebelum perjalanan mereka. Panduannya mudah: dapatkan maklumat terkini yang tepat daripada orang yang mengetahui gunung itu dan jangan bergantung semata-mata pada alatan AI untuk perancangan perjalanan.

Nasihat itu digeneralisasikan jauh melebihi satu gunung berapi. Keadaan laluan, tingkap cuaca, sumber air dan keperluan permit sentiasa berubah, dan chatbot yang dengan yakin meringkaskan laluan mungkin menggabungkan teks buku panduan yang sudah lapuk, siaran forum dan nasihat alpinisme generik kepada sesuatu yang kelihatan berwibawa tetapi tidak mempunyai kebenaran asas semasa. Semasa mendaki, jurang itu menjengkelkan. Pada gunung berapi 14,000 kaki, ia menjadi panggilan menyelamat.

Perdebatan mengenai peranan AI dalam perancangan berisiko tinggi

Reaksi orang ramai terhadap kejadian itu berbeza-beza. Beberapa pengulas mengkritik pejalan kaki kerana menyumber luar keputusan kritikal kelangsungan hidup kepada chatbot pada mulanya. Yang lain mempertahankan mereka, dengan alasan bahawa menggunakan AI untuk penyelidikan perjalanan adalah munasabah selagi outputnya disahkan secara bebas terhadap sumber rasmi, menurut laporan mengenai penyelamatan.

Episod ini sesuai dengan corak yang lebih luas yang telah didokumentasikan oleh pemerhati AI apabila pembantu beralih daripada kebaharuan kepada infrastruktur: model semakin yakin, tetapi keyakinan tidak sama dengan ketepatan, dan kos ralat berskala dengan kepentingan. Dalam tugasan kreatif atau berisiko rendah, jawapan yang salah memerlukan masa. Di kawasan pedalaman, di laluan awal, atau dalam kecemasan, jawapan yang salah yang sama boleh membahayakan nyawa.

Maksudnya untuk perancangan perjalanan AI

Buat masa ini, pelajaran praktikal adalah tidak menarik. Anggap rancangan perjalanan AI sebagai garis permulaan, bukan senarai semak akhir. Semak silang laluan terhadap stesen renjer rasmi, perkhidmatan taman dan laporan perjalanan terkini. Pek untuk hari yang paling teruk, bukan hari yang dirancang. Dan bina dalam masa pemulihan, kemudian simpannya.

Tiada satu pun daripada itu menjadikan alat seperti Gemini tidak berguna untuk perancangan luar. Digunakan sebagai pembantu penyelidik yang mengemukakan soalan kepada renjer, ia benar-benar boleh membantu orang ramai membuat persediaan. Insiden Gunung Shasta adalah apa yang berlaku apabila pembantu menjadi pihak berkuasa. Mesej pejabat sheriff, dan penyelamatan yang mendorongnya, mungkin akan dipetik untuk masa yang lama dalam perdebatan tentang di mana nasihat AI harus berakhir dan pertimbangan manusia harus bermula.

Kekal Mendahului AI

Untuk laporan yang disahkan tentang cara AI membentuk semula kehidupan harian, keselamatan dan masyarakat, ikuti AI Buzz Wire.

Baca lebih banyak berita AI →