Tiga pendaki pemula dari Roseville, California, menghabiskan malam terdampar di Mud Creek Canyon di Gunung Shasta setelah merencanakan pendakian mereka dengan chatbot Gemini Google, menurut Kantor Sheriff Kabupaten Siskiyou. Ketiganya memulai pendakian pada pukul 3 pagi, mencapai puncak setinggi 14.000 kaki pada pukul 7 malam, dan kemudian berusaha turun dalam kegelapan sebelum menghubungi pihak berwenang untuk meminta petunjuk arah.
Penyelamatan ini, yang pertama kali dilaporkan oleh media lokal dan sejak diliput oleh Fox News, Digital Trends, dan lainnya, telah menjadi salah satu kisah peringatan AI yang paling banyak dibagikan pada musim panas. Hal ini juga merupakan pengingat bahwa asisten percakapan hanya dapat diandalkan jika asumsi perencanaan di baliknya, sesuatu yang kami lacak dengan cermat dalam liputan berita AI terkini tentang bagaimana orang sebenarnya menggunakan alat ini dalam situasi berisiko tinggi.
Apa yang terjadi di gunung
Menurut kantor sheriff, ketiga pendaki tersebut sangat bergantung pada Gemini saat mempersiapkan perjalanan mereka, memperlakukan chatbot sebagai sumber utama informasi rute dan logistik. Rencana pendakian mereka selama delapan jam berlangsung hingga malam hari. Setelah berdiri di puncak pada pukul 7 malam, mereka mencoba mencari jalan turun setelah malam tiba dan akhirnya menelepon Kantor Sheriff Kabupaten Siskiyou saat turun untuk menanyakan arah.
Kelompok tersebut bermalam di Mud Creek Canyon, di sisi tenggara gunung, sebelum dievakuasi keesokan paginya oleh penjaga hutan AS dan sukarelawan penyelamat. Tidak ada korban luka serius, namun cobaan yang mungkin terjadi bisa saja lebih buruk lagi: suhu malam hari di ketinggian di Shasta bisa turun tajam bahkan di musim panas, dan medan ngarai tidak dapat dimaafkan bagi siapa pun yang tidak memiliki bekal yang memadai.
Sebuah rencana yang dibuat selama delapan jam
Detail yang paling banyak dikutip dari insiden tersebut adalah temuan kantor sheriff bahwa para pendaki "disarankan oleh Gemini untuk membawa makanan dan air jauh lebih sedikit daripada yang dibutuhkan kelompok mereka, terutama ketika rencana pendakian 8 jam mereka menjadi cobaan berat selama beberapa hari." Dengan kata lain, saran pengepakan chatbot disesuaikan dengan rencana perjalanan terbaik, tanpa batas keamanan untuk skenario yang sebenarnya terjadi.
Pendaki Shasta yang berpengalaman umumnya menganggap tengah hari sebagai titik balik untuk upaya mencapai puncak, tepatnya agar penurunan terjadi di siang hari. Dimulai pada jam 3 pagi dan melampaui tujuh jam dari pedoman tersebut berarti kelompok tersebut sudah melakukan improvisasi mendalam sebelum penurunan dimulai. Kantor sheriff menggambarkan ketergantungan para pendaki pada chatbot sebagai "kesalahan kritis".
Peringatan sheriff: verifikasi sebelum Anda pergi
Setelah kejadian tersebut, Kantor Sheriff Kabupaten Siskiyou mendesak siapa pun yang merencanakan pendakian Shasta untuk menghubungi stasiun penjaga Gunung Shasta dari Dinas Kehutanan AS sebelum melakukan perjalanan. Panduannya sederhana: dapatkan informasi akurat dan terkini dari orang-orang yang mengetahui gunung tersebut, dan jangan hanya mengandalkan alat AI untuk perencanaan perjalanan.
Saran tersebut dapat digeneralisasikan lebih dari satu gunung berapi. Kondisi rute, jendela cuaca, sumber air, dan persyaratan izin terus berubah, dan chatbot yang merangkum rute dengan percaya diri mungkin memadukan teks buku panduan yang sudah ketinggalan zaman, postingan forum, dan saran umum pendakian gunung menjadi sesuatu yang terdengar berwibawa tetapi tidak memiliki kebenaran dasar saat ini. Saat mendaki, kesenjangan itu menjengkelkan. Di gunung berapi setinggi 14.000 kaki, ini menjadi panggilan penyelamatan.
Perdebatan mengenai peran AI dalam perencanaan berisiko tinggi
Reaksi publik terhadap insiden tersebut beragam. Beberapa komentator mengkritik para pendaki karena mengalihkan keputusan penting untuk bertahan hidup ke chatbot. Yang lain membela mereka, dengan alasan bahwa penggunaan AI untuk penelitian perjalanan adalah hal yang wajar selama hasilnya diverifikasi secara independen terhadap sumber resmi, menurut laporan penyelamatan.
Episode ini sesuai dengan pola yang lebih luas yang telah didokumentasikan oleh para pengamat AI ketika asisten beralih dari hal baru ke infrastruktur: model semakin percaya diri, namun kepercayaan diri tidak sama dengan akurasi, dan kerugian akibat kesalahan semakin besar. Dalam tugas-tugas kreatif atau berisiko rendah, jawaban yang salah membutuhkan waktu. Di daerah pedalaman, di ujung jalan setapak, atau dalam keadaan darurat, jawaban yang salah dapat membahayakan nyawa.
Apa artinya bagi perencanaan perjalanan AI
Untuk saat ini, pelajaran praktisnya tidak menarik. Perlakukan rencana perjalanan AI sebagai garis besar awal, bukan daftar periksa akhir. Periksa ulang rute dengan stasiun penjaga resmi, layanan taman, dan laporan perjalanan terkini. Berkemaslah untuk hari terburuk yang mungkin terjadi, bukan hari yang direncanakan. Dan bangun dalam waktu penyelesaian, lalu pertahankan.
Tidak ada satupun yang membuat alat seperti Gemini tidak berguna untuk perencanaan luar ruangan. Digunakan sebagai asisten peneliti yang mengajukan pertanyaan kepada penjaga hutan, alat ini benar-benar dapat membantu orang mempersiapkan diri. Insiden Gunung Shasta terjadi ketika asisten menjadi penguasa. Pesan dari kantor sheriff, dan tindakan penyelamatan yang menjadi pemicunya, kemungkinan besar akan terus dikutip dalam perdebatan mengenai di mana saran AI harus diakhiri dan penilaian manusia harus dimulai.
Tetap Terdepan dalam AI
Untuk laporan terverifikasi tentang bagaimana AI mengubah kehidupan sehari-hari, keselamatan, dan masyarakat, ikuti AI Buzz Wire.
Baca berita AI selengkapnya →
