Siskiyou İlçesi Şerif Ofisi'ne göre, Roseville, California'dan üç acemi yürüyüşçü, Google'ın Gemini chatbot'u ile tırmanışlarını planladıktan sonra Shasta Dağı'ndaki Mud Creek Kanyonu'nda bir geceyi mahsur kaldı. Üçlü tırmanışa sabah saat 3'te başladı, akşam 7'de 14.000 metrelik zirveye ulaştı ve ardından yetkililere talimat çağırmadan önce karanlıkta inmeye çalıştı.
İlk olarak yerel medya tarafından haber yapılan ve o zamandan beri Fox News, Digital Trends ve diğerleri tarafından haber yapılan kurtarma, yazın en çok paylaşılan yapay zeka uyarıcı hikayelerinden biri haline geldi. Bu aynı zamanda konuşma asistanlarının yalnızca arkalarındaki planlama varsayımları kadar güvenilir olduğunu da hatırlatır; bu, insanların bu araçları yüksek riskli durumlarda gerçekte nasıl kullandıklarına ilişkin son dakika yapay zeka haberlerimizde yakından takip ettiğimiz bir şeydir.
Dağda ne oldu
Şerifin ofisine göre, üç yürüyüşçü yolculuklarına hazırlanırken ağırlıklı olarak Gemini'ye güvendiler ve chatbot'u rota ve lojistik bilgilerinin ana kaynağı olarak gördüler. Planladıkları sekiz saatlik tırmanış akşama kadar sürdü. Akşam 7'de zirvede durduktan sonra, akşam karanlığında aşağıya doğru yollarını bulmaya çalıştılar ve sonunda iniş sırasında yol tarifi istemek için Siskiyou İlçesi Şerif Ofisini aradılar.
Grup, ertesi sabah ABD Orman Hizmetleri korucuları ve gönüllü kurtarıcılar tarafından kurtarılmadan önce geceyi dağın güneydoğu tarafındaki Mud Creek Kanyonu'nda geçirdi. Kimse ciddi şekilde yaralanmadı, ancak durum daha da kötü olabilirdi: Shasta'da geceleri sıcaklıklar yazın bile keskin bir şekilde düşebilir ve kanyonun arazisi uygun erzak olmayanlar için affetmez.
Sekiz saatlik bir plan
Olayla ilgili en çok alıntı yapılan ayrıntı, şerifin ofisinin "İkizler tarafından yürüyüşçülere, özellikle de planlanan 8 saatlik tırmanışları çok günlük bir çile haline geldiğinde, gruplarının ihtiyaç duyduğundan çok daha az yiyecek ve su getirmeleri tavsiye edildiği" yönündeki bulgusudur. Başka bir deyişle, sohbet robotunun paketleme tavsiyesi, gerçekte ortaya çıkan senaryo için hiçbir güvenlik marjı olmaksızın en iyi senaryoya göre ayarlandı.
Deneyimli Shasta dağcıları genellikle zirve girişimi için öğle vaktini dönüş noktası olarak görürler, böylece iniş gün ışığında gerçekleşir. Sabah saat 3'te başlayıp bu kılavuzun üzerinden yedi saat geçmesi, grubun iniş başlamadan önce zaten doğaçlamanın derinliklerine indiği anlamına geliyordu. Şerifin ofisi yürüyüşçülerin chatbot'a güvenmelerini "kritik bir yanlış adım" olarak nitelendirdi.
Şerifin uyarısı: Gitmeden önce doğrulayın
Sonrasında, Siskiyou İlçesi Şerif Ofisi, Shasta tırmanışı planlayan herkesi yolculuktan önce yerel ABD Orman Hizmetleri Mount Shasta korucu istasyonunu aramaya çağırdı. Yönerge basittir: Dağı bilen kişilerden doğru ve güncel bilgiler alın ve gezi planlaması için yalnızca yapay zeka araçlarına güvenmeyin.
Bu tavsiye bir volkanın çok ötesinde genelleşiyor. Rota koşulları, hava durumu pencereleri, su kaynakları ve izin gereklilikleri sürekli olarak değişir ve bir rotayı güvenle özetleyen bir sohbet robotu, güncel olmayan rehber metinlerini, forum gönderilerini ve genel dağcılık tavsiyelerini güvenilir görünen ancak güncel bir temel gerçeğe sahip olmayan bir şeyle harmanlıyor olabilir. Yürüyüşte bu boşluk can sıkıcıdır. 14.000 metrelik bir yanardağda bu bir kurtarma çağrısına dönüşür.
Yüksek riskli planlamada yapay zekanın rolü üzerine bir tartışma
Olaya halkın tepkisi karışık oldu. Bazı yorumcular yürüyüşçüleri, hayatta kalma açısından kritik kararları ilk etapta bir chatbot'a devrettikleri için eleştirdi. Kurtarmayla ilgili raporlara göre, çıktıları resmi kaynaklara göre bağımsız olarak doğrulandığı sürece gezi araştırması için yapay zekanın kullanılmasının makul olduğunu savunan diğerleri onları savundu.
Bu bölüm, asistanlar yenilikten altyapıya geçerken, yapay zeka gözlemcilerinin belgelediği daha geniş bir kalıba uyuyor: modeller giderek daha güvenli hale geliyor, ancak güven doğrulukla aynı şey değil ve bir hatanın maliyeti, risklerle birlikte artıyor. Yaratıcı veya düşük riskli görevlerde yanlış cevap zaman kaybına neden olur. Kırsal kesimde, bir patika yolunda veya acil bir durumda, aynı yanlış cevap hayatları riske atabilir.
Yapay zeka seyahat planlaması için ne anlama geliyor?
Şimdilik pratik dersler pek iç açıcı değil. Yapay zeka seyahat planlarına son bir kontrol listesi olarak değil, bir başlangıç taslağı olarak davranın. Rotaları resmi korucu istasyonları, park hizmetleri ve son gezi raporlarıyla karşılaştırın. Planlanan gün için değil, mümkün olan en kötü gün için hazırlanın. Ve bir geri dönüş süresi oluşturun ve bunu koruyun.
Bunların hiçbiri Gemini gibi araçları dış mekan planlamasında işe yaramaz hale getirmiyor. Koruculara sorulacak soruları ortaya çıkaran bir araştırma asistanı olarak kullanıldığında, insanların hazırlanmasına gerçekten yardımcı olabilir. Shasta Dağı olayı, asistanın otorite haline gelmesiyle yaşanan olaydır. Şerif'in ofis mesajı ve onu tetikleyen kurtarma operasyonu, yapay zeka tavsiyelerinin nerede bitip insan muhakemesinin nerede başlaması gerektiği konusundaki tartışmalarda muhtemelen uzun süre alıntılanacak.
Yapay Zekanın Önünde Olun
Yapay zekanın günlük yaşamı, güvenliği ve toplumu nasıl yeniden şekillendirdiğine ilişkin doğrulanmış raporlar için AI Buzz Wire adresini takip edin.
Daha fazla AI haberini okuyun →
