Tre escursionisti alle prime armi di Roseville, in California, hanno trascorso una notte bloccati nel Mud Creek Canyon sul Monte Shasta dopo aver pianificato la loro scalata con il chatbot Gemini di Google, secondo l'ufficio dello sceriffo della contea di Siskiyou. Il trio ha iniziato la salita alle 3 del mattino, ha raggiunto la vetta di 14.000 piedi alle 19, quindi ha tentato di scendere nell'oscurità prima di chiamare le autorità per indicazioni.
Il salvataggio, riportato per la prima volta dai media locali e poi coperto da Fox News, Digital Trends e altri, è diventato uno degli avvertimenti sull’IA più ampiamente condivisi dell’estate. Ci ricorda anche che gli assistenti conversazionali sono affidabili tanto quanto lo sono i presupposti di pianificazione alla loro base, qualcosa che seguiamo da vicino nella nostra copertura delle ultime notizie sull'intelligenza artificiale su come le persone utilizzano effettivamente questi strumenti in situazioni ad alto rischio.
Cosa è successo sulla montagna
Secondo l'ufficio dello sceriffo, i tre escursionisti hanno fatto molto affidamento su Gemini mentre si preparavano per il loro viaggio, trattando il chatbot come la loro principale fonte di informazioni sul percorso e sulla logistica. La prevista salita di otto ore si è protratta fino a tarda sera. Dopo essere stati in vetta alle 19:00, hanno cercato di trovare la strada verso il basso dopo il tramonto e alla fine hanno chiamato l'ufficio dello sceriffo della contea di Siskiyou durante la discesa per chiedere indicazioni.
Il gruppo ha trascorso la notte nel Mud Creek Canyon, sul lato sud-est della montagna, prima di essere estratto la mattina seguente dai ranger del Servizio forestale degli Stati Uniti e dai soccorritori volontari. Nessuno è rimasto gravemente ferito, ma la disavventura avrebbe potuto facilmente essere peggiore: le temperature notturne in quota su Shasta possono scendere bruscamente anche in estate, e il terreno del canyon non perdona chiunque senza le adeguate provviste.
Un piano costruito in otto ore
Il dettaglio più citato dell'incidente è la scoperta dell'ufficio dello sceriffo secondo cui gli escursionisti "erano stati consigliati da Gemini di portare molto meno cibo e acqua di quanto richiesto dal loro gruppo, soprattutto quando la loro salita prevista di 8 ore era diventata una dura prova di più giorni". In altre parole, il consiglio di fare le valigie del chatbot è stato calibrato sull’itinerario migliore, senza alcun margine di sicurezza per lo scenario che si è effettivamente svolto.
Gli alpinisti esperti di Shasta generalmente considerano mezzogiorno come il punto di svolta per un tentativo di vetta, proprio perché la discesa avvenga alla luce del giorno. Partire alle 3 del mattino e raggiungere il massimo sette ore dopo tale linea guida significava che il gruppo era già immerso nell'improvvisazione prima ancora che iniziasse la discesa. L'ufficio dello sceriffo ha descritto la dipendenza degli escursionisti dal chatbot come un "passo falso critico".
L'avvertimento dello sceriffo: verifica prima di andare
In seguito, l'ufficio dello sceriffo della contea di Siskiyou ha invitato chiunque stesse pianificando una scalata a Shasta a chiamare la stazione dei ranger del servizio forestale locale di Mount Shasta prima del viaggio. La guida è semplice: ottieni informazioni accurate e aggiornate da persone che conoscono la montagna e non fare affidamento esclusivamente sugli strumenti di intelligenza artificiale per la pianificazione del viaggio.
Questo consiglio è generalizzabile ben oltre il singolo vulcano. Le condizioni del percorso, le finestre meteorologiche, le fonti d'acqua e i requisiti di autorizzazione cambiano costantemente, e un chatbot che riassume con sicurezza un percorso può fondere testi di guide obsolete, post di forum e consigli generici sull'alpinismo in qualcosa che sembra autorevole ma privo di una verità attuale. Durante un'escursione, quel divario è fastidioso. Su un vulcano di 14.000 piedi, diventa una chiamata di soccorso.
Un dibattito sul ruolo dell'intelligenza artificiale nella pianificazione ad alto rischio
La reazione del pubblico all'incidente è stata mista. Alcuni commentatori hanno criticato gli escursionisti per aver esternalizzato le decisioni cruciali per la sopravvivenza a un chatbot. Altri li hanno difesi, sostenendo che l’uso dell’intelligenza artificiale per la ricerca sui viaggi è ragionevole purché i suoi risultati siano verificati in modo indipendente rispetto a fonti ufficiali, secondo quanto riportato sul salvataggio.
L’episodio rientra in uno schema più ampio che gli osservatori dell’intelligenza artificiale hanno documentato mentre gli assistenti passano dalla novità all’infrastruttura: i modelli sono sempre più sicuri, ma la fiducia non è la stessa cosa dell’accuratezza, e il costo di un errore aumenta con la posta in gioco. Nelle attività creative o a basso rischio, una risposta sbagliata costa tempo. Nell'entroterra, all'inizio di un sentiero o in un'emergenza, la stessa risposta sbagliata può mettere a rischio la vita.
Cosa significa per la pianificazione dei viaggi tramite intelligenza artificiale
Per ora, le lezioni pratiche sono poco affascinanti. Tratta i piani di viaggio AI come uno schema iniziale, non come una lista di controllo finale. Effettua un controllo incrociato dei percorsi con le stazioni ufficiali dei ranger, i servizi del parco e i rapporti di viaggio recenti. Prepara le valigie per il peggior giorno plausibile, non per quello pianificato. E stabilisci un tempo di consegna, quindi mantienilo.
Niente di tutto ciò rende strumenti come Gemini inutili per la pianificazione degli esterni. Utilizzato come assistente di ricerca che fa emergere domande da porre ai ranger, può davvero aiutare le persone a prepararsi. L'incidente di Mount Shasta è ciò che accade quando l'assistente diventa l'autorità. Il messaggio dell’ufficio dello sceriffo, e il salvataggio che lo ha provocato, saranno probabilmente citati a lungo nei dibattiti su dove dovrebbero finire i consigli sull’IA e dove dovrebbe iniziare il giudizio umano.
Stai al passo con l'intelligenza artificiale
Per rapporti verificati su come l'intelligenza artificiale sta rimodellando la vita quotidiana, la sicurezza e la società, segui AI Buzz Wire.
Leggi altre notizie sull'AI →
