Trois randonneurs débutants de Roseville, en Californie, ont passé une nuit bloqués dans Mud Creek Canyon sur le mont Shasta après avoir planifié leur ascension avec le chatbot Gemini de Google, selon le bureau du shérif du comté de Siskiyou. Le trio a commencé son ascension à 3 heures du matin, a atteint le sommet de 14 000 pieds à 19 heures, puis a tenté de descendre dans l'obscurité avant d'appeler les autorités pour obtenir des instructions.
Le sauvetage, rapporté pour la première fois par les médias locaux et depuis couvert par Fox News, Digital Trends et d’autres, est devenu l’un des récits édifiants sur l’IA les plus largement partagés de l’été. Cela nous rappelle également que les assistants conversationnels sont aussi fiables que les hypothèses de planification qui les sous-tendent, ce que nous suivons de près dans notre couverture de l'actualité de l'IA sur la façon dont les gens utilisent réellement ces outils dans des situations à enjeux élevés.
Que s'est-il passé sur la montagne
Selon le bureau du shérif, les trois randonneurs se sont fortement appuyés sur Gemini pour préparer leur voyage, considérant le chatbot comme leur principale source d'informations sur l'itinéraire et la logistique. Leur ascension prévue de huit heures s'est prolongée jusque tard dans la soirée. Après avoir atteint le sommet à 19 heures, ils ont tenté de retrouver leur chemin après la tombée de la nuit et ont finalement appelé le bureau du shérif du comté de Siskiyou pendant la descente pour demander leur chemin.
Le groupe a passé la nuit dans le Mud Creek Canyon, sur le versant sud-est de la montagne, avant d'être extrait le lendemain matin par des gardes du Service forestier américain et des sauveteurs bénévoles. Personne n'a été gravement blessé, mais l'épreuve aurait facilement pu être pire : les températures nocturnes en altitude sur Shasta peuvent chuter fortement même en été, et le terrain du canyon est impitoyable pour quiconque ne dispose pas des provisions appropriées.
Un plan construit sur huit heures
Le détail le plus cité de l'incident est la découverte du bureau du shérif selon laquelle Gemini a conseillé aux randonneurs "d'apporter beaucoup moins de nourriture et d'eau que ce dont leur groupe avait besoin, en particulier lorsque leur ascension prévue de 8 heures est devenue une épreuve de plusieurs jours". En d’autres termes, les conseils d’emballage du chatbot ont été calibrés sur un itinéraire optimal, sans aucune marge de sécurité pour le scénario qui s’est réellement déroulé.
Les grimpeurs expérimentés du Shasta considèrent généralement midi comme le point de retournement pour une tentative de sommet, précisément pour que la descente se fasse à la lumière du jour. Commençant à 3 heures du matin et dépassant sept heures cette limite, le groupe était déjà plongé dans l'improvisation avant même le début de la descente. Le bureau du shérif a décrit la dépendance des randonneurs à l'égard du chatbot comme un « faux pas critique ».
L'avertissement du shérif : vérifiez avant de partir
Par la suite, le bureau du shérif du comté de Siskiyou a exhorté toute personne planifiant une ascension de Shasta à appeler le poste local de garde forestier du service forestier américain du mont Shasta avant son voyage. Le conseil est simple : obtenez des informations précises et actuelles auprès de personnes qui connaissent la montagne et ne comptez pas uniquement sur les outils d’IA pour planifier votre voyage.
Ce conseil se généralise bien au-delà d’un seul volcan. Les conditions d'itinéraire, les fenêtres météorologiques, les sources d'eau et les exigences en matière de permis changent constamment, et un chatbot qui résume un itinéraire avec assurance peut mélanger des textes de guide obsolètes, des messages de forum et des conseils génériques sur l'alpinisme en quelque chose qui semble faire autorité mais qui manque de vérité terrain actuelle. En randonnée, cet écart est ennuyeux. Sur un volcan de 14 000 pieds, cela devient un appel de secours.
Un débat sur le rôle de l'IA dans la planification aux enjeux élevés
La réaction du public à l'incident a été mitigée. Certains commentateurs ont critiqué les randonneurs pour avoir confié en premier lieu les décisions critiques à leur survie à un chatbot. D'autres les ont défendus, arguant que l'utilisation de l'IA pour la recherche sur les voyages est raisonnable tant que ses résultats sont vérifiés de manière indépendante par rapport à des sources officielles, selon les reportages sur le sauvetage.
L’épisode s’inscrit dans un schéma plus large que les observateurs de l’IA ont documenté à mesure que les assistants passent de la nouveauté à l’infrastructure : les modèles sont de plus en plus confiants, mais la confiance n’est pas la même chose que l’exactitude, et le coût d’une erreur évolue avec les enjeux. Dans les tâches créatives ou à faible risque, une mauvaise réponse coûte du temps. Dans l’arrière-pays, au début d’un sentier ou en cas d’urgence, la même mauvaise réponse peut mettre des vies en danger.
Ce que cela signifie pour la planification de voyages par l'IA
Pour l’instant, les cours pratiques sont peu glamour. Considérez les plans de voyage de l'IA comme un aperçu de départ et non comme une liste de contrôle finale. Vérifiez les itinéraires avec les postes de gardes forestiers officiels, les services du parc et les rapports de voyage récents. Préparez-vous au pire jour plausible, pas à celui prévu. Et prévoyez un délai d’exécution, puis conservez-le.
Rien de tout cela ne rend des outils comme Gemini inutiles pour la planification extérieure. Utilisé comme assistant de recherche qui soulève des questions à poser aux rangers, il peut véritablement aider les gens à se préparer. L'incident du mont Shasta est ce qui se produit lorsque l'assistant devient l'autorité. Le message du bureau du shérif et le sauvetage qui l'a motivé seront probablement cités pendant longtemps dans les débats sur la question de savoir où doivent s'arrêter les conseils de l'IA et où doit commencer le jugement humain.
Gardez une longueur d'avance sur l'IA
Pour des reportages vérifiés sur la façon dont l'IA remodèle la vie quotidienne, la sécurité et la société, suivez AI Buzz Wire.
Lire plus d'actualités sur l'IA →
