Tři začínající turisté z kalifornského Roseville strávili noc uvízlí v kaňonu Mud Creek na hoře Shasta poté, co si naplánovali výstup s chatbotem Gemini od Googlu, podle úřadu šerifa okresu Siskiyou. Trojice zahájila výstup ve 3 hodiny ráno, na vrchol 14 000 stop dosáhla v 19 hodin a poté se pokusila sestoupit ve tmě, než zavolala úřadům o cestu.

Záchrana, o níž jako první informovaly místní prodejny a od té doby se jí věnovaly Fox News, Digital Trends a další, se stala jedním z nejrozšířenějších varovných příběhů léta o umělé inteligenci. Je to také připomínka toho, že konverzační asistenti jsou jen tak spolehliví jako předpoklady plánování, které se za nimi skrývají, což pozorně sledujeme v našem nejnovějším zpravodajství o AI o tom, jak lidé skutečně používají tyto nástroje v situacích s vysokými sázkami.

Co se stalo na hoře

Podle kanceláře šerifa se tři turisté při přípravě na cestu silně spoléhali na Blížence a považovali chatbota za svůj primární zdroj informací o trase a logistice. Jejich plánovaný osmihodinový výstup se protáhl hluboko do večera. Poté, co stáli na vrcholu v 19 hodin, pokusili se po setmění najít cestu dolů a nakonec během sestupu zavolali na úřad šerifa okresu Siskiyou, aby se zeptali na cestu.

Skupina strávila noc v kaňonu Mud Creek na jihovýchodní straně hory, než ji následující ráno vytáhli strážci lesní správy USA a dobrovolní záchranáři. Nikdo nebyl vážně zraněn, ale utrpení mohlo být klidně i horší: noční teploty v nadmořské výšce na Shastě mohou prudce klesnout i v létě a terén kaňonu je nelítostný pro každého, kdo nemá pořádné zásoby.

Plán sestavený na osm hodin

Nejcitovanějším detailem z incidentu je zjištění úřadu šerifa, že turisté „byli Blíženci doporučeni, aby si přinesli mnohem méně jídla a vody, než jejich skupina vyžadovala, zvláště když se jejich plánovaný 8hodinový výstup stal vícedenním utrpením“. Jinými slovy, rada chatbota ohledně balení byla zkalibrována na nejlepší možný itinerář bez bezpečnostní rezervy pro scénář, který se skutečně odehrál.

Zkušení horolezci Shasta obecně považují poledne za bod obratu pro pokus o vrchol, právě proto, aby sestup proběhl za denního světla. Začátek ve 3:00 a doplnění sedm hodin po této směrnici znamenalo, že skupina byla již hluboko v improvizaci ještě předtím, než sestup vůbec začal. Kancelář šerifa popsala spoléhání se turistů na chatbota jako „kritický omyl“.

Varování šerifa: prověřte, než půjdete

V důsledku toho úřad šerifa okresu Siskiyou vyzval každého, kdo plánuje výstup na Shasta, aby před cestou zavolal na místní stanici lesních služeb USA Mount Shasta. Pokyny jsou jednoduché: získejte přesné a aktuální informace od lidí, kteří horu znají, a nespoléhejte se pouze na nástroje umělé inteligence při plánování výletů.

Tato rada zobecňuje daleko za hranicemi jedné sopky. Podmínky trasy, počasí, zdroje vody a požadavky na povolení se neustále mění a chatbot, který sebevědomě shrnuje trasu, může míchat zastaralý text v průvodci, příspěvky na fóru a obecné alpinistické rady do něčeho, co zní autoritativně, ale postrádá aktuální základní pravdu. Na túře je ta mezera otravná. Na 14 000 stop dlouhé sopce se stává záchranným voláním.

Debata o roli umělé inteligence v plánování velkých sázek

Reakce veřejnosti na incident byly smíšené. Někteří komentátoři kritizovali turisty za to, že v první řadě outsourcovali rozhodnutí kritická pro přežití chatbotovi. Jiní je bránili a tvrdili, že použití umělé inteligence pro výzkum výletů je rozumné, pokud je její výstup nezávisle ověřen proti oficiálním zdrojům, podle zpráv o záchraně.

Tato epizoda zapadá do širšího vzoru, který pozorovatelé umělé inteligence dokumentovali, když asistenti přecházeli od novinek k infrastruktuře: modely jsou stále sebevědomější, ale důvěra není totéž jako přesnost a cena chyby se rovná sázce. U kreativních nebo málo rizikových úkolů stojí špatná odpověď čas. V zapadákově, na začátku stezky nebo v případě nouze může stejná špatná odpověď ohrozit životy.

Co to znamená pro plánování výletů pomocí umělé inteligence

Praktické lekce jsou prozatím neokoukané. Plány výletů s umělou inteligencí považujte za výchozí osnovu, nikoli jako konečný kontrolní seznam. Porovnejte trasy s oficiálními stanicemi rangerů, službami parku a nedávnými zprávami o výletech. Sbalte se na nejhorší možný den, ne na ten plánovaný. A postavit v době obratu, pak si to udržet.

Nic z toho nečiní nástroje jako Gemini nepoužitelnými pro venkovní plánování. Používá se jako výzkumný asistent, který nabízí otázky ke kladení rangerů, může lidem skutečně pomoci připravit se. Incident Mount Shasta je to, co se stane, když se asistent stane autoritou. Zpráva šerifovy kanceláře a záchrana, která ji podnítila, budou pravděpodobně dlouho zmiňovány v debatách o tom, kde by měla skončit rada AI a začít lidský úsudek.

Stay Ahead of AI

Pro ověřené zprávy o tom, jak umělá inteligence přetváří každodenní život, bezpečnost a společnost, sledujte [AI Buzz Wire] (https://aibuzzwire.news).

Přečtěte si další zprávy o AI →