Według biura szeryfa hrabstwa Siskiyou trzech początkujących turystów z Roseville w Kalifornii spędziło noc w kanionie Mud Creek na górze Shasta po zaplanowaniu wspinaczki za pomocą chatbota Google Gemini. Trio rozpoczęło wspinaczkę o 3 rano, dotarło na szczyt o 14 000 stóp o 19:00, a następnie próbowało zejść w ciemności, zanim wezwało władze o wskazówki.
Akcja ratunkowa, o której po raz pierwszy poinformowały lokalne media, a od tego czasu została opisana przez Fox News, Digital Trends i inne, stała się jednym z najczęściej rozpowszechnianych tego lata ostrzeżeń dotyczących sztucznej inteligencji. Przypomina to również, że asystenci konwersacyjni są na tyle niezawodni, jak założenia planowania, które za nimi stoją, co szczegółowo śledzimy w naszych najświeższych wiadomościach dotyczących sztucznej inteligencji, pokazujących, jak ludzie faktycznie korzystają z tych narzędzi w sytuacjach, w których stawka jest wysoka.
Co się wydarzyło w górach
Według biura szeryfa trzej wędrowcy w dużym stopniu polegali na Gemini podczas przygotowań do podróży, traktując chatbota jako główne źródło informacji o trasie i logistyce. Ich planowana ośmiogodzinna wspinaczka trwała do późnego wieczora. Po wejściu na szczyt o godzinie 19:00 próbowali znaleźć drogę w dół po zapadnięciu zmroku i ostatecznie podczas zejścia zadzwonili do biura szeryfa hrabstwa Siskiyou, aby zapytać o drogę.
Grupa spędziła noc w kanionie Mud Creek, po południowo-wschodniej stronie góry, po czym następnego ranka została wydobyta przez strażników amerykańskiej służby leśnej i ochotniczych ratowników. Nikt nie odniósł poważnych obrażeń, ale sytuacja mogła być gorsza: w nocy temperatury na wysokości Shasta mogą gwałtownie spaść nawet w lecie, a teren kanionu jest bezlitosny dla każdego, kto nie zaopatrzy się w odpowiednie środki ostrożności.
Plan zbudowany na osiem godzin
Najczęściej przytaczanym szczegółem zdarzenia jest ustalenie biura szeryfa, że wędrowcy „Bliźnięta doradziły turystom, aby zabrali ze sobą znacznie mniej jedzenia i wody, niż wymagała ich grupa, zwłaszcza gdy planowana 8-godzinna wspinaczka stała się wielodniową męką”. Innymi słowy, zalecenia chatbota dotyczące pakowania zostały dostosowane do planu podróży w najlepszym przypadku, bez marginesu bezpieczeństwa dla scenariusza, który faktycznie miał miejsce.
Doświadczeni wspinacze Shasta zazwyczaj traktują południe jako punkt zwrotny przed próbą zdobycia szczytu, właśnie po to, aby zejście odbywało się w świetle dziennym. Rozpoczęcie o 3 nad ranem i zakończenie lotu siedem godzin po upływie tych wytycznych oznaczało, że grupa była już pogrążona w improwizacji, zanim w ogóle rozpoczęło się zejście. Biuro szeryfa określiło poleganie pieszych na chatbocie jako „krytyczny błąd”.
Ostrzeżenie szeryfa: sprawdź przed wyjazdem
W następstwie tego biuro szeryfa hrabstwa Siskiyou wezwało każdego, kto planuje wspinaczkę na Shasta, aby przed wyprawą zadzwonił do lokalnej stacji strażników amerykańskiej służby leśnej na Mount Shasta. Wskazówka jest prosta: uzyskaj dokładne, aktualne informacje od osób, które znają góry i nie polegaj wyłącznie na narzędziach AI przy planowaniu podróży.
Ta rada ma zasięg wykraczający poza jeden wulkan. Warunki na trasie, okna pogodowe, źródła wody i wymagania dotyczące pozwoleń stale się zmieniają, a chatbot, który pewnie podsumowuje trasę, może łączyć nieaktualny tekst przewodnika, posty na forach i ogólne porady dotyczące alpinizmu w coś, co brzmi wiarygodnie, ale brakuje mu aktualnej prawdy. Na wędrówce ta przerwa jest irytująca. Na wulkanie o wysokości 5000 metrów staje się to wezwaniem ratunkowym.
Debata na temat roli sztucznej inteligencji w planowaniu o wysoką stawkę
Reakcja opinii publicznej na incydent była mieszana. Niektórzy komentatorzy krytykowali turystów za zlecanie decyzji kluczowych dla przetrwania chatbotowi. Inni ich bronili, argumentując, że wykorzystanie sztucznej inteligencji do badań nad podróżami jest rozsądne, o ile jej wyniki zostaną niezależnie zweryfikowane w oparciu o oficjalne źródła – wynika z doniesień o akcji ratunkowej.
Odcinek wpisuje się w szerszy schemat dokumentowany przez obserwatorów sztucznej inteligencji, gdy asystenci przechodzą od nowości do infrastruktury: modele są coraz bardziej pewne, ale pewność to nie to samo, co dokładność, a koszt błędu rośnie wraz ze stawką. W zadaniach kreatywnych lub o niskim ryzyku zła odpowiedź kosztuje czas. Na backcountry, na początku szlaku lub w sytuacji awaryjnej ta sama zła odpowiedź może narazić życie na ryzyko.
Co to oznacza dla planowania podróży AI
Na razie zajęcia praktyczne nie są efektowne. Traktuj plany podróży AI jako zarys początkowy, a nie ostateczną listę kontrolną. Porównaj trasy z oficjalnymi stacjami strażników, usługami parkowymi i najnowszymi raportami z podróży. Spakuj się na najgorszy możliwy dzień, a nie ten planowany. Buduj w krótkim czasie, a następnie go utrzymuj.
Nic z tego nie sprawia, że narzędzia takie jak Gemini są bezużyteczne do planowania na zewnątrz. Używany jako asystent badawczy, który generuje pytania do strażników, może naprawdę pomóc ludziom się przygotować. Incydent w Mount Shasta ma miejsce, gdy asystent staje się autorytetem. Przesłanie biura szeryfa i akcja ratunkowa, która do niego doprowadziła, będą prawdopodobnie przez długi czas cytowane w debatach na temat tego, gdzie powinny kończyć się porady AI, a zaczynać ludzki osąd.
Wyprzedź sztuczną inteligencję
Aby uzyskać zweryfikowane raporty na temat tego, jak sztuczna inteligencja zmienia życie codzienne, bezpieczeństwo i społeczeństwo, śledź AI Buzz Wire.
Przeczytaj więcej aktualności o sztucznej inteligencji →
