За даними офісу шерифа округу Сіскію, троє початківців пішоходів із Роузвілла, штат Каліфорнія, провели ніч у каньйоні Мад-Крік на горі Шаста після того, як спланували свій підйом за допомогою чат-бота Google Gemini. Трійця почала підйом о 3 ранку, досягла 14 000-футової вершини о 7 вечора, а потім спробувала спуститися в темряві, перш ніж зателефонувати владі для вказівок.
Порятунок, про який вперше повідомили місцеві ЗМІ, а потім висвітлювали Fox News, Digital Trends та інші, став однією з найбільш поширених попереджень про штучний інтелект цього літа. Це також нагадування про те, що розмовні помічники настільки надійні, наскільки надійні припущення щодо планування, які стоять за ними. Ми уважно відстежуємо це в наших останніх новинах про штучний інтелект про те, як люди насправді використовують ці інструменти в ситуаціях з високими ставками.
Що сталося на горі
За словами офісу шерифа, троє туристів значною мірою покладалися на Gemini під час підготовки до своєї подорожі, вважаючи чат-бота основним джерелом інформації про маршрут і логістику. Їхній запланований восьмигодинний підйом розтягнувся далеко до вечора. Після того, як вони стояли на вершині о 7 годині вечора, вони намагалися знайти дорогу вниз після настання темряви та зрештою подзвонили в офіс шерифа округу Сіскію під час спуску, щоб запитати дорогу.
Група провела ніч у каньйоні Мад-Крік, на південно-східному схилі гори, перш ніж наступного ранку їх витягли рейнджери Лісової служби США та волонтери-рятувальники. Ніхто серйозно не постраждав, але випробування могли бути ще гіршими: нічна температура на висоті Шаста може різко впасти навіть влітку, а місцевість каньйону невблаганна для тих, хто не має належних продуктів.
План, побудований на вісім годин
Найбільш згадувана деталь інциденту – це висновок офісу шерифа про те, що Близнюки порадили туристам взяти з собою набагато менше їжі та води, ніж потрібно їхній групі, особливо коли їхній запланований 8-годинний підйом перетворився на багатоденне випробування. Іншими словами, поради чат-бота щодо упаковки були відкалібровані відповідно до найкращого маршруту без запасу безпеки для сценарію, який насправді розгортався.
Досвідчені альпіністи Шаста зазвичай розглядають полудень як точку повороту для спроби піднятися на вершину, саме тому, щоб спуск відбувався вдень. Початок о 3 годині ранку і 7 годин після цього орієнтиру означало, що група вже поринула в імпровізацію ще до початку спуску. Офіс шерифа назвав довіру туристів до чат-бота «критичною помилкою».
Попередження шерифа: перевірте, перш ніж їхати
Згодом офіс шерифа округу Сіскію закликав усіх, хто планує піднятися на Шасту, перед поїздкою зателефонувати до місцевої лісової служби США. Інструкція проста: отримуйте точну актуальну інформацію від людей, які знаються на горах, і не покладайтеся лише на інструменти ШІ для планування подорожі.
Ця порада поширюється далеко за межі одного вулкана. Умови маршруту, вікна погоди, джерела води та вимоги до дозволів постійно змінюються, і чат-бот, який впевнено підсумовує маршрут, може поєднувати застарілий текст путівника, повідомлення на форумі та загальні поради з альпінізму в щось, що звучить авторитетно, але не має актуальної правди. У поході ця щілина дратує. На вулкані висотою 14 000 футів це стає викликом порятунку.
Дебати щодо ролі штучного інтелекту в плануванні високих ставок
Громадська реакція на інцидент неоднозначна. Деякі коментатори критикували туристів за те, що вони передали критично важливі для виживання рішення чат-боту. Інші захищали їх, стверджуючи, що використання штучного інтелекту для дослідження подорожей є доцільним, якщо його результати незалежно перевіряються з офіційних джерел, згідно зі звітами про порятунок.
Цей епізод відповідає ширшій моделі, яку спостерігачі ШІ задокументували, коли помічники переходили від новизни до інфраструктури: моделі стають дедалі впевненішими, але впевненість — це не те саме, що точність, і ціна помилки зростає зі ставками. У творчих завданнях або завданнях з низьким ризиком неправильна відповідь вимагає часу. У глухій місцевості, на початку дороги чи в екстреній ситуації та сама неправильна відповідь може поставити під загрозу життя.
Що це означає для планування поїздок AI
Поки що практичні заняття негламурні. Розглядайте плани подорожей зі штучним інтелектом як початковий план, а не як остаточний контрольний список. Перевірте маршрути з офіційними станціями рейнджерів, службами парку та останніми звітами про поїздки. Пакуйтеся на найгірший день, а не на запланований. І встановіть час виконання, а потім збережіть його.
Усе це не робить такі інструменти, як Gemini, марними для зовнішнього планування. Використовується як помічник у дослідженні, який висвітлює питання, які можна поставити рейнджерам, він може справді допомогти людям підготуватися. Інцидент на горі Шаста – це те, що відбувається, коли помічник стає авторитетом. Повідомлення офісу шерифа та порятунок, який його спонукав, ймовірно, ще довго згадуватимуть у дебатах про те, де має закінчитися порада штучного інтелекту та початися людський суд.
Будьте попереду ШІ
Щоб отримати перевірені звіти про те, як ШІ змінює повсякденне життя, безпеку та суспільство, читайте [AI Buzz Wire] (https://aibuzzwire.news).
Читати більше новин AI →
