По данным офиса шерифа округа Сискию, трое начинающих туристов из Розвилля, штат Калифорния, провели ночь в каньоне Мад-Крик на горе Шаста после планирования восхождения с помощью чат-бота Google Gemini. Трио начало восхождение в 3 часа ночи, достигло вершины высотой 14 000 футов в 19:00, а затем попыталось спуститься в темноте, прежде чем обратиться к властям за указаниями.
Спасение, о котором впервые сообщили местные СМИ, а затем освещали Fox News, Digital Trends и другие, стало одной из наиболее широко распространяемых предостерегающих историй об искусственном интеллекте этим летом. Это также напоминание о том, что разговорные помощники надежны настолько, насколько надежны лежащие в их основе предположения планирования, и это мы внимательно отслеживаем в наших последних новостях об искусственном интеллекте о том, как люди на самом деле используют эти инструменты в ситуациях с высокими ставками.
Что произошло на горе
По данным офиса шерифа, трое туристов во многом полагались на Gemini при подготовке к путешествию, рассматривая чат-бота как основной источник информации о маршруте и логистике. Их запланированное восьмичасовое восхождение затянулось далеко за вечер. Стоя на вершине в 19:00, они попытались спуститься после наступления темноты и в конце концов во время спуска позвонили в офис шерифа округа Сискию, чтобы спросить дорогу.
Группа провела ночь в каньоне Мад-Крик, на юго-восточном склоне горы, а на следующее утро ее извлекли рейнджеры Лесной службы США и спасатели-добровольцы. Никто серьезно не пострадал, но испытание могло быть еще хуже: ночная температура на высоте Шасты может резко упасть даже летом, а местность каньона не прощает никого, у кого нет надлежащего провианта.
План, построенный за восемь часов
Самая цитируемая деталь инцидента - это вывод офиса шерифа о том, что Близнецы посоветовали путешественникам взять с собой гораздо меньше еды и воды, чем требовалось их группе, особенно когда их запланированное 8-часовое восхождение превратилось в многодневное испытание. Другими словами, советы чат-бота по упаковке вещей были рассчитаны на лучший маршрут без каких-либо запасов прочности для реального сценария.
Опытные альпинисты Шасты обычно считают полдень поворотной точкой для попытки восхождения, именно для того, чтобы спуск происходил при дневном свете. Начало в 3 часа ночи и прохождение на семь часов позже этого ориентира означало, что группа уже погрузилась в импровизацию еще до начала спуска. Офис шерифа охарактеризовал использование туристами чат-бота как «критическую ошибку».
Предупреждение шерифа: проверьте, прежде чем идти
После этого офис шерифа округа Сискию призвал всех, кто планирует восхождение на Шаста, перед поездкой позвонить в местную станцию рейнджеров Лесной службы США на горе Шаста. Рекомендации просты: получайте точную и актуальную информацию от людей, которые знают гору, и не полагайтесь исключительно на инструменты искусственного интеллекта при планировании поездки.
Этот совет распространяется далеко за пределы одного вулкана. Условия маршрута, погодные окна, источники воды и требования к разрешениям постоянно меняются, и чат-бот, который уверенно резюмирует маршрут, может смешивать устаревший текст путеводителя, сообщения на форумах и общие советы по альпинизму во что-то, что звучит авторитетно, но не имеет актуальной информации. В походе этот разрыв раздражает. На вулкане высотой 14 000 футов это становится сигналом спасения.
Дебаты о роли ИИ в планировании важных задач
Реакция общественности на инцидент была неоднозначной. Некоторые комментаторы раскритиковали туристов за то, что они в первую очередь передали чат-боту принятие важных для выживания решений. Другие защищали их, утверждая, что использование ИИ для исследования поездки разумно, если его результаты независимо проверены официальными источниками, согласно отчетам о спасении.
Этот эпизод соответствует более широкой схеме, которую наблюдатели за искусственным интеллектом документировали по мере того, как помощники переходят от новизны к инфраструктуре: модели становятся все более уверенными, но уверенность не то же самое, что точность, и цена ошибки растет вместе с ставками. В творческих задачах или задачах с низким уровнем риска неправильный ответ стоит времени. В сельской местности, на тропе или в чрезвычайной ситуации один и тот же неправильный ответ может поставить под угрозу жизни людей.
Что это значит для планирования поездки с помощью ИИ
На данный момент практические уроки непривлекательны. Рассматривайте планы поездок с использованием ИИ как стартовую схему, а не как окончательный контрольный список. Сверьте маршруты с официальными рейнджерами, службами парков и отчетами о недавних поездках. Собирайтесь на самый худший возможный день, а не на запланированный. И создайте время выполнения работ, а затем сохраните его.
Ничто из этого не делает такие инструменты, как Gemini, бесполезными для наружного планирования. Используемый в качестве помощника по исследованиям, который задает вопросы рейнджерам, он действительно может помочь людям подготовиться. Инцидент на горе Шаста — это то, что происходит, когда помощник становится авторитетом. Послание офиса шерифа и спасение, которое его вызвало, вероятно, еще долго будут цитироваться в дебатах о том, где должны заканчиваться советы ИИ и начинаться человеческое суждение.
Будьте впереди ИИ
Чтобы ознакомиться с проверенными репортажами о том, как ИИ меняет повседневную жизнь, безопасность и общество, подписывайтесь на AI Buzz Wire.
Читать больше новостей об искусственном интеллекте →
