Theo Văn phòng Cảnh sát trưởng Hạt Siskiyou, ba người mới đi bộ đường dài đến từ Roseville, California, đã trải qua một đêm mắc kẹt ở Hẻm núi Mud Creek trên Núi Shasta sau khi lên kế hoạch leo núi bằng chatbot Gemini của Google. Bộ ba bắt đầu đi lên lúc 3 giờ sáng, lên đến đỉnh cao 14.000 feet lúc 7 giờ tối, và sau đó cố gắng đi xuống trong bóng tối trước khi gọi điện cho chính quyền để được hướng dẫn.

Cuộc giải cứu, lần đầu tiên được đưa tin bởi các cơ quan truyền thông địa phương và kể từ khi được Fox News, Digital Trends và các hãng khác đưa tin, đã trở thành một trong những câu chuyện cảnh báo về AI được chia sẻ rộng rãi nhất trong mùa hè. Đó cũng là một lời nhắc nhở rằng trợ lý đàm thoại chỉ đáng tin cậy khi các giả định lập kế hoạch đằng sau chúng, điều mà chúng tôi theo dõi chặt chẽ trong các tin tức nóng hổi về AI về cách mọi người thực sự sử dụng những công cụ này trong các tình huống nguy hiểm.

Chuyện gì đã xảy ra trên núi

Theo văn phòng cảnh sát trưởng, ba người đi bộ đường dài phụ thuộc rất nhiều vào Gemini trong khi chuẩn bị cho chuyến hành trình của họ, coi chatbot là nguồn cung cấp thông tin chính về tuyến đường và hậu cần. Chuyến leo núi kéo dài tám giờ theo kế hoạch của họ kéo dài đến tận buổi tối. Sau khi đứng trên đỉnh núi lúc 7 giờ tối, họ cố gắng tìm đường xuống sau khi màn đêm buông xuống và cuối cùng đã gọi đến Văn phòng Cảnh sát trưởng Quận Siskiyou trong quá trình xuống dốc để hỏi đường.

Cả nhóm đã qua đêm ở Mud Creek Canyon, ở phía đông nam của ngọn núi, trước khi được lực lượng kiểm lâm Hoa Kỳ và lực lượng cứu hộ tình nguyện giải cứu vào sáng hôm sau. Không ai bị thương nặng, nhưng thử thách có thể dễ dàng tồi tệ hơn: nhiệt độ qua đêm ở độ cao trên Shasta có thể giảm mạnh ngay cả trong mùa hè và địa hình hẻm núi là không thể tha thứ cho bất kỳ ai nếu không có sự chuẩn bị thích hợp.

Một kế hoạch được xây dựng trong tám giờ

Chi tiết được trích dẫn nhiều nhất từ ​​vụ việc là văn phòng cảnh sát trưởng phát hiện ra rằng những người đi bộ đường dài "được Gemini khuyên nên mang theo ít thức ăn và nước uống hơn nhiều so với yêu cầu của nhóm họ, đặc biệt khi chuyến leo núi 8 giờ theo kế hoạch của họ trở thành một thử thách kéo dài nhiều ngày." Nói cách khác, lời khuyên đóng gói của chatbot đã được điều chỉnh cho phù hợp với hành trình tốt nhất, không có giới hạn an toàn cho tình huống thực sự diễn ra.

Những người leo núi Shasta có kinh nghiệm thường coi giữa trưa là thời điểm quay vòng cho nỗ lực lên đỉnh, chính xác là vì vậy việc xuống dốc diễn ra vào ban ngày. Bắt đầu lúc 3 giờ sáng và kết thúc quá bảy giờ so với hướng dẫn đó có nghĩa là cả nhóm đã chìm sâu vào khả năng ứng biến trước khi cuộc xuống dốc bắt đầu. Văn phòng cảnh sát trưởng mô tả việc người đi bộ phụ thuộc vào chatbot là một “sai lầm nghiêm trọng”.

Cảnh sát trưởng cảnh báo: hãy xác minh trước khi đi

Sau đó, Văn phòng Cảnh sát trưởng Quận Siskiyou kêu gọi bất kỳ ai lên kế hoạch leo núi Shasta hãy gọi cho trạm kiểm lâm Mount Shasta của Sở Lâm nghiệp Hoa Kỳ tại địa phương trước chuyến đi của họ. Hướng dẫn rất đơn giản: nhận thông tin chính xác, cập nhật từ những người hiểu biết về ngọn núi và không chỉ dựa vào các công cụ AI để lập kế hoạch chuyến đi.

Lời khuyên đó có tính tổng quát vượt ra ngoài phạm vi một ngọn núi lửa. Điều kiện tuyến đường, thời tiết, nguồn nước và các yêu cầu về giấy phép thay đổi liên tục và một chatbot tự tin tóm tắt tuyến đường có thể đang kết hợp văn bản sách hướng dẫn lỗi thời, bài đăng trên diễn đàn và lời khuyên chung về môn leo núi thành một nội dung nghe có vẻ có thẩm quyền nhưng lại thiếu sự thật cơ bản hiện tại. Khi đi bộ đường dài, khoảng cách đó thật khó chịu. Trên ngọn núi lửa cao 14.000 foot, nó trở thành lời kêu cứu.

Cuộc tranh luận về vai trò của AI trong việc lập kế hoạch mang tính rủi ro cao

Phản ứng của công chúng đối với vụ việc là trái chiều. Một số nhà bình luận đã chỉ trích những người đi bộ đường dài đã giao các quyết định quan trọng cho sự sống còn của một chatbot ngay từ đầu. Theo báo cáo về cuộc giải cứu, những người khác bảo vệ họ, cho rằng việc sử dụng AI để nghiên cứu chuyến đi là hợp lý miễn là kết quả đầu ra của nó được xác minh độc lập với các nguồn chính thức.

Tình tiết này phù hợp với một mô hình rộng hơn mà những người theo dõi AI đã ghi lại khi trợ lý chuyển từ tính mới sang cơ sở hạ tầng: các mô hình ngày càng tự tin, nhưng độ tin cậy không đồng nghĩa với độ chính xác và chi phí của một sai sót sẽ tăng theo mức độ đặt cược. Trong những nhiệm vụ sáng tạo hoặc ít rủi ro, một câu trả lời sai sẽ tốn thời gian. Ở vùng hẻo lánh, trên đường mòn hoặc trong trường hợp khẩn cấp, cùng một câu trả lời sai có thể khiến tính mạng gặp nguy hiểm.

Ý nghĩa của việc lập kế hoạch chuyến đi bằng AI

Hiện tại, những bài học thực tế còn chưa hấp dẫn. Hãy coi kế hoạch chuyến đi bằng AI như một bản phác thảo khởi đầu chứ không phải là danh sách kiểm tra cuối cùng. Kiểm tra chéo các tuyến đường với các trạm kiểm lâm chính thức, dịch vụ công viên và các báo cáo chuyến đi gần đây. Hãy chuẩn bị hành lý cho ngày tồi tệ nhất chứ không phải ngày đã được lên kế hoạch. Và xây dựng trong một thời gian quay vòng, sau đó giữ nó.

Không điều nào trong số đó khiến các công cụ như Gemini trở nên vô dụng trong việc lập kế hoạch ngoài trời. Được sử dụng như một trợ lý nghiên cứu để đưa ra các câu hỏi để hỏi kiểm lâm viên, nó thực sự có thể giúp mọi người chuẩn bị. Sự cố Mount Shasta là chuyện xảy ra khi người trợ lý trở thành người có thẩm quyền. Thông điệp của văn phòng cảnh sát trưởng và cuộc giải cứu đã thúc đẩy nó có thể sẽ được trích dẫn trong một thời gian dài trong các cuộc tranh luận về việc lời khuyên của AI nên kết thúc ở đâu và sự phán xét của con người nên bắt đầu ở đâu.

Đi trước AI

Để biết báo cáo đã được xác minh về cách AI đang định hình lại cuộc sống hàng ngày, sự an toàn và xã hội, hãy theo dõi AI Buzz Wire.

Đọc thêm tin tức về AI →