قضى ثلاثة من المتنزهين المبتدئين من روزفيل، كاليفورنيا، ليلة تقطعت بهم السبل في Mud Creek Canyon على جبل شاستا بعد التخطيط للتسلق باستخدام برنامج Gemini chatbot من Google، وفقًا لمكتب عمدة مقاطعة Siskiyou. بدأ الثلاثي صعودهم في الساعة 3 صباحًا، ووصلوا إلى القمة التي يبلغ ارتفاعها 14000 قدم في الساعة 7 مساءً، ثم حاولوا النزول في الظلام قبل الاتصال بالسلطات للحصول على الاتجاهات.
أصبحت عملية الإنقاذ، التي تم الإبلاغ عنها لأول مرة من قبل وسائل الإعلام المحلية ثم غطتها فوكس نيوز وديجيتال تريندز وغيرها، واحدة من أكثر الحكايات التحذيرية المتعلقة بالذكاء الاصطناعي انتشارًا في الصيف. إنه أيضًا تذكير بأن مساعدي المحادثة لا يمكن الاعتماد عليهم إلا بقدر موثوقية افتراضات التخطيط التي تقف وراءهم، وهو أمر نتتبعه عن كثب في تغطيتنا الإخبارية العاجلة للذكاء الاصطناعي حول كيفية استخدام الأشخاص لهذه الأدوات فعليًا في المواقف عالية المخاطر.
ماذا حدث على الجبل
وفقًا لمكتب الشريف، اعتمد المتنزهون الثلاثة بشكل كبير على جيميني أثناء الاستعداد لرحلتهم، حيث تعاملوا مع برنامج الدردشة الآلي باعتباره المصدر الرئيسي لمعلومات الطريق والمعلومات اللوجستية. امتد صعودهم المخطط له لمدة ثماني ساعات حتى المساء. بعد الوقوف على القمة في الساعة 7 مساءً، حاولوا إيجاد طريقهم إلى الأسفل بعد حلول الظلام واتصلوا في النهاية بمكتب عمدة مقاطعة سيسكيو أثناء الهبوط للسؤال عن الاتجاهات.
وأمضت المجموعة الليلة في مود كريك كانيون، على الجانب الجنوبي الشرقي من الجبل، قبل أن يتم انتشالهم في صباح اليوم التالي من قبل حراس خدمة الغابات الأمريكية وعمال الإنقاذ المتطوعين. لم يصب أحد بجروح خطيرة، ولكن كان من الممكن أن تكون المحنة أسوأ من ذلك: فدرجات الحرارة أثناء الليل على ارتفاع شاستا يمكن أن تنخفض بشكل حاد حتى في الصيف، كما أن تضاريس الوادي لا ترحم أي شخص بدون التدابير المناسبة.
خطة مصممة لمدة ثماني ساعات
أكثر التفاصيل التي تم الاستشهاد بها من الحادث هي أن مكتب الشريف وجد أن المتنزهين "نصحهم الجوزاء بإحضار كمية من الطعام والماء أقل بكثير مما تطلبه مجموعتهم، خاصة عندما أصبح صعودهم المخطط له لمدة 8 ساعات محنة لعدة أيام." بمعنى آخر، تمت معايرة نصيحة التعبئة الخاصة بروبوت الدردشة وفقًا لأفضل مسار للرحلة، مع عدم وجود هامش أمان للسيناريو الذي تم الكشف عنه بالفعل.
يتعامل المتسلقون ذوو الخبرة في شاستا بشكل عام مع منتصف النهار باعتباره نقطة التحول لمحاولة القمة، وذلك على وجه التحديد بحيث يحدث النزول في وضح النهار. بدءًا من الساعة الثالثة صباحًا وتجاوز هذا المبدأ التوجيهي بسبع ساعات يعني أن المجموعة كانت بالفعل في حالة من الارتجال قبل أن يبدأ الهبوط. ووصف مكتب الشريف اعتماد المتنزهين على برنامج الدردشة الآلي بأنه "خطأ فادح".
تحذير المأمور: تحقق قبل أن تذهب
في أعقاب ذلك، حث مكتب عمدة مقاطعة سيسكيو أي شخص يخطط لتسلق جبل شاستا على الاتصال بمحطة حارس جبل شاستا المحلية التابعة لخدمة الغابات الأمريكية قبل رحلته. التوجيه بسيط: احصل على معلومات دقيقة وحديثة من الأشخاص الذين يعرفون الجبل، ولا تعتمد فقط على أدوات الذكاء الاصطناعي لتخطيط الرحلة.
وتعمم هذه النصيحة إلى ما هو أبعد من بركان واحد. تتغير ظروف الطريق ونوافذ الطقس ومصادر المياه ومتطلبات التصاريح باستمرار، وقد يقوم برنامج الدردشة الآلي الذي يلخص المسار بثقة بمزج نص دليل قديم ومنشورات المنتدى ونصائح عامة حول تسلق الجبال في شيء يبدو موثوقًا ولكنه يفتقر إلى الحقيقة الأساسية الحالية. أثناء التنزه، هذه الفجوة مزعجة. على بركان يبلغ ارتفاعه 14000 قدم، يتحول إلى نداء إنقاذ.
نقاش حول دور الذكاء الاصطناعي في التخطيط عالي المخاطر
كان رد الفعل العام على الحادث مختلطًا. انتقد بعض المعلقين المتنزهين بسبب الاستعانة بمصادر خارجية لاتخاذ القرارات الحاسمة للبقاء على برنامج الدردشة الآلي في المقام الأول. ودافع آخرون عنهم، قائلين إن استخدام الذكاء الاصطناعي في أبحاث الرحلات أمر معقول طالما تم التحقق من نتائجه بشكل مستقل مقابل مصادر رسمية، وفقًا لتقارير عملية الإنقاذ.
تتناسب هذه الحلقة مع نمط أوسع كان مراقبو الذكاء الاصطناعي يوثقونه مع انتقال المساعدين من الحداثة إلى البنية التحتية: النماذج واثقة بشكل متزايد، لكن الثقة ليست مثل الدقة، وتتناسب تكلفة الخطأ مع المخاطر. في المهام الإبداعية أو منخفضة المخاطر، تكلف الإجابة الخاطئة وقتًا. في الريف، أو في بداية الطريق، أو في حالة الطوارئ، يمكن أن تؤدي نفس الإجابة الخاطئة إلى تعريض حياة الناس للخطر.
ماذا يعني ذلك بالنسبة لتخطيط رحلات الذكاء الاصطناعي
في الوقت الحالي، تبدو الدروس العملية غير جذابة. تعامل مع خطط رحلات الذكاء الاصطناعي كمخطط أولي، وليس كقائمة مرجعية نهائية. تحقق من الطرق مقابل محطات الحراسة الرسمية وخدمات المتنزهات وتقارير الرحلات الأخيرة. استعد لأسوأ يوم ممكن، وليس لليوم المخطط له. وقم ببناء فترة زمنية محددة، ثم احتفظ بها.
لا شيء من هذا يجعل أدوات مثل Gemini عديمة الفائدة للتخطيط الخارجي. يُستخدم كمساعد باحث يقوم بطرح الأسئلة لطرحها على الحراس، ويمكنه مساعدة الأشخاص حقًا على الاستعداد. حادثة جبل شاستا هي ما يحدث عندما يصبح المساعد هو السلطة. من المرجح أن يتم الاستشهاد برسالة مكتب الشريف، وعملية الإنقاذ التي أدت إليها، لفترة طويلة في المناقشات حول المكان الذي يجب أن تنتهي فيه نصيحة الذكاء الاصطناعي، ويجب أن يبدأ الحكم البشري.
ابق في صدارة الذكاء الاصطناعي
للحصول على تقارير تم التحقق منها حول كيفية إعادة تشكيل الذكاء الاصطناعي للحياة اليومية والسلامة والمجتمع، تابع AI Buzz Wire.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
