اقترب الجيش الأمريكي من المواجهة المباشرة مع الصين أكثر مما توقعه أي شخص تقريبًا هذا الربيع - ووفقًا لقناة CNN الحصرية التي نُشرت يوم الجمعة، فإن هلوسة الذكاء الاصطناعي كانت السبب.
ويشرح التقرير بالتفصيل كيف أدت وثيقة استخباراتية تم إنشاؤها بمساعدة برنامج الدردشة الآلي إلى إطلاق سلسلة من الأحداث التي أدت إلى تسليح أفراد أمريكيين يستعدون للصعود على متن سفينة صينية في الشرق الأوسط، على أساس الاعتقاد بأن السفينة كانت تنقل مكونات برنامج أسلحة نووية. وكانت الطائرات العسكرية تحلق بالفعل في الجو، بحسب مصادر مطلعة على العملية. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.
ولم يتم إلغاء المهمة إلا قبل الاعتراض المخطط له مباشرة، عندما تعمق المسؤولون في التقرير واكتشفوا أن ادعائه المركزي - وهو الادعاء الذي حشد الجيش الأمريكي - كان خاطئا.
ووصف مصدر مطلع على الحادثة تقرير المخابرات لشبكة سي إن إن بأنه "كاذب تماما". وقال المصدر أيضاً إنها "كادت أن تبدأ حرباً". وكان من الممكن أن تتحول أي عملية أمريكية ضد سفينة صينية إلى صراع مسلح بين البلدين.
كيف تحولت مطالبة Chatbot إلى عملية عسكرية
بدأت الحادثة في ربيع هذا العام، وسط الحرب مع إيران، عندما بدأ تداول تقرير استخباراتي عبر الجيش الأمريكي. وزعمت الوثيقة أن سفينة صينية في الشرق الأوسط كانت تحمل مكونات برنامج الأسلحة النووية، وأطلقت على الفور أجراس الإنذار.
وفقًا لشبكة CNN، تم إعداد التقرير من قبل محلل في قيادة العمليات الخاصة الأمريكية، والذي استفسر من برنامج الدردشة الآلي عن تقارير استخباراتية عن بيان السفينة - التقارير التي نشأت من قيادة العمليات الخاصة الأمريكية في المحيط الهادئ، ومقرها هاواي. ولا يزال من غير الواضح ما إذا كان برنامج الدردشة الآلي منتجًا متاحًا تجاريًا أم أداة حكومية أمريكية. قدم مسؤول أمريكي كبير سابق مطلع على أنظمة الذكاء الاصطناعي التي يستخدمها المحللون العسكريون والمخابرات، لشبكة CNN تقييماً صريحاً للعروض الداخلية للحكومة: "الأدوات الداخلية هي في الغالب مجرد نسخ من المواد التجارية التي ترتدي أحمر الشفاه".
قام برنامج الدردشة الآلي بدمج معلومات استخباراتية مفتوحة المصدر مع معلومات استخباراتية سرية تحتفظ بها الحكومة وتوصل إلى استنتاجه المشؤوم بشأن حمولة السفينة. ثم استخدم المحلل الذكاء الاصطناعي مرة ثانية لتجميع النتائج في تقرير استخباراتي قياسي - من النوع الذي اعتاد المسؤولون العسكريون على الثقة به - ونشره.
تحدثت أربعة مصادر مطلعة على الحادثة إلى شبكة CNN. ووفقا لاثنين منهم، كان أفراد مسلحون من الجيش الأمريكي يستعدون للصعود على متن السفينة عندما انهار التقرير. لم تتمكن CNN من معرفة ماهية الشحنة التي تم التعرف عليها بشكل خاطئ. ولم تستجب قيادة العمليات الخاصة الأمريكية في المحيط الهادئ والبنتاغون لطلب CNN للتعليق.
استراتيجية التسريع تلبي التحقق من الواقع
تقع هذه الحادثة الوشيكة في وقت يسعى فيه البنتاغون إلى دمج الذكاء الاصطناعي في كل جانب من جوانب عمله تقريبًا، حيث يقوم بتحليل كميات هائلة من المعلومات الاستخبارية الخام، واختيار الأهداف للضربات، والتعامل مع المزيد من المهام العادية مثل إعداد الميزانية والخدمات اللوجستية وسلاسل التوريد.
في يناير/كانون الثاني، أصدر وزير الدفاع بيت هيجسيث "استراتيجية تسريع الذكاء الاصطناعي" التابعة للوزارة، في محاولة لتسريع تبني الذكاء الاصطناعي العسكري.
وقال هيجسيث في خطاب أعلن فيه عن الاستراتيجية: "سنطلق العنان للتجارب، ونزيل الحواجز البيروقراطية، ونركز استثماراتنا ونظهر نهج التنفيذ اللازم لضمان الريادة في الذكاء الاصطناعي العسكري".
تذهب المذكرة المصاحبة إلى أبعد من ذلك، حيث تأمر الوزارة بإتاحة الذكاء الاصطناعي من خلال عدة برامج بهدف "إضفاء الطابع الديمقراطي على تجربة الذكاء الاصطناعي والتحول عبر الوزارة من خلال وضع نماذج الذكاء الاصطناعي الرائدة عالميًا في أمريكا مباشرة في أيدي ثلاثة ملايين من الموظفين المدنيين والعسكريين لدينا، على جميع مستويات التصنيف".
لكن الجهد لا مركزي، حسبما قال العديد من المسؤولين الأمريكيين لشبكة CNN، حيث تستخدم أجزاء مختلفة من الحكومة أدوات مختلفة بموجب أوامر ومعايير سلامة مختلفة. لا توجد مجموعة واحدة من المعايير للتحقق من المعلومات الناتجة عن هذه الأدوات، وتختلف موثوقية الأنظمة المختلفة بشكل كبير.
الاستهداف هو المكان الذي يوجد فيه الخطر
ولطالما خشي المحللون من أن الذكاء الاصطناعي قد يساهم في سوء تقدير كارثي إذا تصرفت الدول القومية بناء على بيانات سيئة أو فاسدة. إن حادثة السفينة الصينية هي حالة موثقة لنموذج الفشل هذا الذي يتشكل في الوقت الفعلي - ولفشل الضمانات في الإمساك به حتى اللحظة الأخيرة.
وقال مصدر آخر مطلع على السياسات العسكرية الحالية لشبكة CNN: "إن الذكاء الاصطناعي في الاستهداف هو بالتأكيد شيء يتم تكثيفه، ولا يوجد توجيه حقيقي لكيفية منع وجود إنسان في الحلقة من وقوع إصابات في صفوف المدنيين أو قتل الأخوة".
وفقًا لتقارير شبكة CNN، فإن نوع الهلوسة التي أنتجت هذا الادعاء الكاذب لم يكن حادثًا معزولًا عبر مجتمع الاستخبارات منذ أن بدأت أدوات الذكاء الاصطناعي في الانتشار عبر الحكومة. أشارت عدة مصادر أيضًا إلى وجود خطر ثقافي: فالمحللون الشباب، الذين يوصفون بأنهم من مواطني هذه الأدوات، من المرجح أن يثقوا بها دون انتقاد، كما أن الضغط لإنتاج معلومات استخباراتية بشكل أسرع يترك مجالًا أكبر للخطأ.
قال أحد المصادر: "يسمح لك الذكاء الاصطناعي بالوصول إلى فكرة سيئة بشكل أسرع".
خطر فوري أكثر من الذكاء الخارق
لأسابيع، كانت واشنطن منشغلة بالنقاش حول مخاطر الذكاء الاصطناعي على المدى الطويل، في أعقاب سلسلة من التحذيرات العامة الرهيبة من مهندسي وادي السيليكون والمديرين التنفيذيين للتكنولوجيا بشأن الأنظمة التي من المحتمل أن تتحرر من القيود البشرية. ويسلط تقرير شبكة سي إن إن الضوء على خطر مختلف وأكثر إلحاحا: وهو أن البشر يتخذون قرارات كارثية استنادا إلى نتائج غير دقيقة أو مضللة للذكاء الاصطناعي - في خضم توترات جيوسياسية حقيقية.
لم يتم إطلاق أي رصاصة هذا الربيع، ولم يحدث الصعود على متن الطائرة مطلقًا. لكن هذه الواقعة تمثل أوضح مثال حتى الآن على أن الأخطاء التي تولدها الآلات، بمجرد تحويلها إلى تقارير رسمية، من الممكن أن تنتقل عبر أقوى جهاز عسكري في العالم إلى حافة الصراع المسلح بين القوى النووية ــ في ظل عدم وجود معيار تحقق ثابت لمنع الصراع التالي.
---
ابق على اطلاع بأخبار الذكاء الاصطناعيآخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
