اقترب الجيش الأمريكي بشكل خطير من اعتراض سفينة صينية بناءً على تقرير استخباراتي تم إنشاؤه بمساعدة برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي، وتبين أنه كاذب تمامًا، وفقًا لتقرير حصري لشبكة CNN نُشر يوم الخميس.
بدأت هذه الحادثة، التي وصفتها أربعة مصادر مطلعة على الأمر لشبكة CNN، في وقت سابق من هذا الربيع - في خضم الحرب مع إيران - عندما انتشر تقرير عبر الجيش الأمريكي يدعي أن سفينة صينية في الشرق الأوسط كانت تنقل مكونات برنامج الأسلحة النووية. أطلق التقرير على الفور أجراس الإنذار، وتحرك الجيش لوضع خطط لاعتراض السفينة. للحصول على تغطية منتظمة لقصص مثل هذه، تابع أخبار الذكاء الاصطناعي أثناء تطورها.
الطائرات في الجو، وحفلة الصعود جاهزة
ووفقا لاثنين من مصادر شبكة CNN، كان أفراد مسلحون من الجيش الأمريكي يستعدون للصعود على متن السفينة. وقال أحد المصادر إن طائرات عسكرية كانت تحلق بالفعل في الجو.
فقط قبل العملية المخطط لها، تعمق المسؤولون في التقرير - الذي جمعه محلل قيادة العمليات الخاصة - واكتشفوا أنه تم إنشاؤه بمساعدة الذكاء الاصطناعي، وأن برنامج الدردشة الآلي الذي استخدمه المحلل قد حدد بشكل غير دقيق المواد التي كانت تحملها السفينة. وذكرت شبكة CNN أنها لم تتمكن من معرفة ماهية الشحنة التي تم التعرف عليها بشكل خاطئ.
ووصف أحد المصادر التقرير بأنه "كاذب تماما". وقال المصدر أيضًا إنها "كادت أن تبدأ حربًا" - لأن أي عملية أمريكية ضد سفينة صينية كان من الممكن أن تخاطر بالتحول إلى صراع مسلح بين البلدين.
كيف تم إنشاء التقرير الكاذب
وكان المحلل قد استفسر من برنامج الدردشة الآلية عن تقارير استخباراتية عن بيان السفينة والتي نشأت من قيادة العمليات الخاصة الأمريكية في المحيط الهادئ، ومقرها هاواي. وذكرت شبكة CNN أنه لم يكن من الواضح ما إذا كان برنامج الدردشة الآلي منتجًا متاحًا تجاريًا أم أداة حكومية أمريكية.
قام الروبوت بدمج معلومات استخباراتية مفتوحة المصدر مع معلومات استخباراتية سرية في الممتلكات الحكومية وتوصل إلى استنتاجه المشؤوم بشأن المواد الموجودة على متن السفينة. ثم استخدم المحلل الذكاء الاصطناعي مرة ثانية – لتجميع النتائج في تقرير استخباراتي قياسي، من النوع الذي يثق به المسؤولون العسكريون – ونشره عبر النظام.
ولم تستجب قيادة العمليات الخاصة الأمريكية في المحيط الهادئ والبنتاغون لطلب CNN للتعليق.
سباق عسكري لاعتماد الذكاء الاصطناعي
تأتي هذه الحادثة الوشيكة في وقت يسعى فيه المسؤولون في الجيش الأمريكي ومجتمع الاستخبارات الأمريكي إلى دمج الذكاء الاصطناعي في كل جانب من جوانب عملهم تقريبًا - بدءًا من تحليل كميات هائلة من المعلومات الاستخبارية الخام واختيار الأهداف للضربات، إلى التطبيقات العادية مثل إعداد الميزانية والخدمات اللوجستية وسلاسل التوريد.
في يناير/كانون الثاني، أصدر وزير الدفاع بيت هيجسيث "استراتيجية تسريع الذكاء الاصطناعي" الخاصة بالوزارة، والتي تهدف إلى تسريع تبني الجيش للذكاء الاصطناعي. وقال هيجسيث في خطاب أعلن فيه عن الاستراتيجية: "سنطلق العنان للتجارب، ونزيل الحواجز البيروقراطية، ونركز استثماراتنا ونظهر نهج التنفيذ اللازم لضمان الريادة في الذكاء الاصطناعي العسكري".
وتدعو الاستراتيجية صراحة إلى إضفاء الطابع الديمقراطي على الوصول، وأمرت الوزارة بوضع "نماذج الذكاء الاصطناعي الأمريكية الرائدة عالميًا مباشرة في أيدي ثلاثة ملايين من الموظفين المدنيين والعسكريين لدينا، على جميع مستويات التصنيف".
لا توجد مجموعة واحدة من القواعد
لكن الجهد لا مركزي، حسبما قال العديد من المسؤولين الأمريكيين لشبكة CNN، حيث تستخدم أجزاء مختلفة من الحكومة أدوات مختلفة بموجب أوامر ومعايير سلامة مختلفة. لا توجد مجموعة واحدة من المعايير لكيفية قيام الولايات المتحدة بالتحقق من المعلومات التي تنتجها هذه الأدوات، وتختلف موثوقية الأنظمة المختلفة بشكل كبير.
وقال مسؤول أمريكي كبير سابق مطلع على أنظمة الذكاء الاصطناعي التي يستخدمها المحللون العسكريون والمخابرات لشبكة CNN: "الأدوات الداخلية هي في الغالب مجرد نسخ من الأشياء التجارية التي تضع أحمر الشفاه".
استهداف الذكاء الاصطناعي "يتزايد" مع القليل من التوجيه
وقالت المصادر إن الجيش يتجه بسرعة إلى الذكاء الاصطناعي للمساعدة في الاستهداف، وهي منطقة تنطوي على خطر واضح لحدوث أخطاء قاتلة. وقال مصدر آخر مطلع على السياسات العسكرية الحالية لشبكة CNN: "إن الذكاء الاصطناعي في الاستهداف هو بالتأكيد شيء يتم تكثيفه ولا يوجد توجيه حقيقي لكيفية منع وجود إنسان في الحلقة من وقوع إصابات في صفوف المدنيين أو قتل الأخوة".
لقد حذر المحللون منذ فترة طويلة من أن الذكاء الاصطناعي يمكن أن يساهم في سوء تقدير كارثي إذا اعتمدت الدول القومية على بيانات سيئة أو فاسدة - وهو على وجه التحديد ذلك النوع من سوء التقدير الذي كان من الممكن أن يدفع الولايات المتحدة إلى إطلاق النار على سفينة صينية بناء على معلومات غير دقيقة.
وفقًا لشبكة CNN، فإن نوع الهذيان الكامن وراء تقرير السفينة الكاذب لم يكن حادثًا معزولًا عبر مجتمع الاستخبارات منذ أن بدأت هذه الأدوات في الانتشار عبر الحكومة.
"الذكاء الاصطناعي يتيح لك الوصول إلى الأفكار السيئة بشكل أسرع"
على مدى أسابيع، كان صناع القرار في واشنطن يناقشون الذكاء الاصطناعي بشكل مكثف في أعقاب سلسلة من التحذيرات الرهيبة من وادي السليكون حول احتمال أن يتحرر الذكاء الاصطناعي من القيود البشرية. لكن حادثة السفينة الصينية تسلط الضوء على خطر مختلف وأكثر إلحاحا: اتخاذ البشر قرارات كارثية استنادا إلى معلومات غير دقيقة أو مضللة تولدها أنظمة الذكاء الاصطناعي.
وقالت عدة مصادر لـCNN إن المحللين الشباب على وجه الخصوص - من مواطني هذه الأدوات - من المرجح أن يثقوا بهم دون انتقاد، وأن الذكاء الاصطناعي قد كثف الضغط على المحللين لإنتاج ونشر المعلومات الاستخبارية بشكل أسرع، مما يفتح الباب أمام الأخطاء.
وقال أحد المصادر: "يسمح لك الذكاء الاصطناعي بالوصول إلى فكرة سيئة بشكل أسرع".
من المرجح أن تثير هذه الحادثة جدلاً ساخنًا بالفعل حول مدى السرعة التي يجب على الجيش الأمريكي دمج الذكاء الاصطناعي بها في سير العمل الأكثر حساسية، وما هي خطوات التحقق التي يجب أن تكون إلزامية قبل أن تتمكن التقارير المدعومة بالذكاء الاصطناعي من تحريك القوات والطائرات والأفراد المسلحين نحو عملية قتالية محتملة. في الوقت الحالي، تشير التفاصيل إلى أن الضمانات الموجودة هي عبارة عن خليط، وفي هذه الحالة، يعود الفرق بين تقرير استخباراتي روتيني وحادث دولي إلى المسؤولين الذين صادف أنهم قاموا بالتحقق مرة أخرى.
البقاء في صدارة الذكاء الاصطناعي
لمزيد من التقارير حول سياسة الذكاء الاصطناعي والأمن القومي والنماذج التي تشكل كليهما، اقرأ المزيد من أخبار الذكاء الاصطناعي.
