خلصت مراجعة أجرتها وزارة الدفاع الأمريكية إلى أن الاعتماد المفرط على الذكاء الاصطناعي ساهم في الهجوم الصاروخي الذي استهدف مدرسة في إيران في مارس/آذار الماضي، والذي أسفر عن مقتل حوالي 120 طفلاً، وفقًا لنتائج المراجعة التي نشرتها بلومبرج يوم الاثنين ولخصتها ياهو نيوز ومنافذ أخرى.
هذه النتيجة هي المرة الأولى التي ينسب فيها البنتاغون رسميًا نتيجة قتالية مميتة جزئيًا إلى الاعتماد على نظام الذكاء الاصطناعي، وينتهي وسط جدل مكثف حول مقدار سلطة الاستهداف التي يجب على الجيش الأمريكي تفويضها للحكم الآلي. لمزيد من التقارير المشابهة، راجع تغطية أخلاقيات الذكاء الاصطناعي.
ماذا حدث في شهر مارس
وقعت الضربة في أوائل مارس 2026، عندما أظهر تحليل الفيديو الذي نشرته شركة Bellingcat وتم التحقق منه بواسطة NPR وBBC، صاروخ كروز أمريكي من طراز توماهوك يضرب بجوار مدرسة للفتيات في مدينة لاميرد الإيرانية. وفي غضون أيام، ذكرت صحيفة نيويورك تايمز أن تحقيقًا أمريكيًا أوليًا خلص إلى أن الضربة كانت نتيجة صاروخ أمريكي، وقدرت مصادر إيرانية عدد القتلى بالعشرات، معظمهم من الأطفال.
وتذهب مراجعة البنتاغون الجديدة، التي تم وصفها في تحقيق أجرته بلومبرج ونشرت يوم الاثنين، إلى أبعد من ذلك: يقال إنها تتبعت الفشل في خط الاستهداف وخلصت إلى أن الاعتماد المفرط على الذكاء الاصطناعي ساهم في الضربة. لخصت ياهو نيوز المراجعة على أنها تربط نظام استهداف الذكاء الاصطناعي بالضربة التي قتلت 120 طفلاً إيرانيًا. حددت عدة منافذ النظام المعني على أنه برنامج مقدم من شركة Palantir، على الرغم من أن البنتاغون لم يؤكد علنًا تفاصيل البائع.
داخل سلسلة القتل
وتتبعت صحيفة لوس أنجلوس تايمز، في تحقيق موازٍ نُشر يوم الاثنين، ما أسمته "سلسلة القتل" الأمريكية التي دمرت المدرسة - تسلسل جمع البيانات، وتحديد الهدف بمساعدة الآلة، والتوقيع البشري الذي انتهى بإطلاق صاروخ. يسلط هذا التقرير الضوء على حقيقة غير مريحة للحرب الدقيقة الحديثة: فالطاقم الذي يطلق صاروخ توماهوك قد لا يتمكن من رؤية الهدف على الإطلاق. إنهم ينفذون حزمة بيانات مستهدفة يتم تجميعها في المراحل الأولية، حيث تعمل الأدوات الخوارزمية على تشكيل ما يتم ترشيحه ومدى ثقة المحللين الداعمين.
وبعبارة أخرى، فإن النتيجة المركزية للمراجعة - الاعتماد المفرط - لا تتعلق بالروبوت الذي يضغط على الزناد. يتعلق الأمر بثقة البشر في مخرجات الآلة بدرجة كافية لتخطي الشكوك التي صممت العملية لتتطلبها.
الرقابة التي تم تفكيكها
تم الإبلاغ عن سياق الفشل منذ أشهر. وكشفت صحيفة بوليتيكو في مارس/آذار أن رئيس البنتاغون قام بتقليص المكاتب التي لا تساهم في أهدافه "الفتاكة"، بما في ذلك مركز التميز لحماية المدنيين، وأن عدد الموظفين في فرق تخفيف الأضرار التي لحقت بالمدنيين انخفض بنسبة 90٪ تقريبًا، وتقلص إلى أقل من 20 شخصًا بشكل عام. وذكرت ProPublica أن فريق الضحايا المدنيين التابع للقيادة المركزية انخفض من عشرة أشخاص إلى شخص واحد.
على هذه الخلفية، تبدو نتائج المراجعة أقل شبهاً بخلل برمجي وأكثر بفشل في الأنظمة: أداة ذكاء اصطناعي لم يتم التصدي لأخطائها داخل جهاز استهداف تم قطع شبكات الأمان البشرية فيه حتى النخاع.
نمط يعرفه البنتاغون بالفعل
لم تكن الضربة الإيرانية حادثة معزولة وشيكة تتعلق بالذكاء الاصطناعي في الجيش الأمريكي. وثقت تقارير منفصلة صادرة عن Gizmodo وFuturism حادثة كاد فيها الجيش أن يصعد على متن سفينة صينية - وربما أطلق النار عليها - بعد أن تسبب نظام الذكاء الاصطناعي في هلوسة مواد أسلحة نووية على متنها، وهو خطأ كان من الممكن أن يؤدي إلى تصعيد القوى العظمى. وفي هذه الحالة، التدخل البشري حال دون وقوع الكارثة. وفي إيران، لم يحدث مثل هذا التدخل.
لقد حذر باحثو الذكاء الاصطناعي وعلماء الأخلاقيات العسكرية لسنوات من أن مخرجات الآلة التي يتم حقنها في القرارات عالية المخاطر تؤدي إلى تحيز للأتمتة - وهو الميل البشري الموثق إلى الإفراط في الثقة في الأنظمة الواثقة. وتمثل المراجعة التي أجراها البنتاغون الآن بمثابة اعتراف رسمي بأن هذا التحيز ساهم في واحدة من أكثر الخسائر البشرية دموية في الحرب.
ما يأتي بعد ذلك
من المرجح أن تؤدي المراجعة إلى تكثيف الضغط في واشنطن من أجل المتطلبات القانونية المتعلقة بالاستهداف المدعوم بالذكاء الاصطناعي، في نفس الوقت الذي تسعى فيه الإدارة إلى تسريع اعتماد الذكاء الاصطناعي العسكري. كما أنه يعقد مبيعات بائعي تكنولوجيا الدفاع الذين أصبحت منتجاتهم الآن متورطة في مراجعة رسمية للأخطاء - ويمنح الكونجرس دراسة حالة ملموسة وموثقة للاستشهاد بها في جلسات الاستماع حول سياسة الأسلحة المستقلة.
أسئلة كثيرة لا تزال دون إجابة. ولا تحدد ملخصات المراجعة المنشورة حتى الآن أي إصدار نموذجي كان قيد الاستخدام، وما إذا كان الفشل كان هلوسة، أو سوء تصنيف للمبنى، أو بيانات مدخلات تالفة - وهي اختلافات مهمة للغاية بالنسبة لكيفية تنظيم أدوات الذكاء الاصطناعي من قبل الجيش. كما أنه ليس من الواضح ما إذا كانت مخرجات النظام قد تمت مراجعتها من قبل أي محلل قبل الانتهاء من وضع الحزمة المستهدفة.
الرأي العام متشكك بالفعل: أظهر استطلاع أجرته رويترز / إبسوس هذا الأسبوع أن 73٪ من الأمريكيين يقولون إن شركات الذكاء الاصطناعي لا تفعل ما يكفي لمنع النتائج الكارثية، كما أن القلق بشأن الذكاء الاصطناعي في أنظمة الأسلحة يفوق باستمرار القلق بشأن الذكاء الاصطناعي للمستهلك. إن ما يحدث لتوصيات المراجعة - وما إذا كان أي شخص سيخضع للمساءلة - سيشير إلى ما إذا كانت النتائج ستغير الممارسة أو ستصبح تقريرًا آخر عن الحادث تم تقديمه ونسيانه.
---
احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
