การทบทวนของกระทรวงกลาโหมสหรัฐฯ สรุปว่าการพึ่งพาปัญญาประดิษฐ์มากเกินไปมีส่วนทำให้เกิดการโจมตีด้วยขีปนาวุธในโรงเรียนแห่งหนึ่งในอิหร่านซึ่งมีรายงานว่าคร่าชีวิตเด็กไปประมาณ 120 คน ตามการค้นพบของการทบทวนดังกล่าวตามที่รายงานโดยบลูมเบิร์กเมื่อวันจันทร์และสรุปโดย Yahoo News และช่องทางอื่นๆ

การค้นพบนี้เป็นครั้งแรกที่กระทรวงกลาโหมระบุอย่างเป็นทางการว่าผลการต่อสู้ที่ร้ายแรงส่วนหนึ่งมาจากการพึ่งพาระบบ AI และเกิดขึ้นท่ามกลางการถกเถียงที่เข้มข้นขึ้นเกี่ยวกับอำนาจในการกำหนดเป้าหมายที่กองทัพสหรัฐฯ ควรมอบหมายให้กับวิจารณญาณของเครื่องจักร หากต้องการรายงานเพิ่มเติมในลักษณะนี้ โปรดดู ความคุ้มครองด้านจริยธรรมของ AI

เกิดอะไรขึ้นในเดือนมีนาคม

การประท้วงดังกล่าวเกิดขึ้นเมื่อต้นเดือนมีนาคม พ.ศ. 2569 เมื่อการวิเคราะห์วิดีโอที่เผยแพร่โดยเบลลิงแคท และตรวจสอบโดย NPR และ BBC พบว่าขีปนาวุธร่อนโทมาฮอว์กของสหรัฐฯ โจมตีติดกับโรงเรียนหญิงล้วนในเมืองลาเมิร์ดของอิหร่าน ภายในไม่กี่วัน เดอะนิวยอร์กไทมส์รายงานว่าการสอบสวนเบื้องต้นของสหรัฐฯ พบว่าการโจมตีดังกล่าวเป็นผลมาจากขีปนาวุธของสหรัฐฯ และแหล่งข่าวจากอิหร่านระบุยอดผู้เสียชีวิตหลายสิบราย ส่วนใหญ่เป็นเด็ก

การทบทวนเพนตากอนฉบับใหม่ ซึ่งอธิบายในการสอบสวนของบลูมเบิร์กที่เผยแพร่เมื่อวันจันทร์ มีรายละเอียดเพิ่มเติม: มีรายงานว่าติดตามความล้มเหลวในขั้นตอนการกำหนดเป้าหมาย และสรุปว่าการพึ่งพา AI มากเกินไปมีส่วนทำให้เกิดการประท้วง Yahoo News สรุปบทวิจารณ์ว่าเป็นการเชื่อมโยงระบบกำหนดเป้าหมาย AI เข้ากับการโจมตีที่สังหารเด็กชาวอิหร่าน 120 คน ร้านค้าหลายแห่งระบุว่าระบบดังกล่าวเป็นซอฟต์แวร์ที่ Palantir จัดหาให้ แม้ว่ากระทรวงกลาโหมจะไม่ได้ยืนยันรายละเอียดของผู้จำหน่ายต่อสาธารณะก็ตาม

ภายใน Kill Chain

ในการสืบสวนคู่ขนานที่ตีพิมพ์เมื่อวันจันทร์ หนังสือพิมพ์ลอสแอนเจลีสไทมส์ ระบุถึงสิ่งที่เรียกว่า "ห่วงโซ่การสังหาร" ของสหรัฐฯ ที่ทำลายโรงเรียนแห่งนี้ ไม่ว่าจะเป็นลำดับการรวบรวมข้อมูล การเสนอชื่อเป้าหมายโดยใช้เครื่องจักรช่วย และการลงนามโดยมนุษย์ซึ่งจบลงด้วยการยิงขีปนาวุธ การรายงานดังกล่าวตอกย้ำความเป็นจริงที่น่าอึดอัดของการสงครามที่แม่นยำสมัยใหม่: ลูกเรือที่ยิงโทมาฮอว์กอาจไม่เคยเห็นเป้าหมายเลย พวกเขาดำเนินการแพ็คเกจข้อมูลเป้าหมายที่ประกอบขึ้นจากต้นทาง โดยที่เครื่องมืออัลกอริธึมจะกำหนดรูปแบบสิ่งที่ได้รับการเสนอชื่อมากขึ้น และความเชื่อมั่นของนักวิเคราะห์ที่สนับสนุนนั้นเป็นอย่างไร

กล่าวอีกนัยหนึ่ง การค้นพบที่สำคัญของการรีวิว — การพึ่งพามากเกินไป — ไม่ได้เกี่ยวกับหุ่นยนต์ที่เหนี่ยวไก เป็นเรื่องเกี่ยวกับมนุษย์ที่ไว้วางใจเอาต์พุตของเครื่องจักรมากพอที่จะข้ามความกังขาที่ว่ากระบวนการนี้ได้รับการออกแบบมาให้ต้องการ

การกำกับดูแลที่ถูกรื้อถอน

มีรายงานบริบทของความล้มเหลวเมื่อหลายเดือนก่อน Politico เปิดเผยเมื่อเดือนมีนาคมว่า หัวหน้ากระทรวงกลาโหมได้ลดสำนักงานที่ไม่เอื้อต่อเป้าหมาย "การฆ่า" ของเขา ซึ่งรวมถึงศูนย์ความเป็นเลิศด้านการคุ้มครองพลเรือน และเจ้าหน้าที่ในทีมบรรเทาความเสียหายของพลเรือนลดลงประมาณ 90% โดยลดลงเหลือน้อยกว่า 20 คนโดยรวม ProPublica รายงานว่าทีมผู้บาดเจ็บพลเรือนของกองบัญชาการกลางลดลงจากสิบคนเหลือเพียงคนเดียว

เมื่อเทียบกับฉากหลังนั้น ผลการตรวจสอบพบว่าไม่ค่อยเหมือนกับข้อบกพร่องของซอฟต์แวร์และคล้ายกับความล้มเหลวของระบบ นั่นคือเครื่องมือ AI ที่มีข้อผิดพลาดที่ไม่มีใครทักท้วงในอุปกรณ์กำหนดเป้าหมายซึ่งมีตาข่ายนิรภัยของมนุษย์ถูกตัดจนถึงกระดูก

รูปแบบที่เพนตากอนรู้อยู่แล้ว

การโจมตีของอิหร่านไม่ใช่การโจมตีระยะใกล้ที่เกี่ยวข้องกับ AI ในกองทัพสหรัฐฯ การรายงานแยกกันโดย Gizmodo และ Futurism บันทึกเหตุการณ์ที่ทหารเกือบจะขึ้นเครื่อง และอาจยิงใส่เรือของจีน หลังจากที่ระบบ AI เห็นภาพหลอนวัตถุอาวุธนิวเคลียร์บนเรือ ซึ่งเป็นข้อผิดพลาดที่อาจก่อให้เกิดการลุกลามของมหาอำนาจ ในกรณีดังกล่าว การแทรกแซงของมนุษย์ช่วยป้องกันภัยพิบัติได้ ในอิหร่าน ไม่มีการแทรกแซงดังกล่าวเกิดขึ้น

นักวิจัยด้าน AI และนักวิชาการด้านจริยธรรมทางการทหารได้เตือนมาหลายปีแล้วว่าผลผลิตของเครื่องจักรที่ฉีดเข้าไปในการตัดสินใจที่มีเดิมพันสูงจะทำให้เกิดอคติด้านระบบอัตโนมัติ ซึ่งเป็นเอกสารแนวโน้มของมนุษย์ที่จะไว้วางใจระบบที่มีความมั่นใจมากเกินไป การทบทวนของเพนตากอนในตอนนี้ถือเป็นการยืนยันอย่างเป็นทางการว่าอคตินี้มีส่วนทำให้เกิดการเสียชีวิตของพลเรือนที่ร้ายแรงที่สุดครั้งหนึ่งในสงคราม

อะไรจะเกิดขึ้นต่อไป

การตรวจสอบนี้มีแนวโน้มที่จะเพิ่มแรงกดดันในวอชิงตันสำหรับข้อกำหนดทางกฎหมายแบบมนุษย์ในวงในการกำหนดเป้าหมายที่เปิดใช้งาน AI ในเวลาเดียวกันกับที่ฝ่ายบริหารผลักดันให้เร่งการนำ AI มาใช้ทางทหาร นอกจากนี้ยังทำให้การขายของผู้จำหน่ายเทคโนโลยีด้านการป้องกันมีความซับซ้อนซึ่งขณะนี้ผลิตภัณฑ์มีส่วนเกี่ยวข้องในการตรวจสอบข้อบกพร่องอย่างเป็นทางการ และช่วยให้รัฐสภามีกรณีศึกษาที่เป็นรูปธรรมและเป็นเอกสารเพื่อใช้อ้างอิงในการพิจารณาคดีเกี่ยวกับนโยบายอาวุธอัตโนมัติ

คำถามมากมายยังคงไม่ได้รับคำตอบ บทสรุปของการตรวจสอบที่เผยแพร่จนถึงตอนนี้ไม่ได้ระบุเวอร์ชันของโมเดลที่ใช้งานอยู่ ไม่ว่าความล้มเหลวจะเป็นภาพหลอน การจัดประเภทอาคารผิด หรือข้อมูลอินพุตต้นทางที่เสียหาย ซึ่งเป็นความแตกต่างที่สำคัญอย่างมากต่อวิธีที่กองทัพควรควบคุมเครื่องมือ AI และไม่ชัดเจนว่าผลลัพธ์ของระบบได้รับการตรวจสอบโดยนักวิเคราะห์คนใดก่อนที่จะสรุปแพ็คเกจเป้าหมายหรือไม่

ความคิดเห็นของสาธารณชนเป็นเรื่องที่น่ากังขาอยู่แล้ว: ผลสำรวจของ Reuters/Ipsos ที่ตีพิมพ์ในสัปดาห์นี้ พบว่า 73% ของชาวอเมริกันกล่าวว่าบริษัท AI ไม่ได้ดำเนินการเพียงพอที่จะป้องกันผลลัพธ์ที่เลวร้าย และความกังวลเกี่ยวกับ AI ในระบบอาวุธก็มีการสำรวจสูงกว่าความกังวลเกี่ยวกับ AI ของผู้บริโภคอย่างต่อเนื่อง สิ่งที่เกิดขึ้นกับข้อเสนอแนะของการทบทวนนี้ และไม่ว่าใครก็ตามจะต้องรับผิดชอบหรือไม่ จะส่งสัญญาณว่าการค้นพบนี้เปลี่ยนแปลงแนวปฏิบัติหรือกลายเป็นรายงานเหตุการณ์อื่นที่ถูกยื่นและถูกลืม
---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →