ทหารสหรัฐฯ เกือบขึ้นเรือจีน เหตุรายงานข่าวกรองประสาทหลอนด้วย AI

กองทัพสหรัฐฯ เข้าใกล้อย่างอันตรายในการสกัดกั้นเรือของจีนตามรายงานข่าวกรองที่สร้างขึ้นด้วยความช่วยเหลือของแชทบอท AI และกลายเป็นเท็จโดยสิ้นเชิง ตามรายงานของ CNN ที่เผยแพร่เมื่อวันพฤหัสบดี

ตอนนี้ซึ่งแหล่งข่าวสี่แห่งที่คุ้นเคยกับเรื่องนี้อธิบายให้ CNN ฟัง เริ่มต้นเมื่อต้นฤดูใบไม้ผลินี้ ท่ามกลางสงครามกับอิหร่าน เมื่อมีรายงานแพร่สะพัดไปทั่วกองทัพสหรัฐฯ โดยอ้างว่าเรือของจีนลำหนึ่งในตะวันออกกลางกำลังขนส่งส่วนประกอบของโครงการอาวุธนิวเคลียร์ รายงานดังกล่าวส่งเสียงสัญญาณเตือนภัยทันที และทหารก็เริ่มปฏิบัติการโดยมีแผนที่จะสกัดกั้นเรือลำดังกล่าว หากต้องการรายงานข่าวเช่นนี้เป็นประจำ โปรดติดตาม AI news ในขณะที่มีการพัฒนา

เครื่องบินลอยอยู่ในอากาศ ปาร์ตี้ขึ้นเครื่องพร้อมแล้ว

ตามแหล่งข่าวสองแห่งของ CNN สมาชิกติดอาวุธของกองทัพสหรัฐฯ กำลังเตรียมที่จะขึ้นเรือ เครื่องบินทหารบินอยู่ในอากาศแล้ว แหล่งข่าวคนหนึ่งกล่าว

ก่อนปฏิบัติการตามแผนนั้นเจ้าหน้าที่ได้ขุดลึกลงไปในรายงาน ซึ่งรวบรวมโดยนักวิเคราะห์หน่วยปฏิบัติการพิเศษ และค้นพบว่ามันถูกสร้างขึ้นด้วยความช่วยเหลือของปัญญาประดิษฐ์ และแชทบอทที่นักวิเคราะห์ใช้ระบุวัสดุที่เรือบรรทุกอยู่อย่างไม่ถูกต้อง CNN รายงานว่าไม่สามารถทราบได้ว่าจริงๆ แล้วสินค้าที่ระบุไม่ถูกต้องคืออะไร

แหล่งข่าวรายหนึ่งอธิบายว่ารายงานดังกล่าว “เป็นเท็จทั้งหมด” นอกจากนี้ แหล่งข่าวยังกล่าวอีกว่า “เกือบจะทำให้เกิดสงคราม” เนื่องจากการปฏิบัติการใดๆ ก็ตามของสหรัฐฯ ต่อเรือจีนอาจเสี่ยงที่จะทำให้เกิดความขัดแย้งด้วยอาวุธระหว่างทั้งสองประเทศ

รายงานเท็จถูกสร้างขึ้นอย่างไร

นักวิเคราะห์ได้สอบถามแชทบอทเกี่ยวกับการรายงานข่าวกรองเกี่ยวกับรายการข้อมูลของเรือที่มีต้นกำเนิดจากกองบัญชาการปฏิบัติการพิเศษสหรัฐฯ แปซิฟิก ซึ่งตั้งอยู่ในฮาวาย CNN รายงานว่ายังไม่ชัดเจนว่าแชทบอทเป็นผลิตภัณฑ์ที่มีจำหน่ายทั่วไปหรือเป็นเครื่องมือของรัฐบาลสหรัฐฯ

บอทได้หลอมรวมข่าวกรองโอเพ่นซอร์สเข้ากับสัญญาณลับที่ส่งสัญญาณข่าวกรองในการถือครองของรัฐบาล และได้ข้อสรุปที่เป็นเวรเป็นกรรมเกี่ยวกับเนื้อหาบนเรือ นักวิเคราะห์ใช้ AI เป็นครั้งที่สอง เพื่อรวมการค้นพบไว้ในรายงานข่าวกรองมาตรฐาน ซึ่งเป็นแบบที่เจ้าหน้าที่ทหารไว้วางใจ และเผยแพร่ทั่วทั้งระบบ

หน่วยปฏิบัติการพิเศษสหรัฐฯ แปซิฟิกและเพนตากอนไม่ตอบสนองต่อคำร้องขอความคิดเห็นของซีเอ็นเอ็น

การแข่งขันทางทหารเพื่อนำ AI มาใช้

เหตุการณ์ที่เกือบจะพลาดนี้เกิดขึ้นในช่วงเวลาที่เจ้าหน้าที่ทั่วทั้งชุมชนทหารและหน่วยข่าวกรองของสหรัฐฯ กำลังผลักดันให้ AI เข้ามาอยู่ในเกือบทุกด้านของงาน ตั้งแต่การวิเคราะห์ข่าวกรองดิบปริมาณมหาศาลและการเลือกเป้าหมายสำหรับการนัดหยุดงาน ไปจนถึงการใช้งานทั่วไป เช่น การจัดทำงบประมาณ โลจิสติกส์ และห่วงโซ่อุปทาน

ในเดือนมกราคม รัฐมนตรีกระทรวงกลาโหม Pete Hegseth เปิดเผย "กลยุทธ์การเร่งปัญญาประดิษฐ์" ของกระทรวง โดยมีจุดมุ่งหมายเพื่อเร่งการนำ AI มาใช้โดยกองทัพ “เราจะปล่อยการทดลอง ขจัดอุปสรรคของระบบราชการ มุ่งเน้นการลงทุนของเรา และสาธิตแนวทางการดำเนินการที่จำเป็นเพื่อให้แน่ใจว่าเราเป็นผู้นำในด้าน AI ทางการทหาร” Hegseth กล่าวในสุนทรพจน์ประกาศกลยุทธ์

กลยุทธ์ดังกล่าวเรียกร้องให้มีการเข้าถึงประชาธิปไตยอย่างชัดเจน โดยสั่งให้กระทรวงฯ นำ "โมเดล AI ชั้นนำระดับโลกของอเมริกาไปไว้ในมือของบุคลากรพลเรือนและทหารจำนวน 3 ล้านคนของเราโดยตรง ในทุกระดับการจำแนกประเภท"

ไม่มีกฎเกณฑ์ชุดเดียว

แต่ความพยายามดังกล่าวได้รับการกระจายอำนาจ เจ้าหน้าที่สหรัฐฯ หลายคนกล่าวกับ CNN โดยส่วนต่างๆ ของรัฐบาลใช้เครื่องมือที่แตกต่างกันภายใต้คำสั่งและมาตรฐานความปลอดภัยที่แตกต่างกัน ไม่มีมาตรฐานชุดเดียวสำหรับวิธีที่สหรัฐอเมริกาตรวจสอบข้อมูลที่สร้างโดยเครื่องมือเหล่านี้ และความน่าเชื่อถือของระบบต่างๆ ก็แตกต่างกันไปอย่างมาก

“เครื่องมือภายในส่วนใหญ่เป็นเพียงสำเนาของสินค้าเชิงพาณิชย์ที่สวมลิปสติก” อดีตเจ้าหน้าที่อาวุโสของสหรัฐฯ ซึ่งคุ้นเคยกับระบบ AI ที่นักวิเคราะห์ทางทหารและข่าวกรองใช้ บอกกับ CNN

การกำหนดเป้าหมายของ AI กำลัง 'เพิ่มขึ้น' โดยมีคำแนะนำเพียงเล็กน้อย

แหล่งข่าวกล่าวว่ากองทัพกำลังหันมาใช้ AI อย่างรวดเร็วเพื่อช่วยในการกำหนดเป้าหมาย ซึ่งเป็นพื้นที่ที่มีความเสี่ยงที่ชัดเจนว่าจะเกิดข้อผิดพลาดร้ายแรง “AI ในการกำหนดเป้าหมายเป็นสิ่งที่กำลังเพิ่มขึ้นอย่างแน่นอน และไม่มีแนวทางที่แท้จริงว่าการมีมนุษย์อยู่ในวงจะป้องกันการบาดเจ็บล้มตายของพลเรือนหรือการฆ่าพี่น้องได้อย่างไร” แหล่งข่าวอีกรายที่คุ้นเคยกับนโยบายปัจจุบันของกองทัพกล่าวกับ CNN

นักวิเคราะห์เตือนมานานแล้วว่า AI อาจมีส่วนทำให้เกิดการคำนวณผิดพลาดร้ายแรง หากรัฐต่างๆ พึ่งพาข้อมูลที่ไม่ดีหรือเสียหาย ซึ่งเป็นการคำนวณผิดประเภทที่อาจทำให้สหรัฐฯ ยิงเรือจีนโดยอาศัยข้อมูลที่ไม่ถูกต้อง

ตามรายงานของ CNN อาการประสาทหลอนที่อยู่เบื้องหลังรายงานเรือปลอมนั้นไม่ใช่เหตุการณ์ที่เกิดขึ้นอย่างโดดเดี่ยวในชุมชนข่าวกรอง เนื่องจากเครื่องมือเหล่านี้เริ่มแพร่หลายผ่านทางรัฐบาล

'AI ช่วยให้คุณได้รับแนวคิดที่ไม่ดีเร็วขึ้น'

เป็นเวลาหลายสัปดาห์แล้วที่ผู้กำหนดนโยบายในวอชิงตันถกเถียงกันอย่างเข้มข้นเกี่ยวกับ AI หลังจากคำเตือนอันเลวร้ายหลายครั้งจาก Silicon Valley เกี่ยวกับความเป็นไปได้ที่ AI อาจหลุดพ้นจากข้อจำกัดของมนุษย์ แต่เหตุการณ์บนเรือของจีนเน้นย้ำถึงความเสี่ยงที่แตกต่างและเร่งด่วนกว่า: มนุษย์ทำการตัดสินใจที่เลวร้ายโดยอาศัยข้อมูลที่ไม่ถูกต้องหรือทำให้เข้าใจผิดที่สร้างโดยระบบ AI

แหล่งข่าวหลายแห่งบอกกับ CNN ว่านักวิเคราะห์อายุน้อยโดยเฉพาะอย่างยิ่งซึ่งเป็นเจ้าของเครื่องมือเหล่านี้ มีแนวโน้มที่จะเชื่อถือเครื่องมือเหล่านี้อย่างไม่มีวิพากษ์วิจารณ์ และ AI ได้เพิ่มความกดดันให้นักวิเคราะห์ในการผลิตและเผยแพร่ข่าวกรองได้เร็วขึ้น ซึ่งเปิดประตูสู่ความผิดพลาด

“AI ช่วยให้คุณเข้าถึงความคิดที่ไม่ดีได้เร็วขึ้น” แหล่งข่าวคนหนึ่งกล่าว

ตอนนี้มีแนวโน้มที่จะกระตุ้นให้เกิดการถกเถียงกันอย่างดุเดือดเกี่ยวกับความเร็วที่กองทัพสหรัฐฯ ควรรวม AI เข้าสู่ขั้นตอนการทำงานที่ละเอียดอ่อนที่สุด และขั้นตอนการตรวจสอบใดที่ควรบังคับใช้ ก่อนที่การรายงานที่ได้รับความช่วยเหลือจาก AI จะสามารถเคลื่อนย้ายกองทหาร เครื่องบิน และบุคลากรติดอาวุธไปสู่ปฏิบัติการรบที่มีศักยภาพ สำหรับตอนนี้ รายละเอียดชี้ให้เห็นว่าการป้องกันที่มีอยู่นั้นเป็นการปะติดปะต่อกัน และในกรณีนี้ ความแตกต่างระหว่างรายงานข่าวกรองตามปกติกับเหตุการณ์ระหว่างประเทศอยู่ที่เจ้าหน้าที่ที่ทำการตรวจสอบซ้ำอีกครั้ง

ก้าวนำหน้า AI

หากต้องการรายงานเพิ่มเติมเกี่ยวกับนโยบาย AI ความมั่นคงของชาติ และแบบจำลองที่กำหนดทั้งสองอย่าง อ่านข่าว AI เพิ่มเติม