กองทัพสหรัฐฯ เข้าใกล้การเผชิญหน้าโดยตรงกับจีนมากกว่าที่ใครๆ ก็ตระหนักได้ในฤดูใบไม้ผลินี้ และตามรายงานของ CNN ที่เผยแพร่เมื่อวันศุกร์ ระบุว่า อาการประสาทหลอนของ AI เป็นเหตุผลว่าทำไม
รายงานให้รายละเอียดว่าเอกสารข่าวกรองที่สร้างขึ้นด้วยความช่วยเหลือของแชทบอตทำให้เกิดเหตุการณ์ต่อเนื่องที่มีเจ้าหน้าที่ติดอาวุธของสหรัฐฯ เตรียมขึ้นเรือของจีนในตะวันออกกลาง โดยเชื่อว่าเรือลำดังกล่าวกำลังขนส่งส่วนประกอบของโครงการอาวุธนิวเคลียร์ เครื่องบินทหารได้บินอยู่ในอากาศแล้ว ตามแหล่งข่าวที่คุ้นเคยกับปฏิบัติการดังกล่าว For more context on this story, see our ongoing latest AI developments.
ภารกิจดังกล่าวถูกยกเลิกก่อนที่จะมีการวางแผนสกัดกั้นเท่านั้น เมื่อเจ้าหน้าที่ได้เจาะลึกเข้าไปในรายงานและพบว่าการอ้างสิทธิ์ส่วนกลางซึ่งเป็นภารกิจที่ระดมกำลังทหารสหรัฐฯ นั้นไม่ถูกต้อง
แหล่งข่าวรายหนึ่งที่คุ้นเคยกับเหตุการณ์ดังกล่าวกล่าวถึงรายงานข่าวกรองต่อ CNN ว่า “เป็นเท็จทั้งหมด” แหล่งข่าวยังระบุด้วยว่า "เกือบจะเริ่มสงครามแล้ว" ปฏิบัติการใดๆ ก็ตามของสหรัฐฯ ต่อเรือจีนอาจลุกลามไปสู่ความขัดแย้งด้วยอาวุธระหว่างทั้งสองประเทศ
คำกล่าวอ้างของ Chatbot กลายเป็นปฏิบัติการทางทหารได้อย่างไร
เหตุการณ์นี้เริ่มต้นขึ้นในฤดูใบไม้ผลินี้ ท่ามกลางสงครามกับอิหร่าน เมื่อมีรายงานข่าวกรองเริ่มเผยแพร่ไปทั่วกองทัพสหรัฐฯ เอกสารดังกล่าวอ้างว่าเรือของจีนลำหนึ่งในตะวันออกกลางกำลังบรรทุกส่วนประกอบของโครงการอาวุธนิวเคลียร์ และมันก็ส่งเสียงสัญญาณเตือนภัยทันที
ตามรายงานของ CNN รายงานดังกล่าวจัดทำขึ้นโดยนักวิเคราะห์จากหน่วยปฏิบัติการพิเศษของสหรัฐฯ ซึ่งได้สอบถามแชทบอทเกี่ยวกับการรายงานข่าวกรองในรายการบัญชีของเรือ ซึ่งรายงานดังกล่าวมีต้นกำเนิดมาจากหน่วยปฏิบัติการพิเศษสหรัฐฯ แปซิฟิก ซึ่งตั้งอยู่ในฮาวาย ยังไม่ชัดเจนว่าแชทบอทเป็นผลิตภัณฑ์ที่มีจำหน่ายในท้องตลาดหรือเป็นเครื่องมือของรัฐบาลสหรัฐฯ อดีตเจ้าหน้าที่อาวุโสของสหรัฐฯ ซึ่งคุ้นเคยกับระบบ AI ที่ใช้โดยนักวิเคราะห์ทางทหารและข่าวกรอง เสนอให้ CNN ประเมินข้อเสนอภายในของรัฐบาลอย่างตรงไปตรงมาว่า "เครื่องมือภายในส่วนใหญ่เป็นเพียงสำเนาของสินค้าเชิงพาณิชย์ที่สวมลิปสติก"
แชทบอทได้หลอมรวมข่าวกรองโอเพ่นซอร์สเข้ากับข่าวกรองที่เป็นความลับที่รัฐบาลถืออยู่ และได้ข้อสรุปที่เป็นเวรเป็นกรรมเกี่ยวกับสินค้าบนเรือ นักวิเคราะห์ใช้ AI เป็นครั้งที่สองเพื่อรวมการค้นพบไว้ในรายงานข่าวกรองมาตรฐาน ซึ่งเป็นแบบที่เจ้าหน้าที่ทหารคุ้นเคยกับการไว้วางใจ และเผยแพร่ข้อมูลดังกล่าว
แหล่งข่าวสี่แหล่งที่คุ้นเคยกับตอนนี้ได้พูดคุยกับ CNN จากข้อมูลของทั้งสองคน สมาชิกติดอาวุธของกองทัพสหรัฐฯ กำลังเตรียมขึ้นเรือลำนี้ เมื่อการรายงานล้มเหลว CNN ไม่สามารถทราบได้ว่าจริงๆ แล้วสินค้าที่ระบุไม่ถูกต้องคืออะไร หน่วยปฏิบัติการพิเศษสหรัฐฯ แปซิฟิกและเพนตากอนไม่ตอบสนองต่อคำร้องขอความคิดเห็นของซีเอ็นเอ็น
กลยุทธ์การเร่งความเร็วพบกับการตรวจสอบความเป็นจริง
เหตุการณ์ที่เกือบจะพลาดนี้เกิดขึ้นในช่วงเวลาที่กระทรวงกลาโหมกำลังผลักดันให้รวม AI เข้ากับงานเกือบทุกด้าน โดยการวิเคราะห์ข้อมูลดิบปริมาณมหาศาล เลือกเป้าหมายสำหรับการนัดหยุดงาน และจัดการงานธรรมดาๆ เช่น การจัดทำงบประมาณ โลจิสติกส์ และห่วงโซ่อุปทาน
ในเดือนมกราคม Pete Hegseth รัฐมนตรีกระทรวงกลาโหมได้เปิดตัว "กลยุทธ์การเร่งปัญญาประดิษฐ์" ของแผนก ซึ่งเป็นความพยายามเพื่อเร่งการนำ AI มาใช้ทางทหาร
“เราจะปล่อยการทดลอง ขจัดอุปสรรคของระบบราชการ มุ่งเน้นการลงทุนของเรา และสาธิตแนวทางการดำเนินการที่จำเป็นเพื่อให้แน่ใจว่าเราเป็นผู้นำในด้าน AI ทางการทหาร” Hegseth กล่าวในสุนทรพจน์ประกาศกลยุทธ์
บันทึกช่วยจำดังกล่าวมีรายละเอียดเพิ่มเติม โดยสั่งให้กระทรวงกำหนดให้ AI พร้อมใช้งานผ่านหลายโปรแกรมโดยมีเป้าหมายเพื่อ "ทำให้การทดลองและการเปลี่ยนแปลง AI กลายเป็นประชาธิปไตยทั่วทั้งแผนก โดยการวางโมเดล AI ชั้นนำระดับโลกของอเมริกาไว้ในมือของบุคลากรพลเรือนและทหารกว่า 3 ล้านคนของเราในทุกระดับ"
แต่ความพยายามดังกล่าวได้รับการกระจายอำนาจ เจ้าหน้าที่สหรัฐฯ หลายคนกล่าวกับ CNN โดยส่วนต่างๆ ของรัฐบาลใช้เครื่องมือที่แตกต่างกันภายใต้คำสั่งและมาตรฐานความปลอดภัยที่แตกต่างกัน ไม่มีมาตรฐานชุดเดียวสำหรับการตรวจสอบข้อมูลที่สร้างโดยเครื่องมือเหล่านี้ และความน่าเชื่อถือของระบบต่างๆ ก็แตกต่างกันไปอย่างมาก
การกำหนดเป้าหมายคือจุดที่มีความเสี่ยง
นักวิเคราะห์กลัวมานานแล้วว่า AI อาจมีส่วนทำให้เกิดการคำนวณผิดพลาดร้ายแรง หากรัฐชาติดำเนินการกับข้อมูลที่ไม่ดีหรือเสียหาย ตอนของเรือจีนเป็นกรณีที่ได้รับการบันทึกไว้อย่างชัดเจนว่าโหมดความล้มเหลวนั้นก่อตัวขึ้นแบบเรียลไทม์ และการป้องกันที่ล้มเหลวในการตามทันจนนาทีสุดท้าย
“AI ในการกำหนดเป้าหมายเป็นสิ่งที่กำลังเพิ่มขึ้นอย่างแน่นอน และไม่มีคำแนะนำที่แท้จริงว่าการมีมนุษย์อยู่ในวงจะป้องกันการบาดเจ็บล้มตายของพลเรือนหรือการฆ่าพี่น้องได้อย่างไร” แหล่งข่าวอีกรายที่คุ้นเคยกับนโยบายปัจจุบันของกองทัพกล่าวกับ CNN
ตามการรายงานของ CNN อาการประสาทหลอนที่ทำให้เกิดการกล่าวอ้างที่เป็นเท็จนั้นไม่ได้เป็นเหตุการณ์ที่เกิดขึ้นอย่างโดดเดี่ยวในชุมชนข่าวกรอง เนื่องจากเครื่องมือ AI เริ่มแพร่หลายผ่านทางรัฐบาล แหล่งข้อมูลหลายแห่งยังชี้ให้เห็นถึงความเสี่ยงทางวัฒนธรรม กล่าวคือ นักวิเคราะห์รุ่นเยาว์ซึ่งอธิบายว่าเป็นเครื่องมือเหล่านี้โดยกำเนิด มีแนวโน้มที่จะเชื่อถือเครื่องมือเหล่านี้อย่างไม่มีวิพากษ์วิจารณ์ และความกดดันในการสร้างสติปัญญาเร็วขึ้นทำให้เกิดข้อผิดพลาดมากขึ้น
“AI ช่วยให้คุณเข้าถึงความคิดที่ไม่ดีได้เร็วขึ้น” แหล่งข่าวคนหนึ่งกล่าว
ความเสี่ยงในทันทีมากกว่าความฉลาดขั้นสูง
เป็นเวลาหลายสัปดาห์ที่วอชิงตันถูกกลืนกินโดยการถกเถียงเรื่องความเสี่ยงด้าน AI ในระยะยาว ภายหลังจากคำเตือนสาธารณะอันเลวร้ายหลายครั้งจากวิศวกรและผู้บริหารด้านเทคโนโลยีของ Silicon Valley เกี่ยวกับระบบที่อาจหลุดพ้นจากข้อจำกัดของมนุษย์ รายงานของ CNN เน้นย้ำถึงอันตรายที่แตกต่างและอันตรายที่เกิดขึ้นในทันที: มนุษย์ทำการตัดสินใจที่หายนะโดยอาศัยผลลัพธ์ของ AI ที่ไม่ถูกต้องหรือทำให้เข้าใจผิด ท่ามกลางความตึงเครียดทางภูมิรัฐศาสตร์ที่แท้จริง
ฤดูใบไม้ผลินี้ไม่มีการยิงปืน และการขึ้นเครื่องไม่เคยเกิดขึ้น แต่ในตอนนี้เป็นตัวอย่างที่ชัดเจนที่สุดว่าข้อผิดพลาดที่เกิดจากเครื่องจักรซึ่งครั้งหนึ่งเคยถูกฟอกให้เป็นการรายงานอย่างเป็นทางการ สามารถเดินทางผ่านเครื่องมือทางทหารที่ทรงพลังที่สุดในโลกไปจนถึงขอบของความขัดแย้งด้วยอาวุธระหว่างมหาอำนาจนิวเคลียร์ โดยไม่มีมาตรฐานการตรวจสอบที่ยืนหยัดเพื่อหยุดยั้งข้อผิดพลาดครั้งถัดไป
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
