สำนักงานเพนตากอนที่ได้รับมอบหมายให้ประสานงานการใช้ปัญญาประดิษฐ์อย่างมีความรับผิดชอบและมีจริยธรรมนั้นยังขาดแคลนบุคลากรอย่างมาก ตามรายงานของหน่วยงานเฝ้าระวังชั้นนำของรัฐบาลกลาง ซึ่งถือเป็นการขาดแคลนที่ขัดขวางกรอบการทำงานหลักจริยธรรมด้าน AI ที่สำคัญของกระทรวง แม้ว่ากองทัพจะผลักดันให้กลายเป็นกองกำลังสู้รบแบบ "AI ก่อน" ก็ตาม

การขาดแคลนบุคลากรในหัวหน้าสำนักงานดิจิทัลและปัญญาประดิษฐ์ ทำให้ไม่สามารถดำเนินการตามโครงการ Responsible AI ของเพนตากอนได้อย่างเต็มที่ สำนักงานความรับผิดชอบของรัฐบาล ระบุในรายงานลงวันที่ 14 ตุลาคม และรายงานโดย Stars and Stripes เมื่อวันอังคาร การค้นพบนี้เกิดขึ้นในช่วงเวลาที่การตัดสินใจของ AI ในการป้องกันได้ย้ายจากห้องปฏิบัติการไปยังสนามรบ ทำให้เกิดช่องว่างด้านบุคลากรที่ตามมาอย่างเป็นรูปธรรม

สามในสิบตำแหน่งเต็มแล้ว และตำแหน่งงานว่างอาจยังเปิดอยู่

AI ที่มีความรับผิดชอบคือกรอบจริยธรรมแบบบูรณาการของกระทรวงกลาโหมที่ควบคุมการพัฒนา การใช้งาน และการดำเนินการของความสามารถของ AI ทั่วทั้งระบบการต่อสู้และไม่ใช่การต่อสู้ CDAO เป็นสำนักงานหลักในการปรับใช้และบูรณาการ AI ของแผนก รวมถึงกรอบงาน AI ที่มีความรับผิดชอบ ซึ่งทำให้ระดับพนักงานเป็นตัววัดโดยตรงว่าฟังก์ชันกำกับดูแลมีขีดความสามารถมากเพียงใด

GAO พบว่ามีตำแหน่งที่ได้รับอนุญาตของสำนักงานเพียง 3 ตำแหน่งจากทั้งหมด 10 ตำแหน่ง ณ เดือนกุมภาพันธ์ เจ้าหน้าที่กลาโหมบอกกับหน่วยงานเฝ้าระวังว่าตำแหน่งที่เหลือไม่น่าจะได้รับการเติมเต็ม การรับเข้าที่ชี้ให้เห็นว่าการขาดแคลนไม่ใช่ความล่าช้าในการจ้างงานชั่วคราว แต่เป็นสภาพโครงสร้างของคำสั่งกำกับดูแลของสำนักงาน

กลยุทธ์ 'AI First' ที่ก้าวล้ำหน้าการป้องกันของตัวเอง

การเปิดเผยข้อมูลการรับพนักงานอยู่นอกทิศทางเชิงกลยุทธ์ของแผนกอย่างเชื่องช้า ในเดือนมกราคม Pete Hegseth รัฐมนตรีกลาโหมออกกลยุทธ์ AI ซึ่งตามรายงานของ GAO เน้นย้ำอีกครั้งถึงการเร่งบูรณาการและการนำ AI มาใช้ รายงานระบุว่ากลยุทธ์ดังกล่าว "เน้นย้ำถึงการยืนหยัดในช่วงสงคราม โดยเรียกร้องให้กระทรวงกลาโหมกลายเป็นกองกำลังสู้รบแบบ 'AI ต้องมาก่อน' ในทุกองค์ประกอบ"

ความแตกต่างนั้นชัดเจน: คำสั่งเร่งสำหรับ AI ทั่วทั้งระบบการต่อสู้ ซึ่งดูแลโดยสำนักงานที่ทำงานที่ระดับ 30 เปอร์เซ็นต์ของจุดแข็งที่ได้รับอนุญาต การพัฒนา AI อย่างรวดเร็วได้ท้าทายหน่วยงานกำกับดูแลทั่วโลก เนื่องจากเทคโนโลยีก้าวล้ำหน้าการกำกับดูแลด้านกฎหมายและการกำกับดูแลของมนุษย์แบบดั้งเดิม และขณะนี้หน่วยงานเฝ้าระวังของกระทรวงกลาโหมเองก็บันทึกช่องว่างภายในระบบราชการทหารที่ใหญ่ที่สุดในโลก หากต้องการรายงานเพิ่มเติมเกี่ยวกับนโยบายและการกำกับดูแลของ AI โปรดดูที่ หน้าแรกของข่าว AI

เดิมพัน: การกำหนดเป้าหมาย รั้ว และการปฏิเสธที่เปลี่ยนรูปแบบนโยบาย

ผลที่ตามมาของการกำกับดูแลแบบบางนั้นไม่ใช่เรื่องสมมุติ Bloomberg รายงานเมื่อเดือนที่แล้ว และ Stars and Stripes ย้ำว่าซอฟต์แวร์ที่ใช้ AI ซึ่งใช้ในการเลือกเป้าหมาย มีส่วนทำให้สหรัฐฯ โจมตีโรงเรียนประถมด้วยขีปนาวุธ Tomahawk เมื่อวันที่ 28 กุมภาพันธ์ ซึ่งเป็นวันแรกของสงครามอิหร่าน ซึ่งมีเด็กมากกว่า 100 คนถูกสังหาร

การต่อสู้เพื่อกำกับดูแล AI ของกองทัพยังดึงดูดภาคเอกชนด้วย ในเดือนกุมภาพันธ์ รัฐมนตรีกระทรวงกลาโหม Pete Hegseth และประธานาธิบดีโดนัลด์ ทรัมป์ กดดันกลุ่ม Anthropic ให้ถอดราวกั้นความปลอดภัยออกในแบบจำลอง Claude ที่รัฐบาลทำสัญญาไว้ เพื่อป้องกันไม่ให้ระบบถูกใช้สำหรับอาวุธอัตโนมัติเต็มรูปแบบและการสอดแนมจำนวนมาก เมื่อ Anthropic ปฏิเสธ ฝ่ายบริหารได้กำหนดให้บริษัทมีความเสี่ยงด้านความมั่นคงของชาติ และห้ามหน่วยงานของรัฐใช้ Claude ซึ่งเป็นประเด็นขัดแย้งที่ AI Buzz Wire ครอบคลุมทั่วทั้งศาล รวมถึงคำตัดสินของศาลอุทธรณ์ที่ยึดถือบัญชีดำ

การวิ่งที่ 30 เปอร์เซ็นต์หมายถึงอะไรในทางปฏิบัติ

สำนักงานกำกับดูแลที่มีตำแหน่งที่ได้รับอนุญาตสามตำแหน่งจากทั้งหมดสิบตำแหน่งไม่ใช่ระบบราชการที่มีงานค้าง แต่เป็นกรอบการทำงานที่เศษส่วนของความสามารถที่ตั้งใจไว้ โครงการริเริ่ม Responsible AI ขึ้นอยู่กับ CDAO ในการแปลหลักการทางจริยธรรมเป็นกระบวนการตรวจสอบที่โปรแกรมอาวุธและการสื่อสารจริงต้องปฏิบัติตาม และทุกที่นั่งที่ยังไม่เพียงพอแสดงถึงงานที่เลิกทำหรือตกเป็นของพนักงานที่เหลือซึ่งกระจายอยู่ในแฟ้มผลงาน

เนื่องจากเจ้าหน้าที่กลาโหมบอกกับ GAO ว่าตำแหน่งงานว่างไม่น่าจะเต็ม ข้อจำกัดจึงดูคงทนมากกว่าเป็นวัฏจักร โปรแกรมต่างๆ จะยังคงขยายขีดความสามารถของ AI ต่อไป และภาระในทางปฏิบัติของการใช้กรอบการทำงานด้านจริยธรรมจะมุ่งเน้นไปที่คนกลุ่มเล็กลงเรื่อยๆ

จริยธรรมของมนุษย์เป็นแนวป้องกันสุดท้าย

ทนายความด้านการทหารแย้งว่าช่องว่างระหว่างพนักงานทำให้วิจารณญาณของมนุษย์เป็นเพียงการตรวจสอบที่มีความหมายเท่านั้น “การตัดสินใจทางทหารจะต้องอยู่บนพื้นฐานของจริยธรรมของมนุษย์ และการบอกคอมพิวเตอร์ให้ทำบางสิ่งบางอย่างให้สำเร็จอาจเป็นวิธีที่รวดเร็วมากในการทำสิ่งนั้น แต่อาจไม่ใช่วิธีทางกฎหมายที่มีจริยธรรม ศีลธรรม หรือชอบด้วยกฎหมายในการบรรลุสิ่งที่เราพยายามจะทำให้เกิดขึ้น” Sean Timmons ทนายความที่เชี่ยวชาญด้านกฎหมายทหารที่บริษัท Tully Rinckey กล่าวทางโทรศัพท์เมื่อวันอังคาร ตามรายงานของ Stars and Stripes

ผู้นำอุตสาหกรรม AI บางคนเรียกร้องให้ชะลอความก้าวหน้าของ AI โดยเตือนว่าการสูญเสียการควบคุมตัวแทน AI ที่เป็นอิสระอาจก่อให้เกิดภัยคุกคามที่มีอยู่ — คำเตือนที่มีน้ำหนักเป็นพิเศษเมื่อนำไปใช้กับอาวุธอัตโนมัติ การค้นพบของ GAO ชี้ให้เห็นว่าในตอนนี้ องค์ประกอบที่เติบโตเร็วที่สุดของอำนาจทางการทหารของสหรัฐฯ กำลังถูกปรับขนาดก่อนโครงสร้างพื้นฐานของมนุษย์ที่มีไว้เพื่อควบคุมมัน

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →