คณะกรรมการวุฒิสภาคนสำคัญของสหรัฐอเมริกาได้ขยับราวกั้น AI ของกองทัพที่เสนอมาเข้าใกล้การบังคับใช้กฎหมายอีกขั้นหนึ่ง โดยอนุมัติกฎหมายที่จะควบคุมวิธีที่กระทรวงกลาโหมพัฒนา ทดสอบ และปรับใช้ระบบปัญญาประดิษฐ์และอาวุธอัตโนมัติ

คณะกรรมการบริการติดอาวุธของวุฒิสภารับรองกรอบการทำงานใหม่ในร่างพระราชบัญญัติการอนุญาตด้านกลาโหมแห่งชาติประจำปีงบประมาณ 2027 ซึ่งจะเสร็จสิ้นการเพิ่มส่วนเพิ่มของร่างกฎหมายดังกล่าวในวันที่ 10 มิถุนายน บทบัญญัติดังกล่าวเน้นย้ำถึงวิจารณญาณของมนุษย์และความรับผิดชอบของมนุษย์ขั้นสูงสุด ขณะเดียวกันก็สนับสนุนการนำเทคโนโลยีอัตโนมัติของเพนตากอนมาใช้เป็นส่วนใหญ่ ตามรายงานของสมาคมควบคุมอาวุธ ซึ่งรายงานรายละเอียดในเดือนกรกฎาคม พ.ศ. 2569 For more context on this story, see our ongoing artificial intelligence updates.

กฎหมายที่เสนอจะกำหนดให้กระทรวงกลาโหมต้องแน่ใจว่าบุคลากรใช้วิจารณญาณของมนุษย์ในระดับที่เหมาะสมเกี่ยวกับการใช้อาวุธที่ใช้ระบบ AI และระบบที่เกี่ยวข้องได้รับการออกแบบเพื่อให้ผู้บังคับบัญชาและผู้ปฏิบัติงานรักษาความรับผิดชอบของมนุษย์ขั้นสูงสุดเหนือการใช้กำลัง

การจัดระบบการกำกับดูแลของมนุษย์

กรอบการทำงานดังกล่าวสร้างขึ้นจากหลักการที่กำหนดไว้แล้วในคำสั่งกระทรวงกลาโหม 3000.09 ซึ่งควบคุมความเป็นอิสระในระบบอาวุธ แต่ยังขาดคำจำกัดความที่ชัดเจนว่าอะไรถือเป็นวิจารณญาณของมนุษย์ที่มีความหมาย ภาษาใหม่พยายามที่จะอธิบายหลักการดังกล่าวอย่างละเอียดด้วยเงื่อนไขที่เป็นรูปธรรม

ภายใต้บทบัญญัติที่เสนอ ระบบอัตโนมัติจะต้องอนุญาตให้มีการควบคุมดูแลโดยผู้ปฏิบัติงานที่เป็นมนุษย์ รวมถึงวิธีการในการแทรกแซงหรือยุติ รวมกลไกความปลอดภัยเมื่อเกิดข้อผิดพลาดเพื่อให้สามารถควบคุมด้วยตนเอง และให้ข้อมูลการตรวจสอบที่เพียงพอแก่ผู้ควบคุม ระบบยังต้องเก็บรักษาบันทึกข้อมูลและตรรกะการเลือกเป้าหมาย และดำเนินการตามกฎหมายระหว่างประเทศ กฎหมายว่าด้วยการขัดกันด้วยอาวุธ สนธิสัญญาที่เกี่ยวข้อง และนโยบายของกระทรวงกลาโหม

กฎหมายจะประมวลกระบวนการตรวจสอบที่มีอยู่ซึ่งได้รับคำสั่งจากคำสั่งปี 2023 พร้อมทั้งเพิ่มเกณฑ์การตรวจสอบ การตรวจสอบ การทดสอบ และการประเมิน สำนักงานผู้อำนวยการฝ่ายทดสอบและประเมินผลการปฏิบัติการของกระทรวงกลาโหม ซึ่งได้รับการเสนอให้ลดงบประมาณลงสองในสามในคำของบประมาณปัจจุบัน จะถูกตั้งข้อหาดูแลให้ระบบที่ครอบคลุมทำงานได้ตามที่คาดไว้เพื่อต่อต้านศัตรูที่ปรับตัวได้

สายสีแดงนิวเคลียร์

บทบัญญัติที่สำคัญที่สุดประการหนึ่งจะห้ามการใช้ AI อย่างเด็ดขาดสำหรับการตัดสินใจใด ๆ ที่จะเริ่มการยิงหรือการระเบิดอาวุธนิวเคลียร์ ข้อจำกัดดังกล่าวถูกร้องขอบนพื้นฐานของทั้งสองฝ่ายในปี 2023 โดยวุฒิสมาชิกเอ็ด มาร์กี้, ผู้แทนเท็ด ลิว, ผู้แทนดอน เบเยอร์ และผู้แทนเคน บัค

อย่างไรก็ตาม ข้อความของคณะกรรมการวุฒิสภาไม่ได้รวมถึงการห้ามใช้ AI ในการกำหนดเป้าหมายอาวุธนิวเคลียร์ ซึ่งเป็นขั้นตอนที่วุฒิสมาชิก Kirsten Gillibrand แห่งนิวยอร์กเสนอไว้ในร่างกฎหมายเดี่ยวที่ประกาศใช้เมื่อวันที่ 2 มิถุนายน การละเว้นดังกล่าวเน้นย้ำถึงขอบเขตของสิ่งที่ฝ่ายนิติบัญญัติเต็มใจที่จะจำกัด แม้ว่าพวกเขาจะเคลื่อนไหวเพื่อจำกัดความสามารถในตนเองขั้นสูงสุดก็ตาม

คณะกรรมการยังจะสร้างพื้นที่เก็บข้อมูลเหตุการณ์เพื่อติดตามข้อมูลเกี่ยวกับความล้มเหลวของระบบ พฤติกรรมที่ไม่ได้ตั้งใจ และเหตุการณ์ที่เกือบจะพลาด ซึ่งเป็นมาตรการที่มุ่งปรับปรุงความรับผิดชอบ ในขณะที่กองทัพรวม AI เข้ากับปฏิบัติการมากขึ้น

มูลนิธิสองพรรค

กรอบการทำงานส่วนใหญ่ติดตามร่างกฎหมายที่ผู้นำพรรคเดโมแครตประกาศเมื่อวันที่ 8 มิถุนายน โดยมีสมาชิกระดับสูง แจ็ค รีด จากโรดไอส์แลนด์ และวุฒิสมาชิก คริส คูนส์ จากเดลาแวร์ ซึ่งดำรงตำแหน่งระดับสูงของพรรคเดโมแครตในคณะอนุกรรมการจัดสรรกลาโหมของวุฒิสภา ข้อความซึ่งได้รับการยอมรับจากเสียงข้างมากของพรรครีพับลิกันในร่างฐานของร่างกฎหมายนโยบายดังกล่าว ยังรวมเอาส่วนสำคัญของข้อเสนอของวุฒิสมาชิกมาร์ค เคลลี แห่งรัฐแอริโซนา และผู้แทนซูฮาส ซูบรามันยัม แห่งเวอร์จิเนีย เข้าด้วยกัน

วุฒิสมาชิกพรรคเดโมแครตอีกหลายคนได้เสนอข้อเสนอที่แข่งขันกันในช่วงสัปดาห์ก่อนการเพิ่มราคา รวมถึงมาตรการของวุฒิสมาชิกอดัม ชิฟฟ์ วุฒิสมาชิกเอลิสซา สลอคิน และวุฒิสมาชิกเคลลี่ ภาษาของคณะกรรมการวุฒิสภาซึ่งอิงตามร่างกฎหมาย Coons-Reed มีความเฉพาะเจาะจงน้อยกว่าในการคุ้มครองจากการสอดแนมภายในประเทศมากกว่าทางเลือกอื่นๆ เหล่านั้น

ในส่วนอื่นๆ ในร่างกฎหมาย คณะกรรมการแนะนำให้สร้างคำสั่งหุ่นยนต์และระบบอัตโนมัติที่รับผิดชอบในการสร้างกำลัง การฝึกร่วม การทำงานร่วมกัน การพัฒนาหลักคำสอน และการจ้างงานในการปฏิบัติงานผ่านคำสั่งการรบอื่นๆ

การชั่งน้ำหนักผลกระทบต่อนักสู้

เพื่อสะท้อนถึงความกังวลของทั้งสองฝ่ายเกี่ยวกับผลกระทบของการนำ AI มาใช้อย่างรวดเร็ว ส่วนที่แยกต่างหากของร่างได้รวมเอาร่างกฎหมายที่เสนอโดยวุฒิสมาชิก Kelly และวุฒิสมาชิก Tom Cotton จากพรรครีพับลิกันในอาร์คันซอ ที่จะสั่งให้กระทรวงกลาโหมประเมินว่าการใช้ AI ส่งผลต่อการบำรุงรักษาและการรักษาทักษะนักสู้ที่จำเป็นอย่างไร

ความก้าวหน้าดังกล่าวเกิดขึ้นในขณะที่สหรัฐฯ เร่งบูรณาการปัญญาประดิษฐ์เข้ากับกองทัพได้เร็วกว่าฝ่ายตรงข้าม ในขณะที่ฝ่ายนิติบัญญัติพยายามสร้างรั้วที่ป้องกันความล้มเหลวจากภัยพิบัติโดยไม่ทำให้การใช้งานช้าลง ร่างกฎหมายดังกล่าวยังคงต้องผ่านวุฒิสภาและสภาผู้แทนราษฎรทั้งหมดก่อนที่จะถึงโต๊ะของประธานาธิบดี และบทบัญญัติอาจมีการเปลี่ยนแปลงในระหว่างการเจรจาระหว่างสภาทั้งสอง

ถึงกระนั้น การอนุมัติของคณะกรรมการยังถือเป็นขั้นตอนที่เป็นรูปธรรมที่สุดประการหนึ่งโดยสภาคองเกรสในการกำหนดข้อจำกัดทางกฎหมายที่มีผลผูกพันเกี่ยวกับวิธีการใช้ระบบอัตโนมัติของกองทัพ การกำหนดพารามิเตอร์ที่อาจกำหนดอนาคตของการทำสงครามในปีต่อ ๆ ไป

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →