การเจรจาเกี่ยวกับกฎเกณฑ์ที่เป็นไปได้สำหรับอาวุธอัตโนมัติร้ายแรงที่เรียกว่า "หุ่นยนต์นักฆ่า" กำลังดำเนินการอยู่ที่องค์การสหประชาชาติในกรุงเจนีวา ในการประชุมที่ผู้สนับสนุนการควบคุมอาวุธอธิบายว่าเป็นโอกาสสุดท้ายที่สมจริงในการกำหนดขอบเขตก่อนที่เทคโนโลยีจะแซงหน้าการทูตโดยสิ้นเชิง การเจรจาดังกล่าวมีขึ้นในการประชุมสหประชาชาติว่าด้วยอาวุธตามแบบแผนบางประเภท (CCW) ในสัปดาห์นี้ ซึ่งเป็นเวทีที่จัดในระดับนี้เพียงครั้งเดียวทุกๆ ห้าปี

ความเร่งด่วนไม่ใช่เรื่องสมมุติ เทคโนโลยีสงครามก้าวหน้าไปอย่างรวดเร็วในช่วงไม่กี่ปีที่ผ่านมา และขณะนี้ผู้เชี่ยวชาญบางคนเตือนโลกว่ายังเหลืออาวุธอีกเพียงไม่กี่เดือนที่สามารถเลือกเป้าหมายและตัดสินใจสังหารได้โดยไม่ต้องมีมนุษย์อยู่ในวง ในยูเครนและฉนวนกาซา อาวุธที่ได้รับความช่วยเหลือจาก AI ได้ถูกนำมาใช้เพื่อโจมตีเป้าหมายแล้ว โดยพลเรือนชาวยูเครนรายงานว่าพวกเขาถูก "ตามล่า" โดยโดรนขณะช็อปปิ้งหรือเดินไปโรงเรียน ระบบเหล่านั้นยังคงได้รับการควบคุมจากระยะไกลโดยผู้ปฏิบัติงานที่เป็นมนุษย์ แต่ระยะห่างระหว่างการควบคุมระยะไกลกับการทำงานอัตโนมัติเต็มรูปแบบกำลังลดลง สำหรับผู้อ่านที่ติดตามว่าสาขานี้ดำเนินไปเร็วแค่ไหน อาวุธ AI และการรายงานข่าวด้านจริยธรรม จะติดตามการพัฒนาทุกครั้ง

เหตุใดนักรณรงค์จึงเรียกสิ่งนี้ว่า 'โอกาสที่ดีที่สุดครั้งสุดท้าย'

ผู้สนับสนุนการควบคุมอาวุธอัตโนมัติโต้แย้งว่าการประชุม CCW ในสัปดาห์นี้ถือเป็นหน้าต่างสุดท้ายในการตกลงกฎต่างๆ ในขณะที่เทคโนโลยียังอยู่ในช่วงกึ่งอิสระ เมื่ออาวุธที่เลือกและมีส่วนร่วมกับเป้าหมายอย่างอิสระได้รับการสอดส่องในวงกว้าง พวกเขาโต้แย้ง การเจรจาต่อรองจะยากขึ้นอย่างมาก - รัฐต่างๆ จะรวมระบบเข้ากับคลังแสงและหลักคำสอนของตนแล้ว

น้ำหนักทางศีลธรรมที่อยู่เบื้องหลังการพูดคุยนั้นกว้างผิดปกติ ก่อนการประชุม องค์การสหประชาชาติ คณะกรรมการกาชาดระหว่างประเทศ และสมเด็จพระสันตะปาปา ต่างเรียกร้องให้มีกฎเกณฑ์ที่มีผลผูกพันทางกฎหมาย อันโตนิโอ กูเตอร์เรส เลขาธิการสหประชาชาติ เตือนว่า การอนุญาตให้สังหารด้วยอาวุธอัตโนมัติเต็มรูปแบบถือเป็นการ "ก้าวข้ามเส้นสีแดงทางศีลธรรม"

กรณีด้านมนุษยธรรม: ความรับผิดชอบจะต้องคงความเป็นมนุษย์

องค์กรด้านมนุษยธรรมโต้แย้งว่าการตัดสินใจที่จะสังหาร และความรับผิดชอบต่อการเลือกนั้น จะต้องอยู่ในมือของมนุษย์ กาชาดมีความกังวลเป็นพิเศษว่ากฎสงครามที่มีอยู่ ซึ่งประมวลไว้ในอนุสัญญาเจนีวา ไม่สามารถเคารพได้อย่างน่าเชื่อถือโดยระบบอัตโนมัติ สงครามเป็นเรื่องที่วุ่นวายและดำเนินไปอย่างรวดเร็ว และอนุสัญญาจะปกป้องทหารที่ได้รับบาดเจ็บหรือยอมจำนนจากการตกเป็นเป้าหมาย

“ความเสี่ยงก็คือ ด้วยเทคโนโลยีที่เราเห็น พวกเขาไม่สามารถเข้าใจในลักษณะเดียวกับที่มนุษย์เป็นสัญญาณบริบท” จอร์เจีย ไฮน์ส ที่ปรึกษากฎหมายของสภากาชาด กล่าว “และมีความเสี่ยงสูงจนทำให้การระบุเป้าหมายผิดพลาด”

กลุ่มสิทธิมนุษยชนเพิ่มมิติทางเศรษฐกิจให้กับอันตราย: เทคโนโลยีที่อยู่เบื้องหลังอาวุธที่ได้รับความช่วยเหลือจาก AI มีราคาถูกและใช้งานง่าย ยิ่งกองทัพระดับชาตินำไปใช้ในวงกว้างเท่าใด ความเสี่ยงในการแพร่กระจายไปยังกลุ่มก่อการร้ายหรือหน่วยงานบังคับใช้กฎหมายในระบอบเผด็จการก็จะยิ่งมากขึ้นเท่านั้น ตามทฤษฎีแล้ว ฝูงโดรนอัตโนมัติสามารถตั้งโปรแกรมให้โจมตีทุกคนที่สวมเสื้อผ้าสีใดสีหนึ่งหรือถือโปสเตอร์เฉพาะได้ การเลือกปฏิบัติในระดับที่กฎแห่งสงครามไม่เคยได้รับการออกแบบมาให้รับมือ

ห้องแยก: 50 รัฐบวกกับสามยักษ์ใหญ่

อย่างน้อย 50 ประเทศ รวมถึงไอร์แลนด์ อิตาลี บราซิล เม็กซิโก ฝรั่งเศส และเยอรมนี กำลังเรียกร้องให้มีกำหนดเวลาที่เข้มงวดเพื่อตกลงกฎเกณฑ์ที่มีผลผูกพันเกี่ยวกับอาวุธอัตโนมัติ รัฐต่างๆ ที่กำลังประชุมกันที่เจนีวาในขณะนี้ ให้ความสำคัญกับข้อกังวลด้านมนุษยธรรมอย่างจริงจัง และต้องการให้กระบวนการนี้ยึดหลักกฎหมายระหว่างประเทศ

แต่ในบรรดารัฐต่างๆ ที่กำลังพัฒนาและปรับใช้อาวุธกึ่งอัตโนมัติอยู่แล้ว ก็ยังมีกระแสต่อต้านอยู่มาก สหรัฐอเมริกา รัสเซีย และอิสราเอล ระบุว่าพวกเขาจะต่อต้านกฎที่มีผลผูกพันทางกฎหมาย ข้อเสนอตอบโต้ของวอชิงตัน: ​​ตารางเวลาห้าปีในการร่างแนวปฏิบัติที่ไม่มีผลผูกพันแทน

จุดยืนของสหรัฐฯ สะท้อนให้เห็นถึงความกังขาต่อสนธิสัญญาในวงกว้างมากขึ้น

จุดยืนของชาวอเมริกันสอดคล้องกับรูปแบบที่ยาวนาน กล่าวคือ เดิมทีสหรัฐฯ เป็นผู้ยอมรับสนธิสัญญาระหว่างประเทศล่าช้า ไม่เคยให้สัตยาบันต่ออนุสัญญาออตตาวาว่าด้วยทุ่นระเบิด แม้ว่าเมื่อเวลาผ่านไป ก็ได้หยุดวางทุ่นระเบิดและลดปริมาณสำรองลงก็ตาม ภายใต้ประธานาธิบดีทรัมป์ ความสงสัยเกี่ยวกับกฎหมายระหว่างประเทศมีความชัดเจนมากขึ้น โดยวอชิงตันได้บังคับใช้มาตรการคว่ำบาตรอย่างกว้างขวางต่อศาลอาญาระหว่างประเทศ และมาร์โก รูบิโอ รัฐมนตรีกระทรวงการต่างประเทศสุดสัปดาห์นี้ในการกล่าวปาฐกถาพิเศษต่อสมาคมสหพันธรัฐ เตือนไม่ให้ "เสนอกฎหมายแก่ผู้ชายที่ถือดาบ"

กฎฉันทามติและประวัติวิธีแก้ปัญหา

ปัญหาเชิงโครงสร้างเกิดขึ้นจากการเจรจาที่เจนีวา การเจรจาของสหประชาชาติเกี่ยวกับการจำกัดอาวุธเฉพาะเจาะจงควรดำเนินการโดยฉันทามติ กลไกดังกล่าวก่อให้เกิดข้อตกลงสำคัญประการหนึ่ง นั่นคือการห้ามการใช้เลเซอร์ทำให้ไม่เห็นในปี 1995 แต่ความพยายามอื่นๆ ส่วนใหญ่ได้เริ่มต้นขึ้นแล้ว เมื่อมีกับระเบิด ประเทศต่างๆ ที่ผิดหวังจากกระบวนการของสหประชาชาติที่ล่าช้า ในที่สุดก็มีการเจรจานอกระบบโดยสิ้นเชิง ทำให้เกิดอนุสัญญาออตตาวา

นักการทูตกำลังลอยตัวการประนีประนอมที่เป็นไปได้สำหรับสัปดาห์นี้: ระยะเวลาการเจรจาต่อรองที่ยาวนานขึ้นหรือแม้กระทั่งปลายเปิดเพื่อพัฒนากฎเกณฑ์ที่รัฐแต่ละรัฐสามารถนำมาใช้เป็นแบบผูกมัดหรือไม่ผูกมัดได้ สำหรับกองเชียร์ นั่นคือหนทางที่จะรับประกันความก้าวหน้าเป็นอย่างน้อย สำหรับผู้รณรงค์ ถือว่ายังไม่เพียงพอ มีคนเปรียบเทียบวิธีการเตะกระป๋องที่อันตรายมากข้างถนน

จะเกิดอะไรขึ้นต่อไป

หากการประชุมจบลงด้วยการมอบอำนาจแบบปลายเปิด ผลในทางปฏิบัติก็คือข้อจำกัดที่มีผลผูกพันต่ออาวุธอัตโนมัติจะลดน้อยลงไปอีกในอนาคต ในขณะที่ไทม์ไลน์การใช้งานยังคงมีการบีบอัด รัฐบาล ทหาร และบริษัทสตาร์ทอัพด้านกลาโหมจะจับตาดูเจนีวาอย่างใกล้ชิดในสัปดาห์นี้ เพราะไม่ว่าฉันทามติจะลงเอยด้วยวิธีใดก็ตาม ก็จะกำหนดขอบเขตทางกฎหมายสำหรับอาวุธอัตโนมัติในอีกหลายปีข้างหน้า

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →