มหาอำนาจทางการทหารสหรัฐฯ และรัสเซีย เตรียมต่อต้านการผลักดันการประชุมระดับโลกที่กรุงเจนีวาในสัปดาห์นี้ เพื่อเริ่มการเจรจาเกี่ยวกับกฎเกณฑ์ที่มีผลผูกพันทางกฎหมายสำหรับอาวุธอัตโนมัติ ในสิ่งที่นักการทูตและกลุ่มสิทธิมนุษยชนคาดหวังว่าจะเป็นการเจรจาที่ยากลำบาก รอยเตอร์รายงานเมื่อวันจันทร์

การประชุมที่สหประชาชาติเป็นเจ้าภาพ ซึ่งเริ่มเมื่อวันจันทร์ที่เจนีวา จะต้องตัดสินใจว่าจะเปิดการเจรจาสำหรับข้อตกลงที่มีผลผูกพันทางกฎหมายเกี่ยวกับการห้ามและกฎระเบียบสำหรับระบบอาวุธอัตโนมัติร้ายแรง (LAWS) หรือที่เรียกว่า “หุ่นยนต์นักฆ่า” ที่นักวิจารณ์เตือนสามารถเลือกและโจมตีเป้าหมายได้โดยไม่ต้องมีส่วนร่วมของมนุษย์ การเพิ่มขึ้นของปัญญาประดิษฐ์ได้เร่งการพัฒนาโดรน หุ่นยนต์ รถถัง และเรือดำน้ำที่สามารถสังหารได้โดยไม่ต้องอาศัยคำสั่งจากมนุษย์โดยตรง และอาวุธกึ่งอัตโนมัติที่ได้รับความช่วยเหลือจาก AI ได้เห็นการต่อสู้ในยูเครน ซูดาน และตะวันออกกลาง ซึ่งเป็นวิวัฒนาการในโลกแห่งความเป็นจริงที่ติดตามได้ใน การรายงานข่าวของอุตสาหกรรม AI ของภาคส่วนเทคโนโลยีการป้องกันประเทศ

มีอะไรอยู่บนโต๊ะในเจนีวา

การประชุมครั้งนี้ถือเป็นการประชุมทบทวนอนุสัญญาว่าด้วยอาวุธตามแบบแผนบางประเภท (CCW) ซึ่งมีรัฐ 128 รัฐเป็นภาคี ในขณะที่รัฐเหล่านั้นส่วนใหญ่สนับสนุนการเจรจาเพื่อบรรลุเครื่องมือที่มีผลผูกพันต่อกฎหมาย ประเทศทหารหลัก ๆ รวมถึงสหรัฐอเมริกา รัสเซีย และอิสราเอล คัดค้านความเคลื่อนไหวดังกล่าว โดยโต้แย้งว่ากฎหมายมนุษยธรรมระหว่างประเทศที่มีอยู่นั้นเพียงพอที่จะควบคุมอาวุธเหล่านี้แล้ว

มีข้อเสนอที่แข่งขันกันหลายประการ ประธานการเจรจาในสัปดาห์นี้ได้เสนออาณัติสองปีในการเจรจาข้อตกลงที่มีผลผูกพันทางกฎหมาย ในทางตรงกันข้าม วอชิงตันสนับสนุนแนวปฏิบัติเหนือกฎเกณฑ์ที่มีผลผูกพัน และได้เสนอกรอบเวลา 5 ปีสำหรับการเจรจาเกี่ยวกับข้อตกลงที่ไม่มีผลผูกพัน สหราชอาณาจักร เยอรมนี และฝรั่งเศสได้เสนอให้มีการเจรจาเกี่ยวกับตราสารที่จะยังเปิดดำเนินการ ไม่ว่าท้ายที่สุดแล้วมันจะมีผลผูกพันทางกฎหมายหรือไม่ ตามรายงานของ Verity Coyle ของ Human Rights Watch ให้สัมภาษณ์กับรอยเตอร์

นักการทูตบอกกับรอยเตอร์ว่าการหารือดูเหมือนจะเป็นเรื่องที่ท้าทาย แต่กล่าวว่ารัฐต่างๆ สามารถสร้างสะพานเชื่อมไปสู่ข้อตกลงประนีประนอมได้ภายในสิ้นสัปดาห์นี้ ตัวเลือกทั้งหมดยังคงอยู่บนโต๊ะ ตั้งแต่ข้อความที่มีผลผูกพันทางกฎหมายไปจนถึงข้อความที่ไม่มีผลผูกพันทางกฎหมาย รวมถึงข้อตกลงแบบผสมที่รวมองค์ประกอบทั้งสองเข้าด้วยกัน

เหตุใดสหรัฐฯ และรัสเซียจึงต่อต้าน

จุดยืนของวอชิงตันขึ้นอยู่กับข้อโต้แย้งที่ว่ากฎหมายระหว่างประเทศได้กำหนดกรอบการทำงานในการกำกับดูแลการทำสงครามไว้แล้ว ซึ่งทำให้ไม่จำเป็นต้องมีสนธิสัญญาฉบับใหม่ รัสเซียไม่ได้ระบุจุดยืนของตนเองในการเจรจาอย่างเปิดเผย แต่ก่อนหน้านี้ได้ต่อต้านข้อเสนอสำหรับข้อตกลงที่มีผลผูกพันทางกฎหมาย และวางแผนที่จะขัดขวางสหภาพยุโรป ซึ่งเป็นผู้สังเกตการณ์การเจรจา ไม่ให้ขึ้นเวที นักการทูตอาวุโสชาวตะวันตกกล่าวกับรอยเตอร์

Anna Hehir หัวหน้าฝ่ายกำกับดูแล AI ทางการทหารที่ Future of Life Institute กล่าวกับรอยเตอร์ว่า สหรัฐฯ และรัสเซียอาจจะพยายามที่จะลดทอนผลลัพธ์ใดๆ ก็ตาม เช่นเดียวกับที่เคยทำในเดือนกันยายนพร้อมข้อความของ UN เกี่ยวกับอาวุธอัตโนมัติและศักยภาพที่จะเกิดอันตราย ที่สมัชชาใหญ่แห่งสหประชาชาติเมื่อเดือนที่แล้ว รัฐต่างๆ 163 รัฐได้มีมติเรียกร้องให้มีการเจรจาเกี่ยวกับกฎเกณฑ์เกี่ยวกับอาวุธอัตโนมัติ โดยมีประเทศ 5 ประเทศลงคะแนนเสียงต่อต้าน ได้แก่ สหรัฐอเมริกา รัสเซีย เบลารุส อิสราเอล และเกาหลีเหนือ และมีประเทศที่งดออกเสียง 9 ประเทศ รวมถึงอิหร่าน ซาอุดีอาระเบีย และจีน

คำเตือนจาก UN, กาชาด และสมเด็จพระสันตะปาปา

การผลักดันกฎระเบียบได้รับการสนับสนุนจากกลุ่มพันธมิตรที่ไม่ธรรมดา อันโตนิโอ กูเตอร์เรส เลขาธิการสหประชาชาติ ซึ่งเป็นผู้นำของคณะกรรมการกาชาดระหว่างประเทศ และสมเด็จพระสันตะปาปาลีโอที่ 14 ต่างเตือนไม่ให้มอบพลังแห่งชีวิตและความตายให้กับเครื่องจักรที่เป็นอิสระอย่างสมบูรณ์ ในปี 2023 กูเตอร์เรสและประธาน ICRC มีร์ยานา สโปลจาริก เอ็กเกอร์ ร่วมกันเรียกร้องให้รัฐต่างๆ สรุปการห้ามอาวุธอัตโนมัติก่อนปี 2026

“ความจำเป็นในการควบคุมอาวุธอัตโนมัติกลายเป็นเรื่องเร่งด่วนใหม่” ด้วยการพัฒนาด้านปัญญาประดิษฐ์ Laurent Gisel หัวหน้าหน่วยอาวุธและการปฏิบัติการสู้รบของ ICRC กล่าว กาชาดยืนยันว่ากฎหมายด้านมนุษยธรรมไม่ได้ระบุถึงความเสี่ยงเฉพาะที่เกิดจากอาวุธอัตโนมัติ และเรียกร้องให้มีการห้ามใช้อาวุธอัตโนมัติ 2 ประเภท ได้แก่ อาวุธอัตโนมัติที่คาดเดาไม่ได้ และอาวุธที่ออกแบบหรือใช้เพื่อกำหนดเป้าหมายไปที่มนุษย์โดยตรง

“เครื่องจักรไม่ควรได้รับอนุญาตให้ตัดสินว่าใครเป็นหรือตายในสนามรบ แต่นั่นคือความเป็นจริงดิสโทเปียที่กำลังใกล้เข้ามา” เวริตี คอยล์ จาก Human Rights Watch ซึ่งเรียกร้องให้การประชุมทบทวนดำเนินการอย่างแข็งขัน และเตือนว่าพลเรือนจะถูก “เปิดโปงอย่างเป็นอันตราย” หากการประชุมล้มเหลว

อาวุธอัตโนมัติอยู่ในสนามรบแล้ว

ผู้สนับสนุนกฎที่มีผลผูกพันโต้แย้งว่าการอภิปรายได้ก้าวข้ามสมมติฐานไปแล้ว มีรายงานว่า รัสเซียได้ใช้โดรนอัตโนมัติเต็มรูปแบบเพื่อสร้างผลกระทบร้ายแรงต่อสงครามกับยูเครน ในขณะที่อุตสาหกรรมการป้องกันประเทศของยูเครนกำลังผลักดันให้พัฒนาฝูงโดรนอัตโนมัติ เมื่อสัปดาห์ที่แล้ว เกาหลีเหนืออวดระบบตอร์ปิโดที่ใช้ AI ใหม่

Hehir บอกกับรอยเตอร์ว่า LAWS ไม่ใช่นิยายวิทยาศาสตร์อีกต่อไป โดยชี้ไปที่การรายงานของสื่อเกี่ยวกับการใช้ระบบอัตโนมัติเต็มรูปแบบในยูเครนตั้งแต่เนิ่นๆ นักรณรงค์เตือนว่าระบบอาจทำงานคาดเดาไม่ได้ เพิ่มความเสี่ยงต่อข้อผิดพลาดร้ายแรง แม้ว่ากองทัพตั้งใจจะให้มนุษย์อยู่ในความควบคุมก็ตาม

จะเกิดอะไรขึ้นต่อไป

เมื่อพิจารณาถึงการต่อต้านจากมหาอำนาจทางทหารชั้นนำ ผู้สังเกตการณ์กล่าวว่าไม่น่าเป็นไปได้ที่จะบรรลุข้อตกลงในสัปดาห์นี้เพื่อเริ่มการเจรจาอย่างเป็นทางการเกี่ยวกับกฎเกณฑ์ที่มีผลผูกพัน นักการทูตแนะนำว่าผลลัพธ์ที่เป็นไปได้มากที่สุดคือคำสั่งประนีประนอม ซึ่งอาจเป็นเครื่องมือลูกผสมที่ข้ามคำถามเรื่องความผูกพันทางกฎหมาย หรือการหยุดชะงักอีกปีหนึ่ง

ไม่ว่าจะด้วยวิธีใด เซสชั่นเจนีวาจะทดสอบว่าการควบคุมอาวุธระหว่างประเทศสามารถตามทันการพัฒนาอาวุธที่ขับเคลื่อนด้วย AI หรือไม่ หรือเช่นเดียวกับการเปลี่ยนแปลงทางเทคโนโลยีทางทหารก่อนหน้านี้ ข้อจำกัดที่มีผลผูกพันจะเกิดขึ้นหลังจากอาวุธมีการใช้งานอย่างแพร่หลายแล้วเท่านั้น

ก้าวนำหน้า AI

ติดตามการตัดสินใจเชิงนโยบายที่กำหนดวิธีการใช้งาน AI ทั่วโลก อ่านข่าว AI เพิ่มเติม →