สมเด็จพระสันตะปาปาลีโอที่ 14 กล่าวในการประชุมนักวิทยาศาสตร์และผู้เชี่ยวชาญด้าน AI ของวาติกันว่าระบบปัญญาประดิษฐ์เป็น "เครื่องมือ ไม่ใช่บุคคล" เตือนไม่ให้ให้สิทธิ์ทางกฎหมายแก่ตัวแทน AI และเรียกร้องให้รัฐบาลที่รวมตัวกันในกรุงเจนีวาในเดือนหน้าห้ามใช้อาวุธอัตโนมัติที่เป็นอันตรายถึงชีวิต
คำปราศรัยดังกล่าวถูกส่งไปยังผู้เข้าร่วม "The Future of AI: A Dialogue Between the Vatican and the Scientific World on the Developments and Applications of Intelligent Technologies" ซึ่งเป็นการประชุมที่จัดขึ้นร่วมกันโดยสถาบัน Pontifical Academy for Life และ the Future of Life สมเด็จพระสันตะปาปากล่าวว่าผู้เข้าร่วมจากประเทศต่างๆ แบ่งปัน "ความรู้สึกไม่สบายใจเกี่ยวกับการพัฒนาปัญญาประดิษฐ์ เราตระหนักดีถึงทิศทางที่เราควรทำ แต่ยังไม่เพียงพอในการก้าวไปข้างหน้า"
เครื่องจักรเป็นเครื่องมือ ไม่ใช่คน
บรรทัดที่อยู่ที่ชัดเจนที่สุดมุ่งเป้าไปที่แนวคิดที่กำลังได้รับความสนใจในบางส่วนของอุตสาหกรรมเทคโนโลยีและสถาบันกฎหมาย: การขยายความเป็นบุคคลทางกฎหมายหรือสิทธิ์ไปยังระบบ AI ขั้นสูง สมเด็จพระสันตะปาปาลีโอโต้แย้งตรงกันข้าม เขากล่าวว่าเครื่องจักรไม่มีประสบการณ์ ร่างกาย ความรู้สึก หรือความสัมพันธ์ และไม่เข้าใจความรัก งาน หรือความรับผิดชอบ
เขารับทราบว่ามีบางคนเสนอแนะให้สิทธิหรือความเป็นบุคคลตามกฎหมายแก่ระบบเหล่านี้ แต่การทำเช่นนั้นอาจเสี่ยงต่อการ "บดบังความรับผิดชอบของมนุษย์ และปล่อยให้ผู้ที่ได้รับอันตรายต้องเผชิญหน้ากับองค์กรที่ไร้รูปร่าง" ความคิดเห็นดังกล่าวเกิดขึ้นในช่วงเวลาเดียวกับที่ตัวแทน AI ดำเนินธุรกิจโดยอัตโนมัติ เจรจาสัญญา และดำเนินการในนามของผู้ใช้ ทำให้เกิดการถกเถียงทางกฎหมายอย่างแท้จริงเกี่ยวกับความรับผิดเมื่อระบบอัตโนมัติก่อให้เกิดอันตราย AI Buzz Wire กำลังติดตาม สิ่งนี้และการพัฒนานโยบาย AI อื่นๆ ที่เกิดขึ้น กรอบของสมเด็จพระสันตะปาปาทำให้มนุษย์กลับมาตั้งคำถามอีกครั้งว่า หากเจ้าหน้าที่ AI สร้างความเสียหาย ผู้ที่มีใบหน้าจะต้องตอบคำถามนั้น
"ปลดอาวุธ" AI: การห้ามใช้อาวุธอัตโนมัติ
ข้อพิจารณาประการที่สามของสมเด็จพระสันตะปาปา — ที่ว่าการตัดสินใจบางอย่างจะต้องไม่ถูกมอบหมายให้กับเครื่องจักร — มีตัวอย่างที่ชัดเจน: การวางบุคคลไว้ในรายชื่อเป้าหมายหรือในฐานข้อมูลการควบคุมชายแดน จะลดขนาดบุคคลเหล่านั้นเป็น "จุดข้อมูล" เขาได้กล่าวถึงคำปราศรัยของสมเด็จพระสันตะปาปาฟรานซิสคนก่อนในปี 2024 ต่อผู้นำ G7 โดยที่ฟรานซิสอธิบายว่า AI เป็น "เครื่องมือที่น่าตื่นเต้นและน่ากลัว" และยืนยันว่าไม่มีเครื่องจักรใดควรจะสามารถเลือกที่จะปลิดชีวิตมนุษย์ได้
“การตัดสินใจที่ส่งผลกระทบต่อชีวิตมนุษย์ เสรีภาพ และการใช้กำลัง จะต้องอยู่ภายใต้การควบคุมดูแลของมนุษย์ที่มีประสิทธิผล ได้รับความรู้ และมีความรับผิดชอบเสมอ” สมเด็จพระสันตะปาปาลีโอกล่าว นั่นคือเหตุผลที่ AI ต้อง "ปลดอาวุธ" เขาแย้ง และเขาสนับสนุนอย่างชัดเจนให้การประชุมของรัฐในกรุงเจนีวาในเดือนพฤศจิกายน ดำเนินการเพื่อห้ามใช้อาวุธอัตโนมัติที่เป็นอันตรายถึงชีวิต นักการทูตต่อสู้ดิ้นรนมานานหลายปีเพื่อยอมรับกฎเกณฑ์ที่มีผลผูกพันเกี่ยวกับอาวุธอัตโนมัติ การอุทธรณ์โดยตรงของสมเด็จพระสันตะปาปาเพิ่มน้ำหนักทางศีลธรรมให้กับกระบวนการเจรจาซึ่งส่วนใหญ่ได้รับแรงผลักดันจากการรณรงค์ของภาคประชาสังคมและกลุ่มรัฐที่เกี่ยวข้อง
ข้อควรพิจารณาห้าประการจาก Magnifica Humanitas
คำปราศรัยได้จัดระเบียบข้อพิจารณาห้าประการที่สมเด็จพระสันตะปาปาทรงระบุไว้ในพระสมณสาสน์ Magnifica Humanitas ของพระองค์:
1. อนาคตของ AI ไม่ได้ถูกกำหนดไว้ล่วงหน้า เนื่องจากมนุษย์พัฒนา AI อนาคตจึงขึ้นอยู่กับทางเลือกของมนุษยชาติ “เรามีความรับผิดชอบในการชี้แนะ เปลี่ยนแปลง และปฏิเสธการสมัครเมื่อจำเป็น” สมเด็จพระสันตะปาปากล่าว คำถามที่ถูกต้องไม่ใช่ "AI ทำอะไรได้บ้าง" แต่ “ควรจะมีจุดประสงค์อะไร?”
2. เครื่องจักรเป็นเครื่องมือ ไม่ใช่คน คำเตือนด้านบุคลิกภาพข้างต้น
3. การตัดสินใจบางอย่างไม่สามารถมอบหมายได้ การตัดสินใจที่ส่งผลกระทบต่อชีวิตมนุษย์ เสรีภาพ และการใช้กำลังจำเป็นต้องมีการควบคุมดูแลของมนุษย์ที่มีประสิทธิผล ได้รับข้อมูลครบถ้วน และมีความรับผิดชอบ
4. เทคโนโลยีอัจฉริยะต้องเป็นประโยชน์ต่อส่วนรวม เทคโนโลยีเหล่านี้ "จะต้องไม่สิ้นสุดในตัวเองหรือให้บริการเพียงผลประโยชน์ของผู้มีสิทธิพิเศษเพียงไม่กี่คนเท่านั้น" และควรเผยแพร่ผลประโยชน์ของความก้าวหน้าอย่างเท่าเทียมกัน
5. สถาบันต่างๆ จำเป็นต้องดำเนินการด้านจริยธรรม ได้รับการอธิบายว่าอาจเป็นความท้าทายเร่งด่วนที่สุด: โลกต้องการ "มาตรฐานที่ใช้ร่วมกัน การกำกับดูแลที่เป็นอิสระ และกลไกความรับผิดชอบที่ชัดเจน เพื่อให้สามารถตรวจสอบ ตัดสินใจเกี่ยวกับการพัฒนาและการใช้ AI ท้าทายเมื่อจำเป็น และมาพร้อมกับการเยียวยาที่เหมาะสมสำหรับอันตรายใดๆ ที่เกิดขึ้น"
เหตุใดจึงสำคัญนอกเหนือจากวาติกัน
วาติกันได้กลายเป็นหนึ่งในเสียงของสถาบันที่สอดคล้องกันมากขึ้นเกี่ยวกับการกำกับดูแล AI The Rome Call for AI Ethics ซึ่งลงนามเมื่อเดือนกุมภาพันธ์ 2020 โดย Pontifical Academy for Life ร่วมกับ Microsoft, IBM, FAO และรัฐบาลอิตาลี ได้เติบโตขึ้นจากระบบนิเวศนี้ และ Pontifical Academy for Life ได้จัดการประชุมนักเทคโนโลยีหลายครั้งเกี่ยวกับจริยธรรมทางชีวภาพและการตัดสินใจของเครื่องจักร การร่วมมือกับสถาบัน Future of Life ซึ่งเป็นองค์กรด้านความปลอดภัยของ AI ที่อยู่เบื้องหลังจดหมายเปิดผนึกเกี่ยวกับความเสี่ยงของแบบจำลองชายแดน ส่งสัญญาณถึงความพยายามอย่างต่อเนื่องในการเชื่อมโยงชุมชนจริยธรรม AI ทางศาสนาและฆราวาส
สำหรับผู้กำหนดนโยบาย การอุทธรณ์ของเจนีวาถือเป็นประเด็นที่เป็นรูปธรรม เนื่องจากในขณะที่การเจรจาเรื่องอาวุธอัตโนมัติดำเนินต่อไป วาติกันต้องการการห้ามที่มีผลผูกพัน ไม่ใช่แนวทางโดยสมัครใจ และสำหรับอุตสาหกรรม AI ข้อความเกี่ยวกับความเป็นบุคคลนั้นชัดเจนอยู่แล้ว ไม่ว่าตัวแทนที่เป็นอิสระจะเป็นอย่างไรก็ตาม ความรับผิดชอบทางศีลธรรมและกฎหมายยังคงอยู่กับผู้ที่สร้างและปรับใช้พวกเขา
