ในขณะที่บริษัทเทคโนโลยีต่างแข่งขันกันเพื่อสร้างปัญญาประดิษฐ์ที่มีประสิทธิภาพมากขึ้นเรื่อยๆ บริษัทบางแห่งกำลังขอความช่วยเหลือจากสถาบันเก่าเพื่อแก้ไขปัญหาใหม่ นั่นก็คือ วิธีสอนแชทบอทให้ถูกจากผิด คำตอบของพวกเขามากขึ้นเรื่อยๆ คือ ศาสนา

ในช่วงไม่กี่เดือนที่ผ่านมา ผู้บริหาร AI ได้ขอข้อมูลจากนักปรัชญาและผู้นำศรัทธาเกี่ยวกับวิธีการสร้างแบบจำลองที่ "ดีทางศีลธรรม" การเผยแพร่ประชาสัมพันธ์เริ่มตั้งแต่การปรึกษาหารืออย่างเป็นทางการไปจนถึงการปรากฏตัวของวาติกัน และตามรายงานของ Associated Press ที่เผยแพร่เมื่อวันอาทิตย์ ทำให้เกิดความกังวลในหมู่นักวิชาการด้านศาสนาว่าบริษัทต่างๆ เข้าใจผิดในสิ่งที่พวกเขากำลังเข้าถึง สำหรับผู้อ่านที่ติดตาม การพัฒนา AI ล่าสุด เรื่องราวดังกล่าวเป็นสัญญาณว่าการจัดตำแหน่งทางศีลธรรมเป็นศูนย์กลางในการดำเนินงานของบริษัทเหล่านี้ในปัจจุบันเป็นอย่างไร

"คำถามที่แล็บไม่สามารถตอบได้"

Anthropic ซึ่งเป็นบริษัท AI ที่ถูกมองว่าคำนึงถึงหลักจริยธรรมอย่างจริงจังที่สุด และเป็นบริษัทที่มีความกระตือรือร้นมากที่สุดกลุ่มหนึ่ง ในการนำเสนอของวาติกันเกี่ยวกับพระสมณสาสน์เกี่ยวกับ AI ของสมเด็จพระสันตะปาปาลีโอที่ 14 เมื่อต้นปีนี้ Chris Olah ผู้ร่วมก่อตั้ง Anthropic บอกกับผู้ฟังว่าคำถามทางศีลธรรมเกี่ยวกับ AI นั้นเกินกว่าที่บริษัทจะสามารถแก้ไขได้ด้วยตัวเอง

“คำถามเหล่านี้ไม่ใช่คำถามที่ห้องทดลองสามารถตอบได้” Olah กล่าว “มันเป็นคำถามที่ประเพณีเหมือนกับที่คุณมีมานานนับพันปี”

แอนโธรปิกระบุในบล็อกโพสต์เมื่อเดือนพฤษภาคมว่า บริษัทได้พบกับ “นักวิชาการ นักบวช นักปรัชญา และนักจริยธรรมจากกลุ่มศาสนาและข้ามวัฒนธรรมมากกว่า 15 กลุ่ม” ซึ่งกลุ่มดังกล่าวหวังว่าจะขยายวงกว้างขึ้น บริษัทวางกรอบความพยายามไว้กว้างๆ: "งานนี้ไม่ได้เกี่ยวกับการวางโมเดลของเราให้สอดคล้องกับโลกทัศน์ของประเพณีใดๆ เราต้องการให้โคลดดึงเอามุมมองที่หลากหลาย ทั้งศาสนา ฆราวาส การเมือง ด้วยความลึกซึ้งและความเข้มงวดที่เท่าเทียมกัน"

Sam Altman ซีอีโอของ OpenAI ได้แสดงวิสัยทัศน์ที่แตกต่างและครอบคลุมมากขึ้น “สิ่งที่ฉันคิดว่า ChatGPT ควรทำคือสะท้อนถึงมุมมองทางศีลธรรมของมนุษยชาติโดยถัวเฉลี่ยถ่วงน้ำหนักหรืออะไรก็ตาม” อัลท์แมนกล่าวเมื่อปีที่แล้ว

ภายในการประชุมศรัทธาของมานุษยวิทยา

Meghan Sullivan นักปรัชญาศาสนาซึ่งเป็นผู้นำความคิดริเริ่มด้านจริยธรรมและ AI ที่มหาวิทยาลัย Notre Dame ได้เข้าร่วมการประชุมของ Anthropic เมื่อต้นปีนี้ ตรงกันข้ามกับการสนทนาที่เธอมีกับบริษัทเทคโนโลยีอื่นๆ เธอรู้สึกประทับใจกับความเข้มงวดของการมีส่วนร่วม

“วัฒนธรรมภายในบริษัทคล้ายคลึงกับวัฒนธรรมในวิทยาเขตของวิทยาลัยที่ดีในแง่ที่ว่าคุณมีกลุ่มคนที่อยากรู้อยากเห็นทางสติปัญญามาก” ซัลลิแวนกล่าว “การประชุมเหล่านี้ค่อนข้างเนิร์ด ฉันไม่รู้ว่านั่นเป็นวิธีที่ดีที่สุดหรือเปล่า — ในทางที่ดี”

การประชุม ซึ่งรวมถึงคริสเตียนจากนิกายต่างๆ ถูกแบ่งออกเป็นสองส่วน ครั้งแรกที่บริษัทอธิบายโมเดลของบริษัท "ในแง่ของฆราวาส" และผู้นำศรัทธาตอบสนองด้วยคำติชมและการอภิปราย ตามคำกล่าวของซัลลิแวน คำถามมีตั้งแต่ "มนุษย์มีวิญญาณหรือไม่" เป็น "นักเรียนชั้นประถมศึกษาปีที่ 3 ควรสามารถเข้าถึงแชทบอทเพื่อการศึกษาด้านการอ่านเขียนได้หรือไม่"

วาติกันกลายเป็นจุดแวะพักปกติ

มานุษยวิทยาไม่ได้อยู่คนเดียวในม้านั่ง ตัวแทนจาก Meta, Google และ Amazon ยังได้เข้าพบกับวาติกัน ในขณะที่ Microsoft ได้รับการอธิบายว่ามีความกระตือรือร้นเป็นพิเศษในการเผยแพร่ศาสนา

การมีส่วนร่วมสะท้อนให้เห็นถึงการคำนวณที่เป็นเอกลักษณ์ของช่วงเวลานี้ในการพัฒนา AI ในขณะที่ผู้บริหารส่งเสียงเตือนเกี่ยวกับศักยภาพในการทำลายล้างของ AI และถกเถียงกันว่าพฤติกรรมแบบจำลอง "ความดีทางศีลธรรม" หมายถึงอะไร ประเพณีทางศาสนาเสนอความคิดที่สั่งสมมานับพันปีเกี่ยวกับลักษณะนิสัย ภาระผูกพัน และอันตราย ซึ่งเป็นเนื้อหาที่ไม่มีคลังข้อมูลการฝึกอบรมใดสามารถทำซ้ำได้อย่างเต็มที่ และบริษัทต่างๆ ไม่สามารถหาจากที่อื่นได้อย่างง่ายดายในวงกว้าง

กรอบความคิดของ Anthropic ทำให้ความทะเยอทะยานชัดเจน: "สิ่งที่เราติดตามในบทสนทนาเหล่านี้คือความระมัดระวัง สะสมความคิดว่าตัวละครที่ดีนั้นก่อตัวขึ้นมาได้อย่างไร"

นักวิชาการเตือน: ศาสนาไม่ใช่กฎเกณฑ์

ผู้เชี่ยวชาญและผู้ที่นับถือศาสนาต่างเตือนว่าข้อสันนิษฐานของบริษัทต่างๆ ที่ว่าศาสนาสามารถจัดหาหลักศีลธรรมที่แยกออกมาได้นั้น ไม่สามารถสรุปได้ว่าประเพณีทำงานอย่างไร โลกทัศน์ที่แตกต่างกันมักจะขัดแย้งกัน และถือว่าศาสนาเป็นฐานข้อมูลของกฎเกณฑ์ต่างๆ เสี่ยงต่อการบิดเบือนเนื้อหาที่กำลังปรึกษากัน

เวบบ์ คีน นักมานุษยวิทยาแห่งมหาวิทยาลัยมิชิแกน แย้งว่านักวิชาการใช้เวลาหลายทศวรรษในการต่อต้านมุมมองของศาสนา เนื่องจากเป็นหลักการที่แยกออกจากวิถีชีวิตที่ "ยุ่งเหยิง ปฏิบัติได้จริง และเฉพาะกิจ" ของผู้นับถือศาสนา

“มีวิธีคิดเรื่องศาสนาเป็นกฎเกณฑ์ที่ธรรมดามาก” คีนกล่าว “ศาสนานี้มีความเกี่ยวข้องอย่างมากกับศาสนาในพระคัมภีร์ และศาสนาในพระคัมภีร์เมื่อสิ้นสุดวันก็กลายเป็นศาสนาอับบราฮัมมิกจริงๆ”

เขาเตือนว่าสมมติฐานดังกล่าวมีความเสี่ยงในการจัดลำดับความสำคัญของประเพณีบางอย่างในขณะเดียวกันก็บิดเบือนประเพณีอื่น ๆ โดยเฉพาะอย่างยิ่งศรัทธาที่ไม่เข้าใจตัวเองเป็นหลักว่าเป็นระบบจริยธรรม

โทโมโกะ มาซูซาวะ นักวิชาการศาสนาศึกษาและผู้เขียน "The Invention of World Religions" กล่าวเพิ่มเติมโดยสังเกตว่าหมวดหมู่ต่างๆ เช่น "พุทธศาสนา" และ "ศาสนาฮินดู" ซึ่งมีขอบเขตชัดเจน ประเพณีที่เทียบเคียงได้นั้นส่วนใหญ่เป็นโครงสร้างของทุนการศึกษาของยุโรปที่มีอายุย้อนไปถึงศตวรรษที่ 19 “หมวดหมู่เหล่านี้ทั้งหมดไม่ใช่ของพื้นเมือง” มาซูซาวะกล่าว

สิ่งที่ถูกสร้างขึ้นจริง ๆ

การวิพากษ์วิจารณ์ทางวิชาการมีความสำคัญในทางปฏิบัติ เพราะบริษัทใดก็ตามที่เรียนรู้จากการปรึกษาหารือเหล่านี้อาจกำหนดวิธีที่แบบจำลองตอบคำถามทางศีลธรรมสำหรับผู้ใช้หลายพันล้านคน AI ที่ถือว่าศาสนาเป็นแหล่งที่มาของหลักการเฉลี่ยถ่วงน้ำหนักจะมีพฤติกรรมแตกต่างจากที่ได้รับการฝึกอบรมให้รับรู้ว่าอำนาจทางศีลธรรมนั้นถูกโต้แย้ง ตั้งอยู่ และดำเนินชีวิต

ในตอนนี้ บริษัทต่างๆ ปฏิเสธวาระการประชุมแบบประเพณีเดียว และผู้นำศรัทธาที่เกี่ยวข้องอธิบายว่าการมีส่วนร่วมนั้นจริงจังและมีสาระ คำตัดสินของซัลลิแวนเกี่ยวกับมานุษยวิทยา - เป็นคนช่างสงสัย เข้มงวด และเนิร์ดเล็กน้อย - ชี้ให้เห็นว่าการประชุมเป็นมากกว่าการประชาสัมพันธ์

แต่คำถามที่ลึกกว่านั้นในรายงานของ AP ยังคงเปิดกว้างอยู่ นั่นคือ กระบวนการปรึกษาหารือใด ๆ สามารถแปลประเพณีที่มีชีวิตนับพันปีให้เป็นพฤติกรรมต้นแบบโดยไม่ทำให้แบนราบได้หรือไม่ และใครเป็นคนตัดสินใจว่าส่วนใดของมรดกทางศีลธรรมของมนุษยชาติที่นำมาชั่งน้ำหนัก

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →