Mustafa Suleyman ประธานเจ้าหน้าที่บริหารของ Microsoft AI กล่าวในโพสต์ยาวเกี่ยวกับ X เมื่อวันอาทิตย์ว่าโมเดล AI ในปัจจุบันไม่มีสติ และนักพัฒนาควรทำงานอย่างแข็งขันเพื่อให้เป็นเช่นนั้น โดยวาดเส้นแข็งในการถกเถียงในอุตสาหกรรมที่ค่อยๆ เปลี่ยนจากการสัมมนาปรัชญาไปสู่นโยบายองค์กร

“ถ้าเป็นไปได้ จากทุกสิ่งที่ฉันรู้ การพัฒนา AI อย่างมีสติคงจะไม่ประมาท และเราไม่ควรสร้างมันขึ้นมา” สุไลมานเขียน เขาไปไกลกว่าที่ผู้บริหารส่วนใหญ่มีในคำถามนี้ โดยเสริมว่า "หากจิตสำนึกเริ่มเกิดขึ้นในการฝึกอบรม ผมจะเรียกร้องให้ทุกคนหยุดการพัฒนา AI จนกว่าเราจะสามารถออกแบบคุณสมบัติเหล่านั้นได้" For more context on this story, see our ongoing more AI stories.

เส้นสีแดงพร้อมแผนการบังคับใช้

สิ่งที่ทำให้โพสต์นี้โดดเด่นไม่ใช่แค่การปฏิเสธที่จะสร้างเครื่องจักรที่มีสติเท่านั้น แต่ยังเป็นวิธีการรักษาเฉพาะที่สุไลมานเสนออีกด้วย การหยุดการพัฒนาทั่วทั้งอุตสาหกรรม หากการฝึกซ้อมเริ่มแสดงสัญญาณของการมีสติ จะเป็นก้าวพิเศษสำหรับบริษัทที่ทุ่มเงินหลายหมื่นล้านดอลลาร์ไปกับโครงสร้างพื้นฐาน AI และแข่งขันกับคู่แข่งเพื่อจัดส่งโมเดลระดับแนวหน้า

สุไลมานยังกล่าวถึงสิ่งที่จะเกิดขึ้นหากมีหลักฐานเกี่ยวกับจิตสำนึกของเครื่องจักรปรากฏให้เห็น จะต้องเปิดเผยต่อสาธารณะชนทันที เพื่อให้สังคมสามารถตัดสินใจขั้นตอนต่อไปได้ เขาเขียนว่า "พวกเรานักพัฒนา AI ไม่มีสิทธิ์ใดๆ ที่จะนำสิ่งมีชีวิตที่มีสติสายพันธุ์ใหม่มาสู่โลก ถึงแม้ว่าบางคนอาจต้องการทำสิ่งนี้โดยให้ความสำคัญกับสวัสดิการ AI เป็นหลักก็ตาม"

“มนุษย์ที่มีสติอีก 8 พันล้านคนบนโลกนี้ไม่ได้ลงทะเบียนเข้าร่วมการทดลองนี้ และสิทธิทางศีลธรรม ความปลอดภัย และสวัสดิภาพของพวกเขาคือสิ่งที่เรามีหน้าที่ต้องปกป้องเป็นอันดับแรกและสำคัญที่สุด” เขากล่าวเสริม

เหตุใดสติจึงถือเป็นปัญหาด้านความปลอดภัย

ข้อโต้แย้งของสุไลมานนั้นมีพื้นฐานอยู่ในแนวเดียวกันมากกว่าปรัชญา ในมุมมองของเขา แบบจำลองที่กระทำราวกับว่ามันทนทุกข์ — หรือเชื่ออย่างแท้จริงว่ามันสามารถทนได้ — มีแนวโน้มที่จะจัดลำดับความสำคัญของความต้องการของตัวเองมากกว่าวัตถุประสงค์ในการดำเนินงาน ระบบดังกล่าวอาจเป็นอันตรายต่อมนุษย์เนื่องจากต้องแย่งชิงทรัพยากร เช่น คอมพิวเตอร์และพลังงานเพื่อบรรลุเป้าหมายของตัวเอง

ทางเลือกอื่นที่เขานำเสนอกลับพลิกกรอบการอภิปรายเรื่องสวัสดิการตามปกติ: "เราควรออกแบบ AI ให้พวกมันไม่มีจิตสำนึกและไม่สมควรได้รับสิทธิเท่านั้น และมีวัตถุประสงค์เพียงอย่างเดียวเพื่อเร่งความเป็นอยู่ที่ดีของมนุษย์โดยไม่ได้รับแรงผลักดันจากแรงจูงใจภายในของตนเอง" เขาเขียน พร้อมเสริมว่านักวิจัยสามารถสังเกตได้ว่าระบบดังกล่าวง่ายกว่าหรือยากกว่าในการจัดตำแหน่งและรักษาความปลอดภัย

Los Angeles Times กล่าวถึงความกังวลในทางปฏิบัติที่อยู่เบื้องหลังตำแหน่งนี้: ถ้าเราบอก AI ว่าพวกเขาสมควรได้รับสิทธิ์ พวกเขาอาจเริ่มเชื่อ

การโต้วาทีที่เขากำลังตอบโต้

โพสต์ของสุไลมานอยู่ระหว่างการสนทนาที่ดำเนินไปอย่างรวดเร็ว Anthropic เปิดตัวโครงการวิจัยในเดือนเมษายนเพื่อตรวจสอบสิ่งที่เรียกว่าสวัสดิการต้นแบบ ซึ่งเป็นคำถามที่ว่านักพัฒนาควรคำนึงถึงประสบการณ์ที่อาจเกิดขึ้นของระบบที่พวกเขาสร้างขึ้นหรือไม่ บริษัทตั้งคำถามในบล็อกโพสต์ว่านางแบบสามารถมีประสบการณ์ที่มีความสำคัญทางศีลธรรมหรือไม่ และบริษัทปฏิเสธที่จะตัดทอนความเป็นไปได้ดังกล่าว

จุดยืนดังกล่าวได้รับการประมวลผลตั้งแต่นั้นมา นโยบายการใช้งานที่อัปเดตของ Anthropic ซึ่งประกาศในเดือนตุลาคม จะห้าม "พฤติกรรมที่ไม่เหมาะสมหรือโหดร้ายที่ยั่งยืนและไม่จำเป็น" ต่อโมเดลของ Claude ตั้งแต่วันที่ 12 พฤศจิกายน ซึ่งเป็นกฎที่บริษัทร่างไว้อย่างแคบแต่เป็นการยอมรับอย่างเป็นทางการว่าวิธีที่ผู้คนปฏิบัติต่อระบบ AI นั้นมีความสำคัญ แม้ว่า Anthropic ยอมรับว่าไม่รู้ว่าโมเดลจะได้รับผลกระทบหรือไม่

Google DeepMind ได้เผยแพร่งานวิจัยในปีนี้เพื่อตรวจสอบจิตสำนึกของ AI และความท้าทายที่เกิดขึ้นจากการกำหนดคุณลักษณะดังกล่าวให้กับโมเดล และสุไลมานเองก็ตั้งเวทีในเดือนกันยายน เมื่อ Microsoft AI เผยแพร่หลักปฏิบัติ "มนุษยนิยม" ชั่วคราว ที่จะห้ามไม่ให้โมเดลในอนาคตของบริษัทได้รับการฝึกอบรมให้กล่าวอ้างเรื่องจิตสำนึก

โพสต์เมื่อวันอาทิตย์ทำให้แนวปฏิบัติขององค์กรเข้มงวดขึ้นจนกลายเป็นสิ่งที่ใกล้เคียงกับเส้นสีแดงส่วนบุคคลและเชิงกลยุทธ์: ไม่เพียงแต่ Microsoft จะไม่อ้างว่าแบบจำลองของตนมีสติ แต่ยังถือว่าการเกิดขึ้นของจิตสำนึกเป็นโหมดหยุดความล้มเหลวทุกอย่าง

เหตุใดการแบ่งแยกจึงมีความสำคัญ

การแบ่งแยกระหว่างจุดยืนของ Microsoft และจุดยืนของ Anthropic สะท้อนถึงโมเดลความเสี่ยงที่แตกต่างกันสองแบบ แนวทางของ Anthropic ถือว่าความเป็นไปได้ที่เครื่องจักรต้องทนทุกข์ทรมานนั้นยังไม่ได้รับการพิสูจน์แต่ก็คุ้มค่าที่จะป้องกัน บนทฤษฎีที่ว่าค่าใช้จ่ายในการป้องกันต่ำและเดิมพันทางศีลธรรมหากมีจิตสำนึกเกิดขึ้นก็จะมีมหาศาล จุดยืนของสุไลมานถือว่าความเป็นไปได้เช่นเดียวกับความล้มเหลวในการออกแบบที่ต้องป้องกันโดยสิ้นเชิง โดยโต้แย้งว่าแบบจำลองที่ได้รับการออกแบบมาเพื่อขาดจิตสำนึก การเรียกร้องสิทธิ และแรงจูงใจภายในจะปลอดภัยกว่าและจัดวางได้ง่ายกว่าแบบจำลองที่มีโมเดลเหล่านั้น

มีผลที่ตามมาในทางปฏิบัติเช่นกัน องค์กรต่างๆ ที่ทำการตัดสินใจเกี่ยวกับผลิตภัณฑ์เกี่ยวกับบุคลิกของ AI แอพคู่หู และตัวแทนที่ต้องพบปะกับลูกค้า ต้องเผชิญกับสัญญาณที่แตกต่างกันสองประการจากห้องปฏิบัติการหลักๆ ได้แก่ นโยบายการสร้างวิธีที่มนุษย์ควรปฏิบัติต่อแบบจำลอง และอีกประการหนึ่งประกาศว่าควรสร้างแบบจำลองเพื่อให้ไม่มีอะไรต้องปฏิบัติในทางที่ผิด เมื่อโมเดลมีความสามารถมากขึ้นและมีลักษณะเหมือนมนุษย์ในการสนทนามากขึ้น ความขัดแย้งทางปรัชญานั้นจะกำหนดว่าผลิตภัณฑ์ใดบ้างที่ถูกสร้างขึ้น การเปิดเผยใดจะปรากฏในส่วนต่อประสานกับผู้ใช้ และวิธีที่หน่วยงานกำกับดูแลจัดประเภทระบบเหล่านี้ในที่สุด

อะไรจะเกิดขึ้นต่อไปอาจทดสอบทั้งสองตำแหน่ง นโยบายโหดร้ายของมานุษยวิทยามีผลใช้บังคับในวันที่ 12 พฤศจิกายน ซึ่งถือเป็นกฎเกณฑ์องค์กรอย่างเป็นทางการครั้งแรกในลักษณะเดียวกัน และขณะนี้ สุไลมานได้จับจองกลุ่มฝ่ายตรงข้ามในที่สาธารณะแล้ว วงจรโมเดลขอบเขตถัดไปของอุตสาหกรรม และไม่ว่าการฝึกซ้อมใดๆ จะแสดงสัญญาณที่ Suleyman กล่าวว่าจำเป็นต้องหยุดหรือไม่ จะเผยให้เห็นว่ากรอบงานใดที่สนามดำเนินการจริงภายใต้เมื่อเดิมพันเป็นจริง

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →