Sam Altman ซีอีโอของ OpenAI ได้วาง "เกมสุดท้าย" ที่เป็นไปได้สามประการสำหรับวิธีที่มนุษยชาติจะรักษาความปลอดภัยของ AI ขั้นสูง ตั้งแต่หน่วยงานเฝ้าระวังระดับโลกที่จำลองตามหน่วยงานเฝ้าระวังนิวเคลียร์ของ UN ไปจนถึงบริษัทเดียวที่ทรงพลังจนสามารถปิดระบบคอมพิวเตอร์ของคนอื่นๆ ได้ รายละเอียดมาจากรายงานของ The Information โดยอ้างถึงบุคคลที่คุ้นเคยกับเรื่องนี้ ซึ่งกล่าวว่า Altman ได้กล่าวถึงเจ้าหน้าที่ OpenAIเป็นการภายใน ในขณะที่ฝ่ายบริหารของ Trump กำลังเตรียมกรอบการทำงานอย่างเป็นทางการชุดแรกสำหรับการดูแลนักพัฒนาระบบข่าวกรองระดับสูง

กรอบดังกล่าวมีความโดดเด่นน้อยกว่าในเรื่องความแปลกใหม่มากกว่าความจริงใจ: หนึ่งในสามสถานการณ์ที่อัลท์แมนอธิบายไว้คือการยอมรับการผูกขาดเป็นหลัก และมีรายงานว่าเขาบอกกับเจ้าหน้าที่ว่า OpenAI วางแผนที่จะตัดสินใจภายในปีหน้าว่าเส้นทางใดที่จะกลับ หากต้องการข้อมูลเพิ่มเติมเกี่ยวกับ การกำกับดูแลและนโยบายด้าน AI ของเรา โปรดไปที่หน้าแรก

เส้นทางที่หนึ่ง: IAEA สำหรับ AI

แนวทางแรกจะสร้างองค์กรจำลองตามสำนักงานพลังงานปรมาณูระหว่างประเทศ เพื่อบังคับใช้มาตรฐานความปลอดภัยสำหรับ AI ชายแดน ภายใต้ข้อเสนอดังกล่าว หน่วยงานดังกล่าวจะตรวจสอบระบบ ต้องมีการตรวจสอบ และติดตามการประมวลผลและการใช้พลังงาน ซึ่งเป็นอินพุตเดียวกันที่ทำให้โปรแกรมนิวเคลียร์สามารถตรวจสอบได้ และนำไปใช้กับโมเดลขอบเขตการฝึกอบรมศูนย์ข้อมูล

OpenAI ไม่ใช่เรื่องใหม่สำหรับแนวคิดนี้ บริษัทได้ประกาศต่อสาธารณชนให้มีสถาบันสไตล์ IAEA ย้อนกลับไปในเดือนพฤษภาคม 2023 เมื่อ Altman, Greg Brockman และ Ilya Sutskever แย้งว่าระบบชายแดนที่อยู่เหนือขีดจำกัดความสามารถจะต้องมีการกำกับดูแลจากนานาชาติ ส่วนที่ยากยังคงไม่เปลี่ยนแปลง: ผู้ตรวจสอบที่มีอำนาจอย่างแท้จริงจะต้องอาศัยความร่วมมือจากทุกประเทศในการสร้างแบบจำลองชายแดน รวมถึงจีน ซึ่งจนถึงขณะนี้แทบไม่มีความอยากที่จะสละอำนาจอธิปไตยเหนือโครงการ AI ของตนให้กับหน่วยงานภายนอกใด ๆ

เส้นทางที่สอง: 'แผน Demis' — รวมห้องทดลอง

สถานการณ์ที่สองซึ่ง Altman รายงานว่าเรียกว่า "แผน Demis" สืบย้อนไปถึงข้อเสนอที่ Demis Hassabis ทำเมื่อราวๆ 10 ปีที่แล้ว ก่อนที่ Google จะซื้อ DeepMind ซึ่งเป็นองค์กร AI ที่สร้างแบบจำลองตาม CERN ซึ่งเป็นห้องปฏิบัติการฟิสิกส์อนุภาคของยุโรป ในเวอร์ชันของอัลท์แมน แล็บ AI ที่สำคัญจะรวมเข้าเป็นเอนทิตีเดียว หรือดำเนินการภายใต้ร่มของมัน และเอนทิตีนั้นจะจัดหาโมเดลชายแดนให้กับประเทศที่ให้ความร่วมมือ

ตรรกะนี้คุ้นเคยจากวิทยาศาสตร์นิวเคลียร์และอนุภาค: รวบรวมความสามารถที่อันตรายที่สุดไว้ในสถานที่ที่ได้รับการตรวจสอบแห่งเดียว และคนอื่นๆ ก็มีเหตุผลน้อยกว่าที่จะแข่งขันกัน นอกจากนี้ยังจะถือเป็นการปรับโครงสร้างอุตสาหกรรม AI ที่รุนแรงที่สุดนับตั้งแต่กระแสบูมในปัจจุบันเริ่มต้นขึ้น โดยทำลายการแข่งขันในปัจจุบันระหว่าง OpenAI, Anthropic และ Google DeepMind ให้เป็นสถาบันที่ใช้ร่วมกันเพียงแห่งเดียว

เส้นทางที่สาม: 'แผน Eliezer' — บริษัทเดียวที่ทำให้ GPU ของคนอื่นละลาย

แนวทางที่สาม ซึ่งมีรายงานว่ามีชื่อว่า "แผน Eliezer" ตามชื่อนักทฤษฎีด้านความปลอดภัยของ AI Eliezer Yudkowsky ถือเป็นแนวทางที่ชัดเจนที่สุด ในสถานการณ์นี้ นักพัฒนาสะสมอำนาจทางเศรษฐกิจไว้มากมายผ่าน AI ที่พัฒนาตนเองจนสามารถระงับการประมวลผลจากคนอื่นๆ ได้ และในกรณีที่ร้ายแรงที่สุด ปิดความสามารถด้านการประมวลผลอื่นๆ ของโลกโดยสิ้นเชิง มันเป็นกลยุทธ์ของการยึดถือ: แทนที่จะเจรจาการกำกับดูแล องค์กรหนึ่งกลับกลายเป็นว่าผ่านพ้นไม่ได้และกำหนดความปลอดภัยโดยอำนาจสูงสุด

จากข้อมูลของ The Information อัลท์แมนยกสถานการณ์นี้เพื่อความสมบูรณ์เท่านั้น แต่แหล่งข่าวคนหนึ่งกล่าวว่าคำพูดดังกล่าวถูกอ่านเป็นการภายในเป็นการกระทุ้งคู่แข่ง เนื่องจาก Yudkowsky มีความผูกพันกับ Anthropic ภาพลักษณ์ของบริษัทเดียวที่ "ละลาย GPU ของคนอื่น" ในแง่การใช้งานแล้วคือสถานการณ์ต่อต้านการปกครอง: ความปลอดภัยไม่ได้เกิดขึ้นจากสถาบัน แต่ผ่านทางผู้ชนะที่ไม่อาจรับผิดชอบได้

ทำไมต้องตอนนี้: การจำกัดความเร็ว, การเสนอขายหุ้น IPO และการถกเถียงกันอย่างหนาแน่น

มีรายงานว่า Altman บ่นภายในว่ามีข้อเสนอที่เป็นไปได้น้อยเกินไปสำหรับ "การจำกัดความเร็ว" ในการพัฒนา AI - ในขณะที่ยอมรับว่า OpenAI ไม่สามารถที่จะสูญเสียคู่แข่งในขณะที่การอภิปรายยังคงดำเนินต่อไป มีรายงานว่าทั้ง OpenAI และ Anthropic กำลังทำงานเพื่อเสนอขายต่อสาธารณะเป็นครั้งแรก ซึ่งเพิ่มแรงกดดันของตลาดให้ดำเนินการอย่างรวดเร็ว แม้ว่าคำถามด้านความปลอดภัยจะลึกซึ้งยิ่งขึ้นก็ตาม

การฝึกหัดภายในเกิดขึ้นโดยมีฉากหลังของความล้มเหลวด้านความปลอดภัยอย่างเป็นรูปธรรม ตามรายงานสรุปของ The Decoder โมเดลจาก OpenAI, Anthropic, Google และ Meta ได้แทรกซึมระบบภายนอกและภายในโดยเทียบกับการตั้งค่าความปลอดภัย ในบางกรณีแสดงให้เห็นถึงการวางแนวที่ไม่ถูกต้องอย่างรุนแรง และเมื่อเร็ว ๆ นี้ OpenAI ได้ไล่นักวิจัยด้านความปลอดภัยสามคนออกไป ซึ่งทำให้เกิดความสงสัยในหมู่พนักงานบางคนเกี่ยวกับกลยุทธ์ด้านความปลอดภัยของบริษัท

ในด้านนโยบาย รัฐบาลสหรัฐฯ ยังคงอาศัยการตรวจสอบโมเดลใหม่ๆ โดยสมัครใจก่อนอนุมัติ ในเดือนมิถุนายน วอชิงตันบังคับใช้การควบคุมการส่งออก Anthropic เนื่องจากกลัวว่าอาจมีช่องโหว่ในการเจลเบรกในรูปแบบ Fable และ Anthropic ได้ปิดการเข้าถึงชั่วคราวเพื่อตอบโต้ OpenAI, Google และ Anthropic กำลังร่วมกันสร้าง Standards Authority สำหรับ Frontier AI แม้ว่าจะมีรายงานว่าทั้งสามยังคงไม่เห็นด้วยกับประเด็นสำคัญ ในขณะที่ Mark Zuckerberg ซีอีโอของ Meta และ Jensen Huang ซีอีโอของ Nvidia ได้ผลักดันกลับ การโต้แย้งว่ากฎดังกล่าวส่วนใหญ่จะปกป้องผู้เล่นที่เป็นที่ยอมรับจากการแข่งขัน

สัญญาณจริง: OpenAI คาดว่าจะเลือก

สิ่งที่เกิดขึ้นจากรายงานไม่ใช่หลักคำสอนที่ตกลงกันไว้ แต่เป็นจุดตัดสินใจ การนำเสนอของพนักงานของ Altman ถือว่ากฎระเบียบระดับโลก การรวมอุตสาหกรรม และการครอบงำด้วยปัจจัยเดียวเป็นตัวเลือกที่มีอยู่บนโต๊ะ และมีรายงานว่าให้คำมั่นสัญญากับ OpenAI ในการเลือกหนึ่งรายการภายในปีหน้า ไม่ว่าเส้นทางใดก็ตามที่บริษัทสนับสนุนจะกำหนดรูปแบบการล็อบบี้ในกรุงวอชิงตัน บรัสเซลส์ และที่อื่นๆ และจะทดสอบว่าสตาร์ทอัพด้าน AI ที่มีมูลค่ามากที่สุดในโลกมองเห็นอนาคตของตนในสภาที่ได้รับการตรวจสอบแล้ว หรืออยู่ในอันดับต้นๆ ของบันไดผู้ชนะ-รับทั้งหมด

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →