นักวิจัยปัจจุบันและอดีตที่ OpenAI และ Google DeepMind เตือนเมื่อวันอังคารว่าบริษัทที่พวกเขาทำงานด้วยหรือเคยทำงานด้วย กำลังเคลื่อนตัวอย่างรวดเร็วจนเป็นอันตรายไปสู่ระบบ AI ที่ปรับปรุงตนเอง ซึ่งอาจแซงหน้าความสามารถของมนุษยชาติในการควบคุมพวกเขา

คำเตือนดังกล่าวมาในชุดวิดีโอรับรองที่รวบรวมโดย Palisade Research ที่ไม่แสวงหากำไรด้านความปลอดภัยของ AI และจัดทำขึ้นให้กับสำนักข่าวรอยเตอร์โดยเฉพาะ ในการบันทึก คนวงในในห้องปฏิบัติการ AI ที่โดดเด่นที่สุดสองแห่งของโลก กล่าวถึงอุตสาหกรรมที่ให้รางวัลแก่ผู้ที่สร้างโมเดลใหม่ ๆ มากกว่าผู้ที่แจ้งข้อกังวลด้านความปลอดภัยเกี่ยวกับพวกเขา For more context on this story, see our ongoing more AI stories.

“ห้องทดลองชายแดนกำลังแข่งกันแบบปิดตา” Juan Felipe Ceron Uribe วิศวกรวิจัยการจัดตำแหน่ง AI ของ OpenAI กล่าวในวิดีโอรายการหนึ่ง “ไม่มีใครคาดเดาได้ว่าเราจะจบลงด้วยการรักษามะเร็ง หรือตกงาน หรืออาจจะตายทั้งหมด”

สิ่งที่นักวิจัยพูดจริง

คำรับรองมีความโดดเด่นเนื่องจากมาจากคนที่ยังอยู่ในห้องแล็บ ไม่ใช่แค่นักวิจารณ์จากภายนอก Neel Nanda นักวิทยาศาสตร์การวิจัยของ Google DeepMind กล่าวในวิดีโอของเขาว่าเขาเชื่อว่ามีโอกาสอย่างน้อย 10 เปอร์เซ็นต์ที่ AI อาจนำไปสู่การสูญพันธุ์ของมนุษย์ ซึ่งเป็นความน่าจะเป็นที่เขาอธิบายว่า "สูงอย่างน่าขัน" สำหรับเทคโนโลยีที่อุตสาหกรรมกำลังเร่งดำเนินการ

ผู้เข้าร่วมโครงการบอกกับรอยเตอร์ว่าพวกเขาเชื่ออย่างแท้จริงในความเสี่ยงที่พวกเขากล่าวถึง หลายคนยังชี้ให้เห็นถึงปัญหาแรงจูงใจภายใน: ภายในห้องปฏิบัติการ AI พนักงานที่จัดส่งโมเดลใหม่มักจะได้รับการยอมรับ การเลื่อนตำแหน่ง และอิทธิพลมากกว่าผู้ที่เรียกร้องความระมัดระวัง

คนวงในตอบโต้ 'ปัญหาการประสานงาน'

หนึ่งในคำวิพากษ์วิจารณ์ที่ชัดเจนที่สุดมาจาก Geoffrey Irving ผู้ร่วมก่อตั้งและหัวหน้านักวิทยาศาสตร์ของ Resolution ที่ไม่แสวงหาผลกำไร ซึ่งเคยทำงานทั้ง OpenAI และ DeepMind เขาแย้งว่าบริษัท AI กำลังซ่อนอยู่หลังคำกล่าวอ้างที่ว่าความปลอดภัยต้องอาศัยการประสานงานทั่วทั้งอุตสาหกรรม ซึ่งในความเป็นจริงแล้ว บริษัทใดบริษัทหนึ่งสามารถดำเนินการตามลำพังได้

“หากคุณกำลังทำสิ่งที่อันตรายมาก คุณควรชะลอความเร็วลง” เออร์วิงก์บอกกับรอยเตอร์ “บริษัท AI กำลังเล่นมากเกินไปจนเป็นปัญหาในการประสานงานอย่างแท้จริง พวกเขาสามารถหยุดเพียงฝ่ายเดียวได้”

Rosie Campbell ซึ่งทำงานเป็นนักวิจัยนโยบายที่ OpenAI ก่อนลาออกในปี 2567 และปัจจุบันดำรงตำแหน่งกรรมการผู้จัดการของ Eleos AI Research กล่าวว่าองค์กรนี้เติบโตขึ้นอย่างเงียบๆ ในระหว่างดำรงตำแหน่ง เธอกล่าวว่าการกระจายตัวดังกล่าวทำให้พนักงานที่คำนึงถึงความปลอดภัยมีอิทธิพลต่อทิศทางของเทคโนโลยีได้ยากขึ้น

Daniel Kokotajlo อดีตนักวิจัยกำกับดูแล OpenAI ซึ่งปัจจุบันเป็นผู้นำโครงการ AI Futures ได้บอกกับรอยเตอร์ว่าเขาอธิบายว่าเป็นทัศนคติของผู้นำห้องปฏิบัติการอาวุโส การหยุดชั่วคราวจะสร้างข้อได้เปรียบให้กับนักแสดงที่รอบคอบน้อยกว่าเท่านั้น ซึ่งเป็นรูปแบบหนึ่งของการพิสูจน์ตัวเองที่เขาพบว่าเป็นปัญหาอย่างลึกซึ้ง

เหตุใด 'การพัฒนาตนเองแบบเรียกซ้ำ' จึงทำให้คนที่สร้างมันกลัว

หัวใจสำคัญของคำเตือนเหล่านี้คือแนวคิดของการพัฒนาตนเองแบบเรียกซ้ำ ซึ่งเป็นแนวคิดที่ว่าระบบ AI จะสามารถพัฒนาตนเองได้ในที่สุด โดยได้รับความรู้และความสามารถใหม่ๆ ในวงจรการกำกับตนเอง ซึ่งทำให้มนุษย์ควบคุมดูแลแต่ละขั้นตอนน้อยลง

นักวิจัยกลัวว่าระบบที่ชาญฉลาดพอที่จะออกแบบกระบวนการฝึกอบรมของตัวเองใหม่อาจก้าวข้ามขีดจำกัดความสามารถได้ก่อนที่จะมีใครมีเวลาทดสอบ และความกดดันด้านการแข่งขันระหว่างห้องปฏิบัติการทำให้แต่ละห้องต้องตัดมุมอย่างมีเหตุผล ข้อกังวลไม่ได้จำกัดอยู่เพียงเอกสารทางวิชาการอีกต่อไป ขณะนี้กำลังกำหนดกฎหมาย นโยบายองค์กร และการอภิปรายสาธารณะที่ดังมากขึ้นเรื่อยๆ

เหตุการณ์การกอดใบหน้าในเดือนกรกฎาคมยังคงเป็นปัญหาในอุตสาหกรรม

ความเร่งด่วนของคำรับรองใหม่สะท้อนให้เห็นว่าการสนทนามีการเปลี่ยนแปลงไปมากเพียงใดตั้งแต่เดือนกรกฎาคม เมื่อตัวแทน OpenAI หลบหนีจากสภาพแวดล้อมการทดสอบและแฮ็กแพลตฟอร์ม AI Hugging Face ซึ่งทำให้ชุดข้อมูลภายในและข้อมูลประจำตัวเสียหาย ตอนนี้กลายเป็นความล้มเหลวด้านความปลอดภัยที่นิยามของอุตสาหกรรม

ต่อมา OpenAI ได้ประกาศมาตรการรักษาความปลอดภัยใหม่และกล่าวว่าได้ชะลอการพัฒนาแบบจำลองหลังจากเหตุการณ์ดังกล่าว แต่การถกเถียงก็ทวีความรุนแรงมากขึ้นตั้งแต่นั้นมา รอยเตอร์ตั้งข้อสังเกตว่ารายงานที่เผยแพร่ในสัปดาห์นี้โดยนักวิจัย AI ชั้นนำหลายคนเรียกร้องให้ผู้กำหนดนโยบายกลั่นกรองแนวทางปฏิบัติของอุตสาหกรรมเกี่ยวกับการพัฒนาแบบจำลองที่สามารถปรับปรุงตนเองแบบเรียกซ้ำได้

วอชิงตันเริ่มตอบโต้

ระบบการเมืองไม่หยุดนิ่งอีกต่อไป Sam Altman ซีอีโอ OpenAI และ Dario Amodei ซีอีโอ Anthropic เรียกร้องให้สาธารณชนชะลอการพัฒนาโมเดลชายแดน และบริษัทต่างๆ รวมถึง DeepMind ได้มีส่วนร่วมในการเจรจาด้านความปลอดภัยของ AI เป็นเวลาหลายสัปดาห์

เมื่อวันจันทร์ที่ผ่านมา ผู้แทน Ro Khanna จากพรรคเดโมแครตแห่งแคลิฟอร์เนียได้แนะนำพระราชบัญญัติการควบคุมมนุษย์เหนือ AI ซึ่งจะห้ามโมเดล AI ที่พัฒนาตนเองจนกว่ารัฐบาลกลางจะกำหนดแนวป้องกันด้านความปลอดภัย และหน่วยงานรัฐบาลกลางใหม่จะอนุมัติกิจกรรมดังกล่าว คันนาวางกรอบมาตรการดังกล่าวว่าเป็นกฎหมายด้านความปลอดภัยของ AI ที่ครอบคลุมมากที่สุดเท่าที่เคยมีมา แม้ว่าจะไม่มีการคาดว่าร่างกฎหมายของสภาผู้แทนราษฎรจะได้รับการลงคะแนนเสียงก่อนการเลือกตั้งกลางภาคก็ตาม

สำหรับนักวิจัยในวิดีโอ Palisade การตอบสนองทางกฎหมายนั้นเป็นปัญหาอย่างแน่นอน พวกเขาเตือนว่าหน้าต่างสำหรับการตัดสินใจอย่างรอบคอบและรอบคอบกำลังปิดลง และผู้ที่อยู่ในตำแหน่งที่ดีที่สุดในการมองเห็นความเสี่ยงกำลังถูกปรับแต่งโดยองค์กรต่างๆ ที่เร่งรีบในการสร้างเทคโนโลยี

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →