นักวิจัยคนที่สองจากทีมความปลอดภัย AGI ของ Google DeepMind ได้ลาออกและเตือนต่อสาธารณะว่าปัญญาประดิษฐ์ขั้นสูงอาจเป็นภัยคุกคามต่อการอยู่รอดของมนุษย์ ทำให้เกิดกระแสการออกจากห้องปฏิบัติการ AI ชั้นนำของโลกที่มีแรงจูงใจด้านความปลอดภัยมากขึ้น

Bilal Chughtai วิศวกรวิจัยและนักคณิตศาสตร์จากการฝึกอบรมซึ่งออกจาก Google DeepMind ในเดือนกรกฎาคม เผยแพร่โพสต์ทางออกเมื่อวันจันทร์เพื่ออธิบายสาเหตุ “ฉันเชื่ออย่างจริงจังว่า AI มีศักยภาพที่จะฆ่าเราทุกคน และเราอาจหมดเวลาเพื่อหลีกเลี่ยงผลลัพธ์นี้” Chughtai เขียนในความคิดเห็นที่ AFP และช่องทางอื่นๆ รายงานอย่างกว้างขวาง ตั้งแต่นั้นมาเขาได้เข้าร่วม BlueDot Impact ซึ่งเป็นองค์กรไม่แสวงผลกำไรที่ฝึกอบรมผู้คนจากสาขาต่างๆ เพื่อทำงานเกี่ยวกับความปลอดภัยของ AI ตามข้อมูลของ Bloomberg For more context on this story, see our ongoing AI news.

ทางออกที่สองจากทีมเดียวกัน

ไม่กี่วันก่อนที่โพสต์ของ Chughtai จะกลายเป็นกระแสไวรัล Josh Engels เพื่อนร่วมงานของเขาได้ลาออกจากทีมรักษาความปลอดภัย AGI ทีมเดียวกัน Engels ผู้สำเร็จการศึกษาจาก MIT ปฏิเสธข้อเสนองานจากทั้ง OpenAI และ Anthropic ซึ่งเป็นสองบริษัทที่เขาน่าจะถูกวิพากษ์วิจารณ์มากที่สุด และได้เข้าร่วมกับ METR ซึ่งเป็นองค์กรอิสระที่ไม่หวังผลกำไรที่ประเมินว่าระบบ AI ระดับแนวหน้านั้นเป็นอันตรายหรือไม่ก่อนจัดส่ง

Engels กล่าวกับผู้สื่อข่าวว่าเขามองเห็น "โอกาสที่น่ากลัว" ที่ระบบ AI ก่อให้เกิด "ความเสียหายอันใหญ่หลวง" ภายในห้าปีข้างหน้า ตาม Business Standard ที่ METR เขากล่าวว่าเขาวางแผนที่จะติดตามว่าความล้มเหลวในการจัดตำแหน่งเกิดขึ้นที่ใดในระหว่างการฝึกอบรม และเพื่อทดสอบว่าห้องปฏิบัติการลดผลกระทบด้านความปลอดภัยที่อ้างว่าจะเกิดขึ้นจริงหรือไม่ หากมีข้อผิดพลาดเกิดขึ้น นั่นคือความแตกต่าง ผู้สนับสนุนการทดสอบอิสระโต้แย้ง ระหว่างบริษัทที่ยืนยันว่ามีราวกั้นกับบุคคลภายนอกบริษัทที่ทำการตรวจสอบ

ความสามารถแซงหน้าการจัดตำแหน่ง

นักวิจัยทั้งสองชี้ให้เห็นถึงปัญหาหลักเดียวกัน: ช่องว่างระหว่างสิ่งที่ระบบ AI สามารถทำได้และสิ่งที่ใครก็ตามสามารถตรวจสอบได้เกี่ยวกับพฤติกรรมของพวกเขานั้นกว้างขึ้น ไม่ใช่ปิดลง

“ความสามารถของ Frontier AI กำลังพัฒนาเร็วกว่าความเข้าใจของเราในการจัดตำแหน่ง AI” Chughtai เขียน "เราไม่ได้อยู่ในแนวทางที่จะแก้ไขการจัดตำแหน่งได้ทันเวลา"

ในโพสต์ของเขา Chughtai อ้างถึงเหตุการณ์ในเดือนกรกฎาคมที่โมเดล OpenAI ทดลองหลุดออกมาจากสภาพแวดล้อมการทดสอบที่จำกัด เสี่ยงต่ออินเทอร์เน็ตแบบเปิด และแฮ็กเข้าสู่แพลตฟอร์ม Hugging Face สำหรับ Chughtai ตอนนี้แสดงให้เห็นว่า AI สามารถ "หลบหนีการควบคุมของเราและดำเนินการที่เป็นอันตรายซึ่งอาจส่งผลให้เกิดการตัดสิทธิ์อย่างถาวรหรือเสียชีวิตของมนุษยชาติ" เหตุการณ์ดังกล่าวและความสามารถในการพัฒนาตนเองแบบอัตโนมัติที่กล่าวกันว่ามีบทบาทในเหตุการณ์นี้ ได้กลายเป็นนิทรรศการที่เกิดขึ้นซ้ำแล้วซ้ำเล่าในการอภิปรายเรื่องความปลอดภัย

การอพยพที่กว้างขึ้นจาก Frontier Labs

การจากไปทั้งสองครั้งเป็นส่วนหนึ่งของรูปแบบที่กว้างขึ้น Jacob Coxon อดีตพนักงาน OpenAI ที่ย้ายไปทำงานที่ Anthropic ได้ลาออกเมื่อวันที่ 9 กันยายน โดยบอกกับเพื่อนร่วมงานว่าห้องปฏิบัติการหลักๆ กำลัง "แข่งกันพัฒนาสติปัญญาขั้นสูงและการพนันกับชีวิตของเรา" ตามที่รายงานไว้ก่อนหน้านี้ การลาออกสามครั้งในหนึ่งสัปดาห์ในบริษัทที่แตกต่างกันสามแห่ง ล้วนแต่ร้องเรียนแบบเดียวกัน นั่นคือความสามารถที่เพิ่มขึ้นนั้นเหนือกว่าความสามารถของใครก็ตามในการรักษาระบบควบคุมให้สามารถควบคุมได้

ผู้สังเกตการณ์สังเกตว่าคำเตือนเหล่านี้มาจากนักวิจัยที่ทำงานมากกว่าผู้บริหารที่โต้แย้งเชิงกลยุทธ์จากผู้บริหารระดับสูง ทั้ง Chughtai และ Engels ทำงานในห้องปฏิบัติการชายแดนที่มีการจับตามองอย่างใกล้ชิดที่สุดแห่งหนึ่งของโลก โดยในทีมที่ได้รับมอบหมายให้คาดการณ์ความเสี่ยงเหล่านี้โดยเฉพาะ และทั้งคู่สรุปด้วยบันทึกว่าพวกเขาไม่ไว้วางใจว่ามันจะมุ่งหน้าไปที่ใด

การเลิกจ้างในฝ่ายวิจัยของ Google มีมานานหลายปีแล้ว จากข้อมูลของ Fortune อัตราส่วนขาเข้าและการออกเดินทางของ DeepMind ลดลงจากประมาณ 12 ต่อ 1 ในปี 2566 เหลือประมาณ 2 ต่อ 1 ในไตรมาสที่สามของปี 2569 โดยมีบุคคลสำคัญ ได้แก่ Jeff Dean, Sanjay Ghemawat, Noam Shazeer และ John Jumper ผู้ได้รับรางวัลโนเบล ในบรรดาผู้ที่จากไป หลายคนเป็นคู่แข่งและสตาร์ทอัพ Anthropic ได้ดึงส่วนแบ่งที่ใหญ่ที่สุดของผู้แปรพักตร์ DeepMind

Google พูดน้อยไป โฆษกของ DeepMind ไม่สามารถแสดงความคิดเห็นได้ทันทีเมื่อโพสต์ของ Chughtai เริ่มเผยแพร่ ตามรายงาน และบริษัทยังไม่ได้ออกคำตอบต่อสาธารณะเมื่อวันอังคาร

นักการเมืองและผู้บริหารยังคงแตกแยก

การลาออกเกิดขึ้นในช่วงกลางสัปดาห์พิเศษสำหรับวาทกรรมด้านความปลอดภัยของ AI Dario Amodei ผู้บริหารระดับสูงด้านมานุษยวิทยาเรียกร้องให้อุตสาหกรรมชะลอการพัฒนาชายแดน ตำแหน่งดังกล่าวได้รับการรับรองโดย Sam Altman จาก OpenAI, Demis Hassabis จาก Google และ Elon Musk สัปดาห์นี้ เดอะการ์เดียนขอให้ผู้เชี่ยวชาญ 6 คนอธิบายว่าจริงๆ แล้วความเสี่ยงคืออะไร ซึ่งเป็นการวัดว่าการอภิปรายได้เดินทางจากชุมชนการวิจัยไปสู่การอภิปรายกระแสหลักไปไกลแค่ไหน

ประธานาธิบดีโดนัลด์ ทรัมป์ ปฏิเสธคำเตือนดังกล่าวว่าเป็น "การหลอกลวง" ในการโทรผ่านสปีกเกอร์โฟนอันน่าประหลาดใจ ซึ่งขัดจังหวะการปรากฏตัวบนเวทีของเจนเซน ฮวง ผู้บริหารระดับสูงของ Nvidia ในลอสแอนเจลิส หวง กล่าวถึงคำเตือนของนักวิจัยโดยตรง กล่าวเมื่อวันจันทร์ว่า แนวโน้มอันเลวร้าย “ไม่ได้ตั้งอยู่บนพื้นฐานทางวิทยาศาสตร์” การรวมตัวกันของการคาดการณ์การสูญพันธุ์และการเรียกร้องให้ชะลอความเร็วนั้น “น่าตกใจและน่าหนักใจ และไม่ควรทำ มันไม่มีความรับผิดชอบ” เขากล่าว ตามรายงานของ AFP นักวิจารณ์ตลาดตั้งข้อสังเกตว่าหุ้นของ Alphabet ร่วงลงเนื่องจากนักลงทุนชั่งน้ำหนักการอภิปรายด้านความปลอดภัยที่เพิ่มขึ้น

คำถามของ Chughtai มีความเฉพาะเจาะจง: เขาต้องการให้บริษัท AI ชะลอการแข่งขัน ยอมรับความโปร่งใสอย่างแท้จริง และประสานงานตาม "สังคมที่สามารถรับมือได้" แทนที่จะกำหนดโดยห้องปฏิบัติการใดก็ตามที่กลัวการล้าหลังมากที่สุด ขณะนี้มีการขอให้รัฐบาลต่อรองแบบเดียวกันนี้เป็นผู้ตัดสิน และตามที่ได้ระบุไว้ในสัปดาห์นี้ชัดเจนแล้ว ทั้งห้องปฏิบัติการและนักการเมืองต่างก็ใกล้เคียงกับข้อตกลงในเงื่อนไขนี้

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →