Google DeepMind กำลังจ้างทีมผู้เชี่ยวชาญด้านนิวเคลียร์เพื่อประเมินว่าโมเดล AI ระดับแนวหน้าสามารถช่วยในการพัฒนาอาวุธนิวเคลียร์ได้หรือไม่ ตามรายชื่องานที่รายงานครั้งแรกโดยสิ่งพิมพ์อุตสาหกรรม Data Center Dynamics และครอบคลุมในสัปดาห์นี้โดย Futurism

รายชื่อดังกล่าวซึ่งโพสต์บนเว็บไซต์รับสมัครงานของ Google กำลังมองหา "นักฟิสิกส์และวิศวกรนิวเคลียร์ที่มีคุณสมบัติสูง" เพื่อรับตำแหน่งผู้เชี่ยวชาญด้านนิวเคลียร์ในทีมวัตถุระเบิดเคมี ชีวภาพ รังสีวิทยา นิวเคลียร์ และผลผลิตสูง (CBRNE) ซึ่งอยู่ภายในองค์กรการพัฒนาและนวัตกรรมที่มีความรับผิดชอบของ DeepMind For more context on this story, see our ongoing latest AI developments.

สิ่งที่งานขอจริงๆ

แถบขั้นต่ำมีความชัน ผู้สมัครจำเป็นต้องมีปริญญาเอกในสาขาต่างๆ เช่น ฟิสิกส์พลาสมาหรือวิศวกรรมนิวเคลียร์ หรือ "ประสบการณ์ภาคปฏิบัติที่เทียบเท่า" รวมถึงประวัติการทำงานร่วมกับห้องปฏิบัติการของรัฐบาลสหรัฐฯ และความคุ้นเคยกับด้านนโยบายต่างๆ รวมถึงการดูแลสต๊อกสินค้า การไม่แพร่ขยายอาวุธ การควบคุมอาวุธ หรือการลดภัยคุกคาม

คุณสมบัติที่ต้องการยังมีอีกมาก: ประสบการณ์ด้านความปลอดภัยของ AI ความเชี่ยวชาญในการสร้างแบบจำลองทางคอมพิวเตอร์ เวลาที่ใช้ในโรงงานผู้ใช้เลเซอร์หลัก ๆ และความสามารถในการออกแบบการประเมินความปลอดภัยที่ "ไม่จำแนกประเภทอย่างชัดเจนและควบคุมไม่ได้ด้วยการส่งออกโดยการพัฒนาพร็อกซีวิทยาศาสตร์แบบใช้คู่สำหรับหัวข้ออาวุธ"

ค่าตอบแทนเป็นไปตามข้อกำหนดของผู้เชี่ยวชาญ Google ระบุช่วงเงินเดือนไว้ที่ 174,000 ถึง 252,000 เหรียญสหรัฐ โดยมีโบนัสเพิ่ม 15%

เหตุใด AI Lab จึงต้องการผู้เชี่ยวชาญด้านอาวุธ

ความรับผิดชอบหลักคือการประเมินความปลอดภัยของโมเดล AI ระดับแนวหน้าในโดเมนนิวเคลียร์ รายชื่อดังกล่าวอธิบายถึงงานดังกล่าวว่าเป็นการประเมิน "ความช่วยเหลือแบบจำลองในการแพร่กระจายของอาวุธฟิชชัน ฟิวชั่น และเทอร์โมนิวเคลียร์ อุทกพลศาสตร์ของรังสี แมกนีโตไฮโดรไดนามิกส์ ฯลฯ ในลักษณะที่ไม่จำแนกประเภทและควบคุมการส่งออกไม่ได้"

แปลจากภาษาในการโพสต์งาน: DeepMind ต้องการผู้เชี่ยวชาญที่สามารถระบุได้ว่าแบบจำลองของตนสามารถให้ความช่วยเหลือที่มีความหมายในการพัฒนาอาวุธนิวเคลียร์ได้หรือไม่ และดำเนินการดังกล่าวโดยไม่ต้องประเมินด้วยตนเองข้ามเส้นแบ่งประเภท การอ้างอิงถึง "พร็อกซีวิทยาศาสตร์แบบใช้คู่" เสนอแนะการทดสอบที่สร้างขึ้นจากปัญหาทางวิทยาศาสตร์ที่อยู่ติดกัน เช่น อุทกพลศาสตร์ของการแผ่รังสี ซึ่งถือเป็นคำถามเฉพาะด้านอาวุธที่แบบจำลองไม่ควรตอบ

โดเมนฟิสิกส์ที่มีชื่ออยู่ในรายการไม่ได้กำหนดขึ้นเอง อุทกพลศาสตร์ของการแผ่รังสีและแมกนีโตไฮโดรไดนามิกส์อธิบายว่าพลังงานและพลาสมามีพฤติกรรมอย่างไรภายใต้สภาวะที่รุนแรงที่เกี่ยวข้องกับฟิสิกส์ของอาวุธนิวเคลียร์ ซึ่งเป็นสาเหตุที่แน่ชัดว่าทำไมพวกมันถึงเพิ่มเป็นสองเท่าในหัวข้อที่ละเอียดอ่อน: ความสามารถในสาขาเหล่านี้เป็นรากฐานของการออกแบบหัวรบ แต่วิทยาศาสตร์พื้นฐานยังได้รับการตีพิมพ์อย่างเปิดเผยในการวิจัยฟิวชั่นและฟิสิกส์ดาราศาสตร์ การสร้างคำถามเพื่อการประเมินเกี่ยวกับ "ผู้รับมอบฉันทะ" ดังกล่าวช่วยให้ทีมความปลอดภัยสามารถวัดว่าแบบจำลองสามารถนำทางความรู้ขอบเขตนั้นได้หรือไม่ โดยที่การประเมินไม่กลายเป็นความเสี่ยงในการแพร่กระจาย

การอ่านรายชื่อของลัทธิอนาคตนิยมนั้นตรงไปตรงมา: แนะนำว่าห้องปฏิบัติการวิจัย AI ชั้นนำของ Google คาดว่าโมเดลจะต้องเผชิญกับคำถามเกี่ยวกับเนื้อหาทางนิวเคลียร์ที่แท้จริงในที่สุด และกำลังจ้างผู้เชี่ยวชาญที่จำเป็นเพื่อตรวจจับพฤติกรรมนั้นก่อนที่จะมีความสำคัญ การวางกรอบดังกล่าวเป็นการเก็งกำไร การผลักดันการจ้างงานแสดงให้เห็นถึงความพร้อม ไม่ใช่ข้อพิสูจน์ว่าโมเดลปัจจุบันสามารถสร้างแนวทางการใช้อาวุธที่นำไปใช้ได้จริง แต่ขนาดของข้อกำหนดของผู้เชี่ยวชาญเน้นย้ำว่าห้องปฏิบัติการปฏิบัติต่อสถานการณ์นี้อย่างจริงจังเพียงใด

ส่วนหนึ่งของการสร้างความปลอดภัยที่ใหญ่ขึ้น

การจ้างงานนี้สอดคล้องกับรูปแบบที่กำหนดอุตสาหกรรมห้องปฏิบัติการชายแดนมานานหลายปี: บริษัท AI คัดเลือกผู้เชี่ยวชาญด้านโดเมนที่ได้รับการรับรองจากสาขาวิชาวิชาการเพื่อทดสอบความเครียดกับโมเดลของตน สิ่งที่เริ่มต้นจากการเป็นกองทัพของผู้ตรวจสอบข้อเท็จจริงในเนื้อหาสำหรับการฝึกอบรมโมเดลได้พัฒนามากขึ้นเรื่อยๆ ให้เป็นทีมประเมินผลเฉพาะสำหรับโดเมนที่มีความเสี่ยงจากภัยพิบัติ โดย CBRN เป็นหนึ่งในทีมที่ละเอียดอ่อนที่สุด

ความเป็นผู้นำของ DeepMind ได้ส่งเสียงเตือนต่อสาธารณะ เมื่อสัปดาห์ที่แล้ว ผู้นำของห้องปฏิบัติการเตือนว่าความพยายามในการแฮ็กที่ใช้ AI ควรถือเป็น "ภาพเตือนล่วงหน้า" ของความเสี่ยงด้านความปลอดภัยที่ใหญ่กว่า สำนักข่าวรอยเตอร์รายงาน พร้อมคาดการณ์ว่า AI อาจทำให้เกิดเหตุการณ์ด้านความปลอดภัยที่สำคัญได้ภายในเวลาประมาณสองปี การสร้างทีมประเมินผล CBRN ถือเป็นแนวทางปฏิบัติของวาทศาสตร์ดังกล่าว

การผลักดันดังกล่าวเกิดขึ้นท่ามกลางการเปลี่ยนแปลงโครงสร้างการดำเนินงาน AI ของ Google ในเดือนสิงหาคม บริษัทได้ปรับเปลี่ยนความเป็นผู้นำด้าน AI โดย Reuters และ CNBC รายงานว่าการเปลี่ยนแปลงผู้นำที่มีมายาวนานทำให้หน้าที่ความรับผิดชอบเปลี่ยนไป และ The Wall Street Journal รายงานแยกกันว่า Google ได้ย้ายทีมที่รับผิดชอบด้าน AI ออกจากห้องปฏิบัติการ DeepMind ทั้งหมดโดยเป็นส่วนหนึ่งของการเปลี่ยนแปลงครั้งนั้น การที่ทีม CBRNE ตอนนี้นั่งอยู่ในองค์กร "การพัฒนาที่รับผิดชอบและนวัตกรรม" แสดงให้เห็นว่าเครื่องมือด้านความปลอดภัยได้รับการจัดระเบียบใหม่และขยายอย่างไร แม้ว่าการรายงานเกี่ยวกับการปรับโครงสร้างยังคงดำเนินต่อไปก็ตาม

คำบรรยายการกำกับดูแล

นอกจากนี้ยังมีมิตินโยบาย บริษัท Frontier AI อยู่ภายใต้แรงกดดันที่เพิ่มขึ้นจากรัฐบาลให้แสดงให้เห็นว่าพวกเขาสามารถวัดและควบคุมความสามารถที่อันตรายที่สุดที่ระบบของพวกเขาอาจพัฒนาได้ การประเมินที่น่าเชื่อถือในด้านนิวเคลียร์และชีวภาพกำลังกลายเป็นข้อกำหนดโดยพฤตินัยสำหรับความน่าเชื่อถือของห้องปฏิบัติการ ซึ่งเป็นงานด้านความปลอดภัยที่หน่วยงานกำกับดูแลและหน่วยงานกำกับดูแลต้องการเห็นมากขึ้น

ในแง่นั้น การจ้างคนที่ประกอบอาชีพในสถานประกอบการที่ไม่แพร่ขยายอาวุธนั้นมีจุดประสงค์สองประการพร้อมกัน นั่นคือ สร้างความสามารถทางเทคนิคเพื่อดำเนินการประเมินที่เข้มงวด และยืมความชอบธรรมของสถาบันจากโลกแห่งการควบคุมอาวุธที่มีอยู่

รายชื่อยังคงเปิดอยู่บนไซต์รับสมัครงานของ Google ไม่ว่าบทบาทดังกล่าวจะส่งสัญญาณถึงความระมัดระวังหรือตำแหน่งทางการแข่งขัน สิ่งหนึ่งที่ชัดเจน: ยุคที่ความปลอดภัยของ AI เป็นงานสำหรับคนทั่วไปได้สิ้นสุดลงแล้ว

_บทความนี้จัดทำขึ้นโดยการรายงานโดย Data Center Dynamics และ Futurism และในรายการงานสาธารณะของ Google DeepMind_

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →