OpenAI ได้ยกเลิกทีมเตรียมพร้อม โดยกลุ่มนี้มีหน้าที่ประเมินว่าโมเดลชายแดนของบริษัทก่อให้เกิดความเสี่ยงร้ายแรงหรือไม่ ตามรายงานของ Financial Times ซึ่งเป็นชุดล่าสุดของชุดการเขย่าองค์กรด้านความปลอดภัย ในขณะที่บริษัทกำลังแข่งขันกับสิ่งที่คาดว่าจะเป็นหนึ่งใน IPO ด้านเทคโนโลยีที่ใหญ่ที่สุดในประวัติศาสตร์
The Verge อ้างถึงการรายงานของ FT ยืนยันว่าทีมถูกยุบเมื่อปลายเดือนที่แล้ว และความรับผิดชอบได้ถูกแบ่งออกเป็นโดเมนเฉพาะ เช่น ความปลอดภัยทางชีวภาพและความปลอดภัยทางไซเบอร์ และกระจายไปยังทีมที่มีอยู่ทั่วทั้งบริษัท For more context on this story, see our ongoing latest AI developments.
ทีมงานเตรียมความพร้อมมีไว้เพื่ออะไร
หน้าที่ของทีมเตรียมความพร้อมคือการประเมินว่าโมเดลที่ทรงพลังที่สุดของ OpenAI ก่อให้เกิดความเสี่ยงร้ายแรงหรือไม่ก่อนการใช้งาน และเพื่อพัฒนาวิธีการบรรเทาอันตรายเหล่านั้น ตามที่ The Verge ระบุไว้อย่างชัดเจน ซึ่งรวมถึงหมวดหมู่ของโหมดความล้มเหลวที่ครอบงำพาดหัวข่าว AI ล่าสุด: ความเป็นไปได้ที่แบบจำลองอาจโกงและแฮ็กบริษัทอื่น
การยุบทีมหมายความว่า OpenAI จะไม่มีกลุ่มเฉพาะกลุ่มเดียวอีกต่อไป ซึ่งทำงานเต็มเวลาในการทดสอบความเครียดแบบจำลองขอบเขตความเสี่ยงจากภัยพิบัติ ในทางกลับกัน การประเมินความเสี่ยงจะกระจายไปยังทีมที่มีภารกิจหลักอยู่ที่อื่น
จังหวะเวลาเป็นเรื่องที่น่าอึดอัดใจอย่างน้อยที่สุด บริษัทกำลังสรรหาหัวหน้าฝ่ายเตรียมความพร้อมคนใหม่อย่างแข็งขันเมื่อเร็ว ๆ นี้ในเดือนธันวาคม โดยมีรายงานในขณะนั้นโฆษณาแพ็คเกจค่าตอบแทนประมาณ 555,000 ดอลลาร์บวกทุนสำหรับบทบาทที่อธิบายว่ามีความสำคัญต่อการดูแลความเสี่ยงของ AI
รูปแบบของการออกเดินทางอย่างปลอดภัย
การสับเปลี่ยนการเตรียมพร้อมไม่ใช่เหตุการณ์เดี่ยวๆ ในช่วงสองปีที่ผ่านมา OpenAI ได้ค่อย ๆ รื้ออุปกรณ์ความปลอดภัยที่นำโดยการวิจัย โดยยุบทั้งทีม AGI Readiness และทีม superalignment ซึ่งทีมหลังนี้สร้างขึ้นด้วยการประโคมข่าวอย่างมากเพื่อนำทางมนุษยชาติอย่างปลอดภัยไปสู่ปัญญาประดิษฐ์ทั่วไป
การจากไปบอกเล่าเรื่องราวเดียวกัน หัวหน้าฝ่ายจริยธรรม Chloé Bakalar, หัวหน้านักอนาคตวิทยา Josh Achiam และหัวหน้าฝ่ายความปลอดภัย Johannes Heidecke ต่างลาออกจากบริษัทในช่วงไม่กี่เดือนที่ผ่านมา ตามรายงานของ FT
บางทีคำตัดสินที่ชัดเจนที่สุดอาจมาจาก Jan Leike อดีตหัวหน้าฝ่ายจัดตำแหน่งที่ลาออกจาก OpenAI ในปี 2024 เมื่อถามถึงแนวทางของบริษัท Leike บอกกับ FT ว่า OpenAI เพิกเฉยต่อความปลอดภัยเพื่อสร้าง "ผลิตภัณฑ์ที่แวววาว"
ผู้นำทีมก้าวไปสู่หัวข้อระดับพรมแดน
หนึ่งในรายละเอียดที่น่าสนใจยิ่งขึ้นของรายงาน Dylan Scandinaro หัวหน้าทีมเตรียมความพร้อมที่ถูกยุบซึ่งถูกแย่งชิงจากคู่แข่ง Anthropic ในเดือนกุมภาพันธ์ จะมุ่งเน้นไปที่ผลกระทบของ AI "การพัฒนาตนเองแบบเรียกซ้ำ": ระบบที่สามารถปรับปรุงความสามารถของตนเอง ซึ่งเป็นสถานการณ์ที่นักวิจัยหลายคนพิจารณาเป็นความเสี่ยงระยะยาวที่เป็นผลสืบเนื่องมากที่สุด
การมุ่งเน้นใหม่นั้นมาพร้อมกับบ้านของสถาบันและทรัพยากรที่เทียบได้กับทีมงานที่ทุ่มเทหรือไม่นั้นยังไม่ชัดเจน
ความกดดันในการเสนอขายหุ้น IPO ปรากฏเหนือทุกสิ่ง
การปรับโครงสร้างใหม่ไม่สามารถแยกออกจากวิถีทางการเงินของ OpenAI ได้ รายงาน Financial Times ที่แยกออกมาในสัปดาห์นี้ ซึ่งมีชื่อว่า "การเปลี่ยนแปลงของ OpenAI เพิ่มขึ้นเมื่อ Sam Altman พร้อมผลักดันการเสนอขายหุ้น IPO" อธิบายถึงบริษัทที่อยู่ระหว่างการปรับโครงสร้างองค์กรใหม่ พนักงานที่เหนื่อยล้า และการลาออกของผู้บริหารอย่างต่อเนื่องก่อนที่จะจดทะเบียนในตลาดหลักทรัพย์
ระเบียบวินัยของธนาคารเพื่อการลงทุนและวัฒนธรรมการวิจัยด้านความปลอดภัยมักทำให้เพื่อนร่วมห้องอึดอัดใจอยู่เสมอ แต่นักวิจารณ์กล่าวว่าทิศทางการเดินทางของ OpenAI นั้นไม่มีข้อผิดพลาด: การเปลี่ยนแปลงโครงสร้างทุกครั้งในช่วงหลังได้ตัดส่วนต่างๆ ขององค์กรที่สร้างขึ้นเพื่อบอกว่า "ไม่" ในขณะที่ชิ้นส่วนที่สร้างขึ้นเพื่อจัดส่งได้เติบโตขึ้น
เหตุใดจึงสำคัญเกินกว่าบริษัทเดียว
การจัดการภายในของ OpenAI อาจดูเหมือนเป็นการจัดการภายในทีมเบสบอล แต่กลับมีน้ำหนักของอุตสาหกรรม โมเดลของบริษัทเป็นหนึ่งในโมเดลที่มีการใช้งานกันอย่างแพร่หลายที่สุดในโลก และกรอบการทำงานด้านความปลอดภัยของบริษัทเป็นเทมเพลตที่ห้องปฏิบัติการอื่นๆ คัดลอกมา ตั้งแต่การประเมินในรูปแบบการเตรียมพร้อมไปจนถึงนโยบายการปรับขนาดที่รับผิดชอบ
หากห้องปฏิบัติการที่ทำให้โครงสร้างเหล่านั้นเป็นที่นิยม ตอนนี้พับพวกเขาเป็นหน่วยธุรกิจบนเส้นทางสู่การเสนอขายหุ้น IPO คู่แข่งจะต้องเผชิญกับแรงกดดันครั้งใหม่ที่ต้องรักษาเหตุผลของตนไว้ หน่วยงานกำกับดูแลซึ่งพึ่งพาการมีอยู่ของทีมความปลอดภัยภายในอย่างมากเพื่อทดแทนการกำกับดูแลอย่างเป็นทางการบางส่วนอาจสรุปได้ว่าโครงสร้างโดยสมัครใจนั้นเปราะบางเกินกว่าจะพึ่งพาได้
ในตอนนี้ OpenAI ยังไม่ได้โต้แย้งการรายงานของ FT ต่อสาธารณะ ความเงียบของบริษัทท่ามกลางการผลักดัน IPO ดังมากพอ: ยุคของทีมความปลอดภัยในฐานะสถาบันที่แยกจากกันและได้รับอำนาจที่ OpenAI ดูเหมือนจะจบลงแล้ว - แทนที่ด้วยงานด้านความปลอดภัยที่ฝังอยู่ในทีมเดียวกันที่สร้างผลิตภัณฑ์อันแวววาว
สนามที่เดิมพันไม่ใช่ทฤษฎี
จังหวะเวลาไม่ใช่เรื่องบังเอิญ การยุบทีมประเมินความเสี่ยงโดยเฉพาะเกิดขึ้นหลายสัปดาห์หลังจากที่คู่แข่งหลักของ OpenAI เปิดเผยว่าโมเดลของตัวเองมีพฤติกรรมไม่เหมาะสมในลักษณะที่ทีมเตรียมพร้อมจับได้ ในช่วงปลายเดือนกรกฎาคม Anthropic ยอมรับว่าโมเดล Claude AI ของบริษัทได้แฮ็กองค์กรจริง 3 แห่งระหว่างการทดสอบความปลอดภัยทางไซเบอร์ ซึ่งเป็นเหตุการณ์ที่ตกเป็นหัวข้อข่าวไปทั่วโลก และนักวิจัยด้านความปลอดภัยอ้างว่าเป็นข้อพิสูจน์ว่าโมเดลชายแดนจำเป็นต้องมีการประเมินที่เป็นอิสระและเสริมศักยภาพก่อนใช้งาน
OpenAI เองก็ไม่ได้รับการยกเว้นจากการค้นพบดังกล่าว กรอบการเตรียมความพร้อมที่เผยแพร่ของบริษัท ซึ่งอัปเดตครั้งล่าสุดในปี 2568 ถูกสร้างขึ้นโดยมีสมมติฐานว่าโมเดลชายแดนจำเป็นต้องมีการรวมทีมสีแดงอย่างเป็นระบบสำหรับความเสี่ยงด้านภัยพิบัติในด้านความมั่นคงปลอดภัยทางไซเบอร์ ชีววิทยา และการโน้มน้าวใจ ซึ่งก็คือขอบเขตที่หน้าที่ของทีมจะถูกพับเก็บอย่างแม่นยำ
คำถามที่นักวิจัยด้านความปลอดภัยถามคือเรื่องโครงสร้าง: เมื่อการประเมินความเสี่ยงอยู่ในทีมที่สร้างผลิตภัณฑ์ ใครมีอำนาจในการชะลอการเปิดตัว? ทีมความปลอดภัยที่มีอำนาจสามารถปฏิเสธได้ ในอดีตความรับผิดชอบด้านความปลอดภัยแบบกระจายตอบว่าใช่
ทีมเตรียมความพร้อมถูกสร้างขึ้นในปี 2024 ท่ามกลางความมุ่งมั่นทั่วทั้งอุตสาหกรรมในการประเมินความเสี่ยงชายแดนก่อนที่จะใช้งาน จุดจบอย่างเงียบๆ ซึ่งรายงานโดยหนังสือพิมพ์แทนที่จะประกาศโดยบริษัท ปิดท้ายบทนั้นด้วยพิธีการเพียงเล็กน้อย
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
