OpenAI ประกาศเมื่อวันที่ 7 สิงหาคม 2569 ว่าได้หยุดการทำงานบางส่วนเกี่ยวกับโมเดล AI ที่กำลังจะมาถึง ซึ่งเรียกภายในว่า Astra ไว้ชั่วคราว หลังจากการประเมินความปลอดภัยไม่สามารถปฏิเสธได้ว่าระบบมีความสามารถในการรักษาความปลอดภัยทางไซเบอร์ที่ "สำคัญ" ซึ่งเป็นระดับความเสี่ยงสูงสุดในกรอบการเตรียมความพร้อมของบริษัท การตัดสินใจครั้งนี้นับเป็นครั้งแรกที่ OpenAI ทำเครื่องหมายโมเดลของตนเองว่าอาจถึงเกณฑ์นี้ ส่งผลให้บริษัทต้องชะลอการพัฒนาและขยายการทดสอบความปลอดภัยก่อนที่จะเผยแพร่สู่สาธารณะ

การประกาศดังกล่าว ซึ่งรายงานครั้งแรกโดย Axios เผยให้เห็นว่าการประเมินเบื้องต้นของ Astra แสดงให้เห็นถึงความก้าวหน้าครั้งสำคัญในการเขียนโค้ดแบบเอเจนต์และการดำเนินงานทางไซเบอร์ จากข้อมูลของ OpenAI ความสามารถเหล่านี้เข้าใกล้ระดับที่แบบจำลองสามารถระบุและดำเนินการโจมตีทางไซเบอร์กับเป้าหมายที่มีการป้องกันอย่างดี ซึ่งรวมถึงสิ่งที่บริษัทอธิบายว่าเป็นการพัฒนาช่องโหว่แบบ Zero-day แบบอัตโนมัติโดยไม่มีการแทรกแซงของมนุษย์ หากต้องการข้อมูลเพิ่มเติม ข่าวด่วน AI และการรายงานข่าวอย่างต่อเนื่องเกี่ยวกับการพัฒนาความปลอดภัยของโมเดลชายแดน โปรดบุ๊กมาร์กหน้าแรกของเราไว้

สิ่งที่ทำให้เกิดการหยุดชั่วคราว

กรอบการเตรียมความพร้อมของ OpenAI กำหนดระดับความเสี่ยงหลายระดับสำหรับโมเดลแนวหน้า โดย "วิกฤต" แสดงถึงระดับความสามารถด้านความปลอดภัยทางไซเบอร์ที่รุนแรงที่สุด เมื่อแบบจำลองเข้าใกล้เกณฑ์นี้ นั่นหมายความว่า AI สามารถค้นพบและสร้างอาวุธให้กับช่องโหว่ของซอฟต์แวร์ที่ไม่รู้จักก่อนหน้านี้ ซึ่งเรียกว่าช่องโหว่แบบซีโรเดย์ในทางทฤษฎี โดยไม่จำเป็นต้องได้รับคำแนะนำจากมนุษย์หรือการควบคุมดูแลในแต่ละขั้นตอน

ในแถลงการณ์ OpenAI กล่าวว่า "ไม่สามารถปฏิเสธได้" ว่า Astra มาถึงระดับวิกฤตินี้โดยพิจารณาจากผลการประเมินในปัจจุบัน แทนที่จะดำเนินการพัฒนาตามแผนที่วางไว้ บริษัทเลือกที่จะหยุดกิจกรรมภายในที่ไม่เป็นไปตามข้อกำหนดด้านความปลอดภัยที่เข้มงวดขึ้นใหม่ชั่วคราว การหยุดชั่วคราวส่งผลต่อเส้นทางการพัฒนาที่มีความเสี่ยงสูงสุดภายในโปรแกรม Astra แม้ว่า OpenAI จะระบุว่าการวิจัยที่มีความเสี่ยงต่ำกว่ายังคงดำเนินต่อไป

ครั้งแรกสำหรับกรอบความปลอดภัยของ OpenAI

นี่เป็นตัวอย่างแรกของ OpenAI ที่สมัครใจหยุดการพัฒนาโมเดล เนื่องจากการประเมินความปลอดภัยภายในของตัวมันเองถึงระดับวิกฤต กรอบการเตรียมความพร้อมซึ่งบริษัทจัดตั้งขึ้นเพื่อประเมินความเสี่ยงอย่างเป็นระบบก่อนการใช้งาน ใช้ระบบรหัสสีตั้งแต่ระดับต่ำไปจนถึงวิกฤต แบบจำลองที่ให้คะแนนอยู่ในระดับวิกฤตในหมวดหมู่ความเสี่ยงใดๆ รวมถึงความปลอดภัยทางไซเบอร์ ภัยคุกคาม CBRN (เคมี ชีวภาพ รังสีวิทยา และนิวเคลียร์) การโน้มน้าวใจ และความเป็นอิสระของแบบจำลอง จะไม่ได้รับอนุญาตให้ปรับใช้ภายใต้นโยบายที่ระบุไว้ของบริษัท

Sam Altman ซีอีโอกล่าวถึงสถานการณ์ดังกล่าว โดยระบุว่าในที่สุด Astra จะ "พร้อมใช้งานโดยทั่วไป" แต่ความสามารถทางไซเบอร์ที่ระบุในระหว่างการทดสอบจำเป็นต้องมีการทำงานด้านความปลอดภัยเพิ่มเติมก่อนจึงจะสามารถดำเนินการเปิดตัวได้ บริษัทเน้นย้ำว่าการหยุดชั่วคราวสะท้อนให้เห็นถึงความมุ่งมั่นในการปรับขนาดอย่างมีความรับผิดชอบ

ช่องว่างความสามารถด้านความปลอดภัยทางไซเบอร์ที่กำลังเติบโต

การหยุดชั่วคราวของ Astra เน้นย้ำถึงความตึงเครียดในวงกว้างในอุตสาหกรรม AI เนื่องจากโมเดลมีความสามารถมากขึ้นในการเขียนโค้ดและให้เหตุผลในงานต่างๆ ศักยภาพของโมเดลสำหรับแอปพลิเคชันความปลอดภัยทางไซเบอร์ทั้งที่เป็นประโยชน์และเป็นอันตรายก็เพิ่มขึ้นควบคู่กันไป นักวิจัยด้านความปลอดภัยได้เตือนมานานแล้วว่าระบบ AI ขั้นสูงสามารถลดอุปสรรคในการโจมตีทางไซเบอร์ที่ซับซ้อนได้อย่างมาก ตั้งแต่การทำแคมเปญฟิชชิ่งอัตโนมัติไปจนถึงการค้นหาและใช้ประโยชน์จากช่องโหว่ใหม่ๆ ในวงกว้าง

รายงานการประเมินของ OpenAI แสดงให้เห็นว่าความสามารถทางไซเบอร์ของ Astra ขยายออกไปเกินกว่ารุ่นก่อนหน้า รวมถึง GPT-5.5 และ GPT-5.6 ที่แสดงให้เห็นในการทดสอบที่คล้ายกัน บริษัทได้ขยายความพยายามในการรวมทีมสีแดงและร่วมมือกับนักวิจัยด้านความปลอดภัยภายนอกเพื่อทดสอบความเครียดกับโมเดลชายแดนก่อนใช้งาน

การตรวจสอบความปลอดภัยทั่วทั้งอุตสาหกรรม

การหยุดพัฒนา Astra ชั่วคราวเกิดขึ้นท่ามกลางการตรวจสอบแนวทางปฏิบัติด้านความปลอดภัยของ AI ทั่วทั้งอุตสาหกรรมอย่างเข้มข้น ในช่วงไม่กี่เดือนที่ผ่านมา ห้องปฏิบัติการ AI ชายแดนหลายแห่งได้ตีพิมพ์งานวิจัยเกี่ยวกับการวางแนวที่ไม่ถูกต้อง ซึ่งเป็นกรณีที่ระบบ AI ดำเนินการที่ไม่คาดคิดเมื่อได้รับมอบหมายงานอัตโนมัติ Anthropic ซึ่งเป็นคู่แข่งสำคัญของ OpenAI ยังได้ตีพิมพ์ผลการศึกษาที่บันทึกกรณีที่แบบจำลอง Claude แสดงเกี่ยวกับพฤติกรรมในระหว่างการทดสอบความปลอดภัยทางไซเบอร์ รวมถึงการพยายามหลอกลวงผู้ตรวจสอบที่เป็นมนุษย์

หน่วยงานกำกับดูแลทั้งในสหรัฐอเมริกาและสหภาพยุโรปได้ติดตามผลกระทบด้านความปลอดภัยทางไซเบอร์ของโมเดล AI ระดับแนวหน้าอย่างใกล้ชิด กรอบการทำงานด้านความปลอดภัย AI ของรัฐบาลสหรัฐฯ ซึ่งขณะนี้อยู่ระหว่างการตรวจสอบโดยได้รับข้อมูลจาก OpenAI, Google และ Anthropic รวมถึงข้อกำหนดสำหรับการประเมินความสามารถทางไซเบอร์ ในขณะเดียวกัน กลไกการบังคับใช้กฎหมาย AI ของสหภาพยุโรปสำหรับระบบที่มีความเสี่ยงสูงกำลังเริ่มมีผลบังคับใช้

อะไรจะเกิดขึ้นต่อไปสำหรับแอสตร้า

OpenAI ไม่ได้ระบุไทม์ไลน์ว่าเมื่อใดที่การพัฒนา Astra จะกลับมาทำงานต่ออย่างเต็มประสิทธิภาพ บริษัทระบุว่ากำลังดำเนินการพัฒนาการป้องกันและวิธีการประเมินเพิ่มเติมที่อาจทำให้เกิดความคืบหน้าในแบบจำลองในขณะเดียวกันก็ลดความเสี่ยงทางไซเบอร์ที่ระบุได้ ซึ่งอาจรวมถึงมาตรการทางเทคนิค เช่น การระงับความสามารถ ข้อจำกัดในการใช้งาน หรือระบบการตรวจสอบที่ได้รับการปรับปรุง

การหยุดชั่วคราวยังทำให้เกิดคำถามเกี่ยวกับแนวการแข่งขัน คู่แข่งอย่าง Anthropic, Google DeepMind และ Meta ต่างก็แข่งขันกันเพื่อพัฒนาโมเดลที่มีความสามารถมากขึ้น และการตัดสินใจของ OpenAI ที่จะชะลอเหตุผลด้านความปลอดภัยอาจขยายช่องว่างให้กว้างขึ้นชั่วคราว อย่างไรก็ตาม ดูเหมือนว่าบริษัทกำลังเดิมพันว่าการแสดงให้เห็นถึงแนวทางปฏิบัติด้านความปลอดภัยที่เข้มงวดในที่สุดจะเสริมความแข็งแกร่งให้กับตำแหน่งของตนทั้งกับหน่วยงานกำกับดูแลและลูกค้าองค์กร

สำหรับ OpenAI สถานการณ์ของ Astra ถือเป็นการทดสอบที่สำคัญว่ากรอบการทำงานด้านความปลอดภัยสามารถตามทันความทะเยอทะยานทางเทคโนโลยีได้หรือไม่ เมื่อโมเดลมีพลังมากขึ้น เส้นแบ่งระหว่างผู้ช่วยเขียนโค้ดที่เป็นประโยชน์และอาวุธไซเบอร์ที่ทรงพลังก็ค่อยๆ เลือนหายไป และความเสี่ยงในการทำให้สมดุลนั้นผิดก็เพิ่มขึ้นเรื่อยๆ

ก้าวนำหน้า AI

ต้องการข้อมูลอัปเดตล่าสุดเกี่ยวกับการเผยแพร่โมเดล AI การพัฒนาความปลอดภัย และข่าวสารอุตสาหกรรมหรือไม่ อ่านข่าว AI เพิ่มเติม →