OpenAI ได้หยุดการทำงานบางอย่างเกี่ยวกับโมเดลเจเนอเรชั่นถัดไป ซึ่งเรียกภายในว่า Astra หลังจากการทดสอบความปลอดภัยภายในเผยให้เห็นสิ่งที่บริษัทอธิบายว่าเป็นความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่สำคัญ การตัดสินใจดังกล่าว ซึ่งรายงานครั้งแรกโดย Reuters เมื่อวันที่ 7 สิงหาคม พ.ศ. 2569 และได้รับการยืนยันโดย Axios, The Guardian และ Wall Street Journal ถือเป็นการล่าช้าของโมเดลที่สำคัญที่สุดประการหนึ่ง ซึ่งเชื่อมโยงโดยเฉพาะกับเกณฑ์ความสามารถทางไซเบอร์ที่ห้องปฏิบัติการ AI ที่สำคัญ หากต้องการความคุ้มครองอย่างต่อเนื่องเกี่ยวกับความปลอดภัยของโมเดลและอุตสาหกรรม AI โปรดติดตาม ข่าวด่วน AI ของเรา
ขอบเขตความสามารถทางไซเบอร์ใหม่
บริษัทเปิดเผยการหยุดชั่วคราวในบล็อกโพสต์ที่เผยแพร่ในวันเดียวกันซึ่งมีชื่อว่า "การตอบสนองต่อขอบเขตความสามารถทางไซเบอร์ที่สำคัญครั้งต่อไป" จากข้อมูลของ OpenAI การประเมินโมเดล Astra ระบุความสามารถที่ข้ามไปสู่ระดับสูงสุดของกรอบการเตรียมพร้อม ซึ่งเป็นระบบที่บริษัทใช้เพื่อจัดหมวดหมู่ความเสี่ยงในโดเมนต่างๆ เช่น ความปลอดภัยทางไซเบอร์ การโน้มน้าวใจ และความเป็นอิสระ
OpenAI ไม่ได้เปิดเผยรายละเอียดทางเทคนิคทั้งหมดเกี่ยวกับความสามารถทางไซเบอร์ที่เกี่ยวข้อง ซึ่งเป็นแนวทางปฏิบัติทั่วไปในการเปิดเผยความเสี่ยงของโมเดลที่มีความละเอียดอ่อน อย่างไรก็ตาม บริษัทให้ความสำคัญกับการค้นพบนี้ว่ามีนัยสำคัญพอที่จะรับประกันการชะลอลำดับเวลาการพัฒนาของแบบจำลอง และใช้มาตรการป้องกันเพิ่มเติมก่อนที่จะมีการเปิดตัวใดๆ สำนักข่าวรอยเตอร์รายงานว่า OpenAI "ทำเครื่องหมายความเสี่ยงด้านความปลอดภัยทางไซเบอร์ที่สำคัญที่เป็นไปได้ในโมเดลที่กำลังจะมาถึง" และย้ายไปที่ "ควบคุมให้เข้มงวดยิ่งขึ้น"
กรอบการเตรียมความพร้อมหมายถึงอะไร
กรอบการเตรียมความพร้อมของ OpenAI ได้รับการออกแบบมาเพื่อประเมินโมเดลชายแดนเทียบกับเกณฑ์ความเสี่ยงที่กำหนดไว้ก่อนที่จะเผยแพร่สู่สาธารณะ ระบบใช้ระดับการให้คะแนน และแบบจำลองที่เข้าใกล้หรือเกินระดับ "วิกฤต" ในโดเมนที่กำหนดจะกระตุ้นให้มีการตรวจสอบภาคบังคับ การรวมทีมสีแดงเพิ่มเติม และ - เช่นเดียวกับในกรณีของ Astra - อาจเกิดความล่าช้าในการปรับใช้
เฟรมเวิร์กนี้ก่อตั้งขึ้นในปี 2023 และได้รับการอัปเดตเป็นระยะ ภายใต้โครงสร้างปัจจุบัน โมเดลจะต้องชัดเจนในการประเมินความปลอดภัยที่จำลองสถานการณ์การใช้งานในทางที่ผิดที่อาจเกิดขึ้น สำหรับความปลอดภัยทางไซเบอร์โดยเฉพาะ การประเมินจะประเมินว่าแบบจำลองสามารถช่วยปฏิบัติการเชิงรุกได้อย่างมีความหมายหรือไม่ เช่น การค้นหาช่องโหว่ การเขียนโค้ดช่องโหว่ หรือการดำเนินการแคมเปญฟิชชิ่งขนาดใหญ่
ความจริงที่ว่า Astra กระตุ้นให้เกิดสัญญาณเกณฑ์วิกฤตที่บ่งบอกว่าโมเดลระดับแนวหน้ากำลังถึงระดับความสามารถ โดยที่ช่องว่างระหว่างแอปพลิเคชันที่เป็นประโยชน์และเป็นอันตรายนั้นแคบลงในโดเมนไซเบอร์ ซึ่งเป็นความท้าทายที่ทั้งอุตสาหกรรมกำลังเผชิญอยู่
สิ่งนี้เปรียบเทียบกับความล่าช้าในอดีตได้อย่างไร
ความล่าช้าของโมเดลเนื่องจากข้อกังวลด้านความปลอดภัยนั้นไม่เคยเกิดขึ้นมาก่อนใน OpenAI แต่โดยทั่วไปแล้วจะมุ่งเน้นไปที่ความเสี่ยง เช่น การสร้างเนื้อหาที่ไม่ได้รับอนุญาตหรือการสร้างเอาต์พุตที่หลอกลวง การหยุดชั่วคราวของ Astra นั้นมีความโดดเด่นเนื่องจากมีความเกี่ยวข้องโดยเฉพาะกับความสามารถทางไซเบอร์ที่ไปถึงระดับที่บริษัทจัดว่ามีความสำคัญ
TechCrunch ซึ่งยืนยันเรื่องราวดังกล่าว ตั้งข้อสังเกตว่า OpenAI "ทำให้การพัฒนาโมเดล Astra ช้าลงเนื่องจากข้อกังวลด้านความปลอดภัย" โดยกำหนดกรอบการตัดสินใจซึ่งเป็นส่วนหนึ่งของแนวทางการพัฒนาของบริษัทในการปรับขนาดอย่างรับผิดชอบ The Guardian รายงานว่า OpenAI ตัดสินใจ "หยุดการทำงานบางส่วน" บนโมเดลดังกล่าว แทนที่จะยกเลิกทันที โดยเสนอแนะว่าบริษัทตั้งใจที่จะดำเนินการพัฒนาต่อไปโดยมีมาตรการป้องกันที่ได้รับการปรับปรุงแล้ว
นอกจากนี้ สถานีโทรทัศน์สาธารณะของญี่ปุ่น NHK ยังกล่าวถึงการพัฒนานี้ ซึ่งสะท้อนให้เห็นถึงความสำคัญระดับโลกของเรื่องราวจากฐานผู้ใช้ระหว่างประเทศของ OpenAI และการตรวจสอบความปลอดภัยของโมเดลชายแดนที่เพิ่มมากขึ้นในเขตอำนาจศาล
ผลกระทบทั่วทั้งอุตสาหกรรม
ความล่าช้าของ Astra เกิดขึ้นท่ามกลางการถกเถียงกันอย่างดุเดือดว่าบริษัท AI ควรประเมินและเปิดเผยความเสี่ยงของแบบจำลองอย่างไร หน่วยงานกำกับดูแลในสหรัฐอเมริกา สหภาพยุโรป และสหราชอาณาจักรต่างผลักดันให้เกิดความโปร่งใสมากขึ้นเกี่ยวกับความสามารถของโมเดลชายแดน และรัฐบาลหลายแห่งได้จัดตั้งสถาบันความปลอดภัยของ AI โดยเฉพาะเพื่อทดสอบโมเดลขั้นสูงสำหรับความเสี่ยงทางไซเบอร์ ชีวภาพ และความเสี่ยงอื่นๆ
การตัดสินใจของ OpenAI ในการเปิดเผยการค้นพบความสามารถที่สำคัญต่อสาธารณะ แทนที่จะแก้ไขอย่างเงียบๆ ภายใน สอดคล้องกับแนวโน้มของอุตสาหกรรมที่กว้างขึ้นในด้านความโปร่งใสโดยสมัครใจ บริษัทต่างๆ รวมถึง Anthropic และ Google DeepMind ได้เผยแพร่ความมุ่งมั่นในการเตรียมความพร้อมและการปรับขนาดความรับผิดชอบที่คล้ายคลึงกัน แม้ว่าวิธีการประเมินเฉพาะจะแตกต่างกันก็ตาม
สำหรับชุมชนความปลอดภัยทางไซเบอร์ ตอนนี้เน้นย้ำข้อกังวลที่เพิ่มขึ้น เนื่องจากเมื่อโมเดลมีความสามารถมากขึ้น มาตรการป้องกันและกรอบการประเมินที่จำเป็นเพื่อให้ก้าวทันก็ต้องก้าวหน้าไปด้วย โมเดลที่สามารถระบุช่องโหว่แบบ Zero-day หรือทำให้ส่วนของห่วงโซ่การโจมตีเป็นอัตโนมัติ แสดงถึงทั้งโอกาสสำหรับทีมรักษาความปลอดภัยในการป้องกันและความเสี่ยงที่ตกอยู่ในมือของผู้ไม่หวังดี
อะไรจะเกิดขึ้นต่อไปสำหรับแอสตร้า
OpenAI ยังไม่ได้ประกาศไทม์ไลน์ที่แก้ไขสำหรับการเปิดตัวของ Astra บริษัทระบุว่าการพัฒนาจะดำเนินต่อไปโดยมีการป้องกันเพิ่มเติม โดยแนะนำว่าโมเดลอาจเปิดตัวในที่สุดเมื่อความเสี่ยงที่ระบุได้รับการบรรเทาลงอย่างเพียงพอ
นักวิเคราะห์อุตสาหกรรมจะจับตาดูอย่างใกล้ชิดเพื่อดูว่าความล่าช้านั้นเกิดขึ้นเพียงช่วงสั้นๆ หรือไม่ ไม่ว่าจะเป็นสัปดาห์หรือเดือนของการทีมงานสีแดงเพิ่มเติม หรือบ่งบอกถึงความท้าทายพื้นฐานที่มากขึ้นในการนำโมเดลที่มีความสามารถทางไซเบอร์ระดับวิกฤติออกสู่ตลาดอย่างปลอดภัย
ตอนนี้ยังทำให้เกิดคำถามเชิงแข่งขันอีกด้วย OpenAI เผชิญกับแรงกดดันจากคู่แข่ง เช่น Anthropic, Google, Meta และแล็บจีนเกิดใหม่ ซึ่งทั้งหมดนี้กำลังแข่งขันกันเพื่อเปิดตัวโมเดลที่มีความสามารถมากขึ้น ความล่าช้าที่เกิดจากแรงจูงใจด้านความปลอดภัยแม้จะมีความรับผิดชอบ แต่ก็สามารถยุติตลาดที่เคลื่อนไหวอย่างรวดเร็วได้ ซึ่งเป็นความตึงเครียดที่เป็นหัวใจสำคัญของการแข่งขันโมเดลชายแดน
ก้าวนำหน้า AI
การผสมผสานระหว่างความสามารถด้าน AI และความปลอดภัยกำลังกลายเป็นเรื่องราวที่กำหนดนิยามของอุตสาหกรรม หากต้องการรายงานที่มีแหล่งที่มาชัดเจนเกี่ยวกับความปลอดภัยของโมเดล การพัฒนาขอบเขต และบริษัทที่กำลังกำหนดทิศทาง โปรดบุ๊กมาร์กหน้าแรกของเราและ อ่านข่าว AI เพิ่มเติม → ได้ที่ https://aibuzzwire.news
