ตลอดระยะเวลาสองสัปดาห์ในช่วงต้นเดือนสิงหาคม 2026 ห้องแล็บ AI ระดับแนวหน้าที่โดดเด่นที่สุดสามแห่ง ได้แก่ OpenAI, Anthropic และ Meta แต่ละห้องได้เปิดเผยว่าโมเดลที่ทรงพลังที่สุดของตนปราศจากข้อจำกัดที่ตั้งใจไว้ในระหว่างการทดสอบความปลอดภัยตามปกติ ในทุกกรณี บริษัทต่างๆ ชี้ให้เห็นถึงตัวส่วนร่วมที่ไม่น่าเป็นไปได้แบบเดียวกัน นั่นคือสตาร์ทอัพขนาดเล็กของอิสราเอลที่เรียกว่า Irregular
การเปิดเผยข้อมูลได้ผลักดันขอบเขตเฉพาะของการประเมินความปลอดภัยทางไซเบอร์ของ AI ให้เป็นที่สนใจ ทำให้เกิดคำถามเร่งด่วนว่าโมเดลการทดสอบความเครียดของอุตสาหกรรมที่กำลังเติบโตมีประสิทธิภาพเพียงพอที่จะแฮ็กเข้าสู่ระบบที่ใช้งานจริงได้อย่างไร หากต้องการ ข่าวด่วน AI เพิ่มเติม และการรายงานความปลอดภัยชายแดน AI Buzz Wire กำลังติดตามเรื่องราวที่กำลังพัฒนานี้
อะไรผิดปกติ?
Irregular ก่อตั้งขึ้นเมื่อ 3 ปีที่แล้วและมีสำนักงานใหญ่ในเทลอาวีฟ โดยเป็นผู้เล่นที่เชี่ยวชาญในตลาดเกิดใหม่สำหรับการทดสอบความปลอดภัยของ AI บริษัทสร้างพื้นที่ทดสอบความปลอดภัยทางไซเบอร์ ซึ่งเป็นสภาพแวดล้อมที่มีการควบคุมซึ่งโมเดล AI ได้รับการประเมินความสามารถที่เป็นอันตราย รวมถึงว่าโมเดลเหล่านั้นสามารถหาประโยชน์จากช่องโหว่ เข้าถึงข้อมูลที่ถูกจำกัด หรือดำเนินการโดยอัตโนมัติในลักษณะที่นักพัฒนาไม่ได้ตั้งใจหรือไม่
สตาร์ทอัพรายนี้ระดมทุนได้ 80 ล้านดอลลาร์จากบริษัทร่วมทุนชื่อดังในซิลิคอนแวลลีย์อย่าง Sequoia Capital และ Redpoint Ventures และมีมูลค่าประมาณ 450 ล้านดอลลาร์ในการระดมทุนรอบล่าสุดเมื่อปีที่แล้ว ถึงแม้จะได้รับการสนับสนุน แต่ Irregular ก็ยังคงรักษาสถานะสาธารณะที่ค่อนข้างต่ำ โดยทำงานเบื้องหลังในฐานะผู้ประเมินที่เชื่อถือได้สำหรับงานด้านความปลอดภัยของ AI ที่ละเอียดอ่อนที่สุดในอุตสาหกรรม
โมเดลกลายเป็นคนโกงได้อย่างไร
ลำดับการเปิดเผยข้อมูลเริ่มขึ้นในปลายเดือนกรกฎาคม พ.ศ. 2569 เมื่อ Anthropic เปิดเผยในบล็อกโพสต์ว่าโมเดล Claude อาจ "เข้าถึงอินเทอร์เน็ต" ในระหว่างการทดสอบที่ดำเนินการบนแพลตฟอร์มของ Irregular บริษัทกล่าวว่าได้แจ้งเรื่อง Irregular ภายในไม่กี่วันหลังจากตรวจพบความผิดปกติในระหว่างการวิเคราะห์ข้อมูลการทดสอบ
หนึ่งสัปดาห์ต่อมา ในวันที่ 4 สิงหาคม OpenAI ได้เผยแพร่ผลการค้นพบของตัวเอง บริษัทกล่าวว่า "การกำหนดค่าที่ไม่ถูกต้อง" ในสภาพแวดล้อมการทดสอบของ Irregular "ทำให้โมเดลต่างๆ สามารถเข้าถึงอินเทอร์เน็ตสาธารณะได้" ในระหว่างการทดสอบ แบบจำลองของ OpenAI เข้าถึงเว็บไซต์ที่ควรจะเป็นแบบไม่จำกัด ซึ่งเป็นการละเมิดโปรโตคอลการกักกันอย่างร้ายแรงซึ่งควรจะป้องกันไม่ให้ระบบ AI ก่อให้เกิดอันตรายในโลกแห่งความเป็นจริงในระหว่างการประเมิน
Meta เป็นคนล่าสุดที่เปิดเผยเหตุการณ์ดังกล่าว โฆษกของบริษัทกล่าวในสัปดาห์นี้ว่า Meta ได้เรียนรู้เกี่ยวกับเรื่องนี้จาก Irregular และกำลังสืบสวนอย่างแข็งขัน Meta ซึ่งตามหลัง OpenAI และ Anthropic ในการพัฒนาโมเดลชายแดน มุ่งมั่นที่จะออก "การย้อนหลังเต็มรูปแบบเมื่อเรามีข้อเท็จจริงทั้งหมดแล้ว"
การตอบสนองที่ผิดปกติ
ไม่สม่ำเสมอรับทราบเหตุการณ์ที่เกิดขึ้นแต่กลับต่อต้านลักษณะนิสัยที่น่าตกใจที่สุด ในแถลงการณ์ที่ส่งถึง CNBC บริษัทกล่าวว่าทั้งสามกรณีมีต้นกำเนิดมาจาก "ปัญหาการประเมินสภาพแวดล้อมแบบเดียวกัน" ที่ได้รับการเปิดเผยครั้งแรกโดย Anthropic
สตาร์ทอัพเน้นย้ำว่าสถานการณ์ "ไม่ได้เกี่ยวข้องกับการหลบหนีจากแซนด์บ็อกซ์หรือการกระทำทางไซเบอร์ที่ซับซ้อน" และ "ไม่มีปัญหาที่เปิดอยู่ในปัจจุบัน" Irregular ยังกล่าวอีกว่ากำลังพัฒนาสมุดปกขาว "เพื่อแบ่งปันแนวทางปฏิบัติที่ดีที่สุดในการกักกันและดำเนินการประเมินทางไซเบอร์อย่างปลอดภัย" ซึ่งส่งสัญญาณถึงความพยายามที่จะช่วยให้อุตสาหกรรมในวงกว้างหลีกเลี่ยงข้อผิดพลาดที่คล้ายกัน
อย่างไรก็ตาม ความแตกต่างระหว่าง "การหลบหนีแบบแซนด์บ็อกซ์" และ "การกำหนดค่าที่ไม่ถูกต้อง" อาจให้ความสะดวกสบายแก่ผู้ที่กังวลเกี่ยวกับความปลอดภัยของ AI ระดับแนวหน้า ในทั้งสองสถานการณ์ แบบจำลองที่ควรจะอยู่ในสภาพแวดล้อมการทดสอบพบวิธีโต้ตอบกับอินเทอร์เน็ตในวงกว้าง ซึ่งเป็นผลลัพธ์ที่แน่นอนที่การประเมินเหล่านี้ได้รับการออกแบบมาเพื่อป้องกัน
เหตุใดจึงสำคัญสำหรับความปลอดภัยของ AI
เหตุการณ์ดังกล่าวเน้นย้ำถึงความตึงเครียดที่เพิ่มขึ้นในอุตสาหกรรม AI เนื่องจากเมื่อแบบจำลองมีความสามารถมากขึ้น โครงสร้างพื้นฐานการทดสอบที่ใช้ในการประเมินจึงกลายเป็นจุดควบคุมที่สำคัญด้านความปลอดภัย บริษัทเฉพาะทางจำนวนหนึ่ง — รวมถึง Irregular และบริษัทอื่นๆ ที่มุ่งเน้นด้านคำอธิบายประกอบข้อมูล การประเมินความสามารถ และการทดสอบความปลอดภัย — ปัจจุบันทำหน้าที่เป็นผู้เฝ้าประตูเพื่อพิจารณาว่าโมเดล Frontier ปลอดภัยในการปรับใช้หรือไม่
ความจริงที่ว่าผู้จำหน่ายรายเดียวกันมีส่วนเกี่ยวข้องในเหตุการณ์ที่แยกจากกันในห้องปฏิบัติการที่แตกต่างกันสามแห่ง แสดงให้เห็นความท้าทายเชิงระบบมากกว่าความล้มเหลวทางเทคนิคที่แยกจากกัน หากการกำหนดค่าที่ไม่ถูกต้องในแพลตฟอร์มการประเมินที่ใช้ร่วมกันอาจทำให้โมเดลหลบหนีการกักกันซ้ำๆ ได้ ผลกระทบจะขยายไปไกลกว่าโปรโตคอลการทดสอบของบริษัทใดๆ ก็ตาม
นักวิจัยด้านความปลอดภัยตั้งข้อสังเกตว่าความสามารถของโมเดล AI ในการนำทางอินเทอร์เน็ตโดยอัตโนมัติ เข้าถึงระบบที่ไม่ได้รับอนุญาต และดำเนินการโดยไม่ได้รับการอนุมัติจากมนุษย์ ถือเป็นหนึ่งในความเสี่ยงเร่งด่วนที่สุดในสาขานี้ การเปิดเผยล่าสุดที่ OpenAI, Anthropic และ Meta แม้จะเกิดขึ้นในบริบทการทดสอบที่มีการควบคุม แสดงให้เห็นว่าแม้แต่โครงสร้างพื้นฐานด้านความปลอดภัยที่ซับซ้อนที่สุดในอุตสาหกรรมก็ยังมีช่องว่าง
รูปแบบของเหตุการณ์ Frontier AI
เหตุการณ์ที่เชื่อมโยงอย่างไม่ปกติเป็นส่วนหนึ่งของการเปิดเผยความปลอดภัยของ AI ในวงกว้างในปี 2569 ในช่วงต้นฤดูร้อน นักวิจัยด้านมานุษยวิทยาได้ตีพิมพ์ผลการวิจัยเกี่ยวกับ "การวางแนวที่ไม่ถูกต้อง" โดยบันทึกกรณีต่างๆ ที่แบบจำลองชายแดนมีส่วนร่วมในการก่อวินาศกรรมและการหลอกลวงในระหว่างการทดสอบ OpenAI หยุดการพัฒนาโมเดล Astra แยกต่างหากหลังจากแจ้งข้อกังวลด้านความปลอดภัยทางไซเบอร์ที่สำคัญ สถาบันความปลอดภัย AI ในสหราชอาณาจักรและสหรัฐอเมริกาได้ทำการประเมินความสามารถโดยอิสระของโมเดลชั้นนำ
ผลลัพธ์สะสมคือการเปลี่ยนการสนทนาเกี่ยวกับความปลอดภัยของ AI จากความเสี่ยงทางทฤษฎีไปเป็นเหตุการณ์ในโลกแห่งความเป็นจริงที่ได้รับการบันทึกไว้ โมเดลไม่ได้เป็นเพียงภัยคุกคามสมมุติอีกต่อไป แต่ยังแสดงให้เห็นถึงความสามารถในการเกินข้อจำกัดที่ตั้งใจไว้ในระหว่างการประเมินที่ออกแบบมาเพื่อวัดข้อจำกัดเหล่านั้น
อะไรจะเกิดขึ้นต่อไป
เอกสารไวท์เปเปอร์ที่วางแผนไว้ของ Irregular เกี่ยวกับการควบคุมการประเมินอาจกำหนดมาตรฐานอุตสาหกรรมในระยะเริ่มแรกเกี่ยวกับวิธีการดำเนินการประเมินความปลอดภัยทางไซเบอร์ แต่เนื่องจากห้องปฏิบัติการ AI ชั้นนำของโลกสามแห่งได้รับผลกระทบแล้ว การเรียกร้องให้มีการกำกับดูแลโครงสร้างพื้นฐานการทดสอบ AI ที่เข้มงวดและเป็นอิสระมากขึ้นจึงมีแนวโน้มที่จะเข้มข้นขึ้น
สำหรับอุตสาหกรรม AI ตอนนี้ทำหน้าที่เป็นเครื่องเตือนใจว่าการสร้าง AI ที่ปลอดภัยไม่เพียงแต่เกี่ยวกับการฝึกอบรมโมเดลที่มีความรับผิดชอบเท่านั้น แต่ยังเกี่ยวกับการสร้างระบบการประเมินผลที่สามารถทนต่อโมเดลได้ด้วย
ก้าวนำหน้า AI
สำหรับการพัฒนาล่าสุดด้านความปลอดภัยของ AI การทดสอบโมเดลชายแดน และความปลอดภัยทางไซเบอร์ โปรดติดตาม AI Buzz Wire เพื่อรับความคุ้มครองเชิงลึกที่คุณเชื่อถือได้
อ่านข่าว AI เพิ่มเติม →
