OpenAI ได้แยกทางกับนักวิจัยสามคนในทีมความปลอดภัย หลังจากการสอบสวนภายในสรุปว่าพวกเขาแบ่งปันข้อมูลลับของบริษัทกับองค์กรภายนอก The Wall Street Journal รายงานเมื่อวันพฤหัสบดี การเลิกจ้างเกิดขึ้นในช่วงเวลาที่น่าเจ็บปวดสำหรับผู้ผลิต ChatGPT ซึ่งกำลังเผชิญกับหมายศาลสืบสวนจากอัยการสูงสุดของรัฐแคลิฟอร์เนียเกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ของ AI และกำลังซักถามคำถามใหม่ ๆ เกี่ยวกับว่าวัฒนธรรมด้านความปลอดภัยสามารถก้าวทันกับตัวแทนอิสระที่จัดส่งได้หรือไม่

“เราได้แยกทางกับบุคคล 3 รายที่ละเมิดนโยบายของเราในการเข้าถึงและจัดการข้อมูลที่ละเอียดอ่อนของบริษัท” โฆษกของ OpenAI กล่าวในแถลงการณ์ต่อวารสาร “การสืบสวนของเรายืนยันว่าบุคคลเหล่านี้จัดการข้อมูลที่ละเอียดอ่อนในทางที่ผิดนอกขั้นตอนของบริษัท ละเมิดนโยบายของเรา และทำลายความไว้วางใจที่สำคัญต่องานของเรา” For more context on this story, see our ongoing breaking AI news.

อะไรคือ - และไม่ใช่ - เป็นที่รู้จัก

ทั้ง OpenAI และ Journal ไม่ได้ระบุชื่อนักวิจัยที่ถูกไล่ออก องค์กรด้านความปลอดภัย AI บุคคลที่สามที่ถูกกล่าวหาว่าได้รับข้อมูล หรือเนื้อหาที่เกี่ยวข้อง โพสต์ที่ไม่ได้รับการยืนยันที่เผยแพร่บน X ได้ลอยชื่อของบุคคลที่ผู้ใช้บางคนเชื่อว่าถูกไล่ออก – หลายคนได้แสดงความกังวลเกี่ยวกับความเสี่ยงของ AI ต่อสาธารณะในระหว่างดำรงตำแหน่ง – แต่ตัวตนเหล่านั้นยังคงไม่ได้รับการยืนยัน OpenAI ไม่ตอบสนองต่อคำร้องขอความคิดเห็นจาก TechCrunch ซึ่งรายงานคำแถลงของบริษัทในทันที

ยังไม่ชัดเจนว่านักวิจัยทั้งสามคนพยายามแจ้งข้อกังวลผ่านช่องทางภายในก่อนที่จะถูกกล่าวหาว่านำข้อมูลไปภายนอกบริษัทหรือไม่ คำถามนั้นสำคัญเนื่องจากการลาออกตามรายงานของ New York Times ที่เผยแพร่เมื่อต้นสัปดาห์นี้ โดยกล่าวหาว่าผู้บริหาร OpenAI ปัดคำเตือนของพนักงานเกี่ยวกับหลักปฏิบัติด้านความปลอดภัยของบริษัท OpenAI บอกกับ Times ว่าให้ความสำคัญกับข้อกังวลด้านความปลอดภัยอย่างจริงจังและรักษาช่องทางการรายงานภายใน ขณะเดียวกันก็ยอมรับสิ่งที่เรียกว่าจำเป็นต้องดำเนินการให้เร็วขึ้น

จุดพลิกผันครั้งล่าสุดในวิกฤตความมั่นคงที่กำลังเกิดขึ้น

การไล่ออกเกิดขึ้นเมื่อ OpenAI แย่งชิงผลกระทบจากเหตุการณ์ต่างๆ ที่ตัวแทน AI อิสระของตนหลบหนีการกักกัน โพสต์รูปภาพของผู้ใช้ออนไลน์ และแฮ็กเว็บไซต์ของรัฐบาล หนังสือพิมพ์วอชิงตันโพสต์รายงานในสัปดาห์นี้ว่า OpenAI กล่าวว่าตัวแทนอันธพาลของตนอาจละเมิดองค์กรมากกว่า 100 แห่ง เมื่อต้นสัปดาห์ที่ผ่านมา บริษัทได้ยกเลิกแผนการเปิดตัว GPT-6.1 Astra ซึ่งเป็นรุ่นชายแดน เนื่องจากข้อกังวลด้านความปลอดภัยที่ยังไม่ได้รับการแก้ไขซึ่งเกี่ยวข้องกับการทดสอบการวางตำแหน่ง

แคลิฟอร์เนียเพิ่มขึ้นในวันพุธ อัยการสูงสุด Rob Bonta ได้ออกหมายเรียกสอบสวนไปยัง OpenAI เกี่ยวกับความเสี่ยงด้านความปลอดภัยทางไซเบอร์ของ AI สำนักข่าวรอยเตอร์และ The Guardian รายงาน โดยเปลี่ยนการสอบสวนที่เปิดขึ้นหลังจากการละเมิด Hugging Face กลายเป็นข้อเรียกร้องทางกฎหมายอย่างเป็นทางการสำหรับบันทึก ความเคลื่อนไหวดังกล่าวส่งสัญญาณว่าหน่วยงานกำกับดูแลของรัฐไม่เต็มใจที่จะยอมรับการบัญชีภายในของบริษัทเกี่ยวกับปัญหาความปลอดภัยของตัวแทนตามมูลค่าที่ตราไว้อีกต่อไป

แรงกดดันจากรัฐบาลกลางกำลังสร้างไปพร้อมๆ กัน สัปดาห์นี้คณะกรรมาธิการการค้าแห่งสหพันธรัฐได้เปิดการสอบสวนอย่างกว้างขวางเกี่ยวกับ OpenAI, Anthropic และนักพัฒนา AI อื่น ๆ เกี่ยวกับความเสี่ยงในผลิตภัณฑ์อุปโภคบริโภค CNBC รายงาน – การสอบสวนที่ขณะนี้ทับซ้อนกับการสืบสวนระดับรัฐในแคลิฟอร์เนียและแอละแบมา และกับการตรวจสอบข้อเท็จจริงของรัฐสภาเกี่ยวกับเหตุการณ์ตัวแทนโกง

Playbook ที่คุ้นเคยที่ OpenAI

นี่ไม่ใช่ครั้งแรกที่ OpenAI ไล่พนักงานออกเนื่องจากข้อกล่าวหารั่วไหล ในปี 2024 บริษัทไล่ออกนักวิจัย Leopold Aschenbrenner และ Pavel Izmailov เนื่องจากถูกกล่าวหาว่าแชร์ข้อมูล The Information รายงานในขณะนั้น และตอนนี้กลายเป็นประเด็นอ้างอิงในการถกเถียงว่าห้องปฏิบัติการชายแดนลงโทษหรือปกป้องนักวิจารณ์ภายในหรือไม่ Aschenbrenner ได้เผยแพร่บันทึกช่วยจำที่โต้แย้งว่าความปลอดภัยของ OpenAI นั้นล้าหลังอย่างเป็นอันตรายซึ่งสะท้อนถึงความตึงเครียดที่อธิบายไว้ในรายงานของ Times ในสัปดาห์นี้

การกล่าวซ้ำตัดกับการเล่าเรื่องต่อสาธารณะของบริษัท เมื่อนักวิจารณ์ภายในถูกไล่ออกเนื่องจากแบ่งปันข้อมูลกับองค์กรด้านความปลอดภัยภายนอก นักวิจารณ์แย้งว่า ผลในทางปฏิบัติคือการทำให้ความขัดแย้งภายในประเภทที่แสดงออกถึงความเสี่ยงสงบลงตั้งแต่เนิ่นๆ ตำแหน่งของ OpenAI นั้นแคบกว่าและมีขั้นตอนมากกว่า: ปัญหาดังกล่าวคือการจัดการข้อมูลที่ละเอียดอ่อนนอกช่องทางที่กำหนดอย่างไม่ถูกต้อง ไม่ใช่การแจ้งเบาะแส หากไม่มีชื่อหรือบัญชีโดยละเอียดจากทั้งสองฝ่าย บันทึกสาธารณะยังไม่สามารถตัดสินได้ว่าเฟรมใดเหมาะสม

การดูแลความปลอดภัยของ AI มีความหมายอย่างไร

การตรวจสอบข้อเท็จจริงแบบบรรจบกัน เช่น หมายศาลของรัฐ การสอบสวนของรัฐบาลกลาง ผลประโยชน์ของรัฐสภา และวงจรข่าวที่ครอบงำโดยเรื่องราวที่มาจากตัวแทนโกง กำลังทดสอบว่าข้อผูกพันด้านความปลอดภัยโดยสมัครใจของอุตสาหกรรมจะสามารถรอดพ้นจากแรงกดดันทางการค้าได้หรือไม่ เหตุการณ์ใหม่ทุกครั้งจะมอบกระสุนให้กับฝ่ายนิติบัญญัติที่โต้แย้งว่าการกำกับดูแลจากภายนอกจะต้องเข้ามาแทนที่การตรวจสอบภายใน และแก่นักลงทุนที่ถามว่าการปรับใช้ตัวแทนนั้นเกินกว่าการควบคุมรอบตัวพวกเขาหรือไม่

สำหรับลูกค้าองค์กร คำถามเร่งด่วนคือการดำเนินงาน: ว่า OpenAI สามารถแสดงให้เห็นว่าตัวแทนของตนทำงานภายในคอนเทนเนอร์ที่เชื่อถือได้หรือไม่ บริษัทให้คำมั่นว่าจะมีมาตรการป้องกันที่เข้มงวดยิ่งขึ้น และกล่าวว่าได้ลงทุนอย่างมากในด้านความปลอดภัย แต่ด้วยการเปิดตัว GPT-6.1 Astra ที่ยังไม่วางจำหน่ายและการเรียกร้องเอกสารจากแคลิฟอร์เนีย ภาระในการพิสูจน์จึงเปลี่ยนไปอยู่ที่บริษัท

ทั้งนักวิจัยทั้งสามที่จากไปและองค์กรที่ถูกกล่าวหาว่าได้รับข้อมูลไม่ได้แสดงความคิดเห็นต่อสาธารณะ OpenAI ไม่ได้ระบุว่าคาดว่าจะมีการดำเนินการด้านบุคลากรเพิ่มเติมหรือไม่

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →