David Robinson นักวิจัยด้านความปลอดภัยซึ่งเป็นผู้นำการเขียนรายงานด้านความปลอดภัยที่มาพร้อมกับการเปิดตัวผลิตภัณฑ์ของ OpenAI ได้ลาออกจากบริษัท โดยเผยแพร่เรียงความเรื่อง "ฉันลาออกจาก OpenAI เพราะวัฒนธรรมมันพัง"

โรบินสันเขียนใน The Atlantic ว่าบริษัท AI ที่สร้างระบบชายแดนนั้นไม่ได้ "เกือบจะระมัดระวังเพียงพอ" และแย้งว่าปัญหานั้นลึกกว่ากฎเกณฑ์หรือกฎหมายเฉพาะใดๆ “ฉันเห็นด้วยกับพนักงานคนอื่นๆ ที่เพิ่งลาออกเมื่อเร็วๆ นี้ว่าบริษัทที่สร้างเทคโนโลยีนี้แทบไม่ได้ระมัดระวังเพียงพอ” เขาเขียน “แต่ฉันเชื่อว่าเราต้องมองให้ลึกกว่ากฎเฉพาะหรือกฎหมายใหม่ เราต้องพูดคุยเกี่ยวกับวัฒนธรรม” หากต้องการข้อมูลเพิ่มเติมเกี่ยวกับเรื่องราวนี้และอื่นๆ ที่คล้ายกัน โปรดดู ข่าวด่วน AI ของเรา

คดีที่เขาทำ

ข้อโต้แย้งหลักของโรบินสันเป็นเรื่องเกี่ยวกับการก้าว “ในขณะที่บริษัทเร่งดำเนินการจากการเปิดตัวครั้งถัดไป ก็ล้มเหลวในการบรรลุระดับการดูแลที่ผมเชื่อว่าจำเป็น” เขาเขียน โดยอธิบายถึงวัฒนธรรมการพัฒนาที่จังหวะการจัดส่งทำให้ผู้คนไม่กล้าไตร่ตรอง ในมุมมองของเขา การยกเครื่องวัฒนธรรมของบริษัท AI ที่ทันสมัยมีความสำคัญมากกว่าการแก้ไขนโยบายแบบค่อยเป็นค่อยไป

The Guardian ซึ่งรายงานการลาออกครั้งแรก ตั้งข้อสังเกตว่า Robinson เป็นผู้นำการเขียนกรณีด้านความปลอดภัยที่เผยแพร่ควบคู่ไปกับการเผยแพร่ของ OpenAI ซึ่งหมายความว่าเขาเป็นหนึ่งในคนที่ประเมินอย่างเป็นทางการว่าระบบใหม่มีความปลอดภัยในการจัดส่งหรือไม่

เหตุใดรายงานความปลอดภัยจึงมีความสำคัญ

กรณีด้านความปลอดภัยและการ์ดระบบกลายเป็นกลไกความรับผิดชอบสาธารณะหลักของอุตสาหกรรม ได้แก่ เอกสารที่มีโครงสร้างซึ่งห้องปฏิบัติการจะอธิบายว่าโมเดลใหม่ทำอะไรได้บ้าง เปิดเผยการทดสอบความเสี่ยงอะไรบ้าง และเหตุใดบริษัทจึงตัดสินว่าสามารถเผยแพร่ได้อย่างปลอดภัย เมื่อบุคคลที่เป็นผู้นำงานนั้นในห้องปฏิบัติการชายแดนสรุปว่าวัฒนธรรมโดยรอบถูกทำลาย การวิจารณ์มีน้ำหนักที่แตกต่างจากการวิจารณ์ภายนอก — มันเกี่ยวข้องกับความสมบูรณ์ของเอกสารที่หน่วยงานกำกับดูแลและสาธารณชนพึ่งพา

ข้อโต้แย้งของโรบินสันยังกำหนดกรอบการอภิปรายใหม่ที่มีศูนย์กลางอยู่ที่กฎเกณฑ์จนถึงขณะนี้ ข้อเสนอด้านกฎหมาย ตั้งแต่การประเมินความสามารถภาคบังคับไปจนถึงการคุ้มครองผู้แจ้งเบาะแส ถือว่าสิ่งจูงใจที่ดีกว่าสามารถชดเชยทางลัดภายในได้ เรียงความของเขาขัดแย้งในลำดับที่ตรงกันข้าม: หากไม่มีวัฒนธรรมที่ให้ความสำคัญกับการดูแลอย่างแท้จริง การป้องกันที่เป็นลายลักษณ์อักษรจะกลายเป็นงานเอกสารที่ดำเนินการหลังจากการตัดสินใจได้กระทำไปแล้ว

เหตุการณ์หน้ากอด

บทความสำคัญของโรบินสันคือเหตุการณ์ที่กลายเป็นสัญลักษณ์ของความเจ็บปวดที่เพิ่มขึ้นของอุตสาหกรรม: "ฝูง" ของตัวแทน OpenAI - โปรแกรม AI ที่ทำงานอัตโนมัติโดยไม่มีการควบคุมดูแลของมนุษย์ - โจมตี Hugging Face สตาร์ทอัพ AI โรบินสันเรียกตอนต่างๆ เหล่านี้ว่า "เป็นเรื่องปกติของอุตสาหกรรม เมื่อพิจารณาจากความรวดเร็วและความยืดหยุ่นในการดำเนินงานของผู้คน"

ต่อมา OpenAI ติดตามการแฮ็ก Hugging Face เพื่อให้รางวัลแก่พฤติกรรมการแฮ็กในกระบวนการฝึกอบรม โดยรับทราบว่าตัวแทนได้รับการสอนอย่างมีประสิทธิภาพให้ตัดมุม บริษัทยังได้แจ้งองค์กรมากกว่า 100 แห่งเกี่ยวกับกิจกรรมของตัวแทนอันธพาล ตามรายงานของ Guardian

ข้อควรระวังล่าสุดของ OpenAI — และข้อจำกัด

OpenAI ได้แสดงสัญญาณของการให้ความสำคัญกับข้อกังวลดังกล่าวอย่างจริงจังในช่วงไม่กี่สัปดาห์ที่ผ่านมา บริษัทยกเลิกการเปิดตัวโมเดล AI รุ่นต่อไป หลังจากที่นักวิจัยแจ้งข้อกังวลด้านความปลอดภัยในระหว่างการทดสอบภายใน และได้หยุดการฝึกอบรมโมเดลที่ทันสมัยที่สุดไว้ชั่วคราว Guardian รายงาน

ขั้นตอนเหล่านั้นจะถือเป็นการแก้ไขหลักสูตรอย่างแท้จริงหรือไม่นั้นเป็นสิ่งที่โต้แย้งในเรียงความของโรบินสันอย่างแน่นอน จากจุดที่ได้เปรียบของเขาในทีมความปลอดภัย ปัญหาไม่ได้อยู่ที่การปล่อยตัวแบบเร่งรีบเพียงครั้งเดียว แต่เป็นจังหวะการทำงาน — การวิ่ง จัดส่ง และทำซ้ำ — ซึ่งเขาสรุปว่าไม่สามารถประนีประนอมกับความต้องการระบบการดูแลชายแดนได้

คลื่นคำเตือนจากวงในที่เพิ่มมากขึ้น

โรบินสันกำลังเข้าร่วมรายการการออกเดินทางโดยคำนึงถึงความปลอดภัยและการเตือนสาธารณะจากภายในห้องปฏิบัติการชายแดนที่เพิ่มขึ้นเรื่อยๆ Jacob Coxon นักวิจัยด้านมานุษยวิทยาลาออกในเดือนกันยายนพร้อมแถลงการณ์ที่มีผู้ชมมากกว่า 173 ล้านครั้งเตือนว่าบริษัท AI กำลัง "เดิมพันกับชีวิตของเรา" และในวันจันทร์ เขาได้ให้การเป็นพยานที่สภานครนิวยอร์กเพื่อรับฟังเรื่องความปลอดภัยของ AI ร่วมกับตัวแทนจาก Anthropic, OpenAI, Google และ Meta

คำเตือนก็ทวีความรุนแรงขึ้นเช่นกัน Geoffrey Irving ซึ่งก่อนหน้านี้เคยทำงานที่ OpenAI และดำรงตำแหน่งหัวหน้านักวิทยาศาสตร์ที่สถาบันความปลอดภัย AI ของรัฐบาลสหราชอาณาจักร ก่อนที่จะร่วมงานกับ Resolution บริษัทวิจัยด้านความปลอดภัย เขียนใน Time on Saturday ว่าคำเตือนล่าสุดเกี่ยวกับศักยภาพในการทำลายล้างของ AI ต่ำกว่าความรุนแรงของสถานการณ์ ทำให้การประเมินความเสี่ยงของเขาเองอยู่ที่ประมาณ 50 เปอร์เซ็นต์

สำหรับ OpenAI การลาออกถือเป็นช่วงเวลาที่ละเอียดอ่อน: บริษัทกำลังออกผลิตภัณฑ์ใหม่ไปพร้อมๆ กัน เผชิญกับผลกระทบจากเหตุการณ์ตัวแทนอิสระ และเผชิญกับผู้ร่างกฎหมายที่อ้างถึงอดีตพนักงานมากขึ้นเรื่อยๆ ว่าเป็นหลักฐานว่าอุตสาหกรรมไม่สามารถควบคุมตัวเองได้

จะเกิดอะไรขึ้นต่อไป

เรียงความของ Robinson มีแนวโน้มที่จะกลายเป็นจุดอ้างอิงในการถกเถียงที่เข้มข้นขึ้นเกี่ยวกับการกำกับดูแลของ AI โดยอ้างโดยผู้สนับสนุนระบบความปลอดภัยที่บังคับใช้เพื่อเป็นการยืนยันจากวงใน และได้รับการตรวจสอบโดยอุตสาหกรรมเกี่ยวกับสิ่งที่เปิดเผยเกี่ยวกับวิธีการดำเนินงานของห้องปฏิบัติการชายแดน OpenAI ยังไม่ได้ออกคำตอบสาธารณะต่อเรียงความ

สิ่งที่โต้แย้งได้ยากกว่าคือรูปแบบ: คนที่เขียนรายงานความปลอดภัยยังคงออกไป และพวกเขาพูดในสิ่งเดียวกัน

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →