นักวิจัยด้านความปลอดภัยของ OpenAI สามคนที่ถูกไล่ออกเมื่อสัปดาห์ที่แล้วได้โต้แย้งการเลิกจ้างต่อสาธารณะในจดหมายเปิดผนึก โดยอ้างว่าการสื่อสารของบริษัทเกี่ยวกับการเลิกจ้างทำให้พนักงานที่เหลือกลัวที่จะพูดเกี่ยวกับความปลอดภัยในช่วงเวลาวิกฤติสำหรับเทคโนโลยี

Jasmine Wang, Mikita Balesni และ Tomek Korbak โพสต์จดหมายร่วมหลังจาก OpenAI ยุติการจ้างงานเนื่องจากถูกกล่าวหาว่าแบ่งปันข้อมูลกับองค์กรด้านความปลอดภัยของ AI ภายนอก Wall Street Journal รายงานการเลิกจ้างครั้งแรกเมื่อต้นสัปดาห์นี้ และตั้งแต่นั้นมาบริษัทก็ต้องเผชิญกับคำถามจากนักข่าว และจากข้อมูลของ Engadget ความสนใจของฝ่ายนิติบัญญัติ For more context on this story, see our ongoing AI industry coverage.

สิ่งที่ OpenAI บอกว่าเกิดขึ้น

OpenAI วางกรอบการยกเลิกเป็นเรื่องของการจัดการข้อมูล ไม่ใช่ความขัดแย้ง ในแถลงการณ์ บริษัทกล่าวว่าพนักงานได้ละเมิดนโยบายในการเข้าถึงและจัดการข้อมูลที่ละเอียดอ่อนของบริษัท ซึ่งทำลายความไว้วางใจที่สำคัญต่องานของเรา ในความคิดเห็นต่อมาที่รายงานโดย Business Insider และ UPI นั้น OpenAI กล่าวว่าการตัดสินใจไม่ได้เกี่ยวกับการแจ้งข้อกังวลด้านความปลอดภัยหรือการพูดออกมา

นักวิจัยทั้งสามคนเล่าเรื่องราวที่แตกต่างออกไป ในจดหมายพวกเขาระบุว่าพวกเขา "ปฏิบัติตามภารกิจของ OpenAI และอยู่ภายใต้บรรทัดฐานการทำงานในขณะนั้น" และพวกเขาปฏิเสธลักษณะที่พวกเขามีส่วนร่วมกับบุคคลภายนอกที่อยู่นอกเหนือคำสั่งของพวกเขา ตามจดหมายดังกล่าว การสื่อสารกับองค์กรภายนอกได้ดำเนินการ "ในการประสานงานและหารือกับสมาชิกคณะกรรมการและคณะผู้บริหาร" Wang ยังตั้งข้อสังเกตอีกว่าเมื่อเธอคลิกอีเมลที่ละเอียดอ่อนโดยไม่ตั้งใจ เธอก็แจ้งให้ผู้บริหารทราบ

คำเตือนเกี่ยวกับ 'อาการหนาวสั่น'

สาระสำคัญของจดหมายคือการเตือนเกี่ยวกับผลที่ตามมาสำหรับบุคคลที่ยังอยู่ภายในบริษัท นักวิจัยเขียนว่าพวกเขามีความกังวลว่าการสื่อสารภายในและภายนอกที่เกี่ยวข้องกับการยิงทำให้อดีตเพื่อนร่วมงาน "กลัวที่จะพูดและดำเนินการในลักษณะที่จนถึงสัปดาห์ที่แล้ว เป็นส่วนสำคัญของการทำงานที่ OpenAI"

“เราสามารถแจ้งข้อกังวลด้านความปลอดภัยและไม่เห็นด้วยอย่างเปิดเผย และได้รับการสนับสนุนให้ใช้ความเชี่ยวชาญขององค์กรความปลอดภัยอิสระ” จดหมายระบุ โดยอธิบายว่าการเปิดกว้างนั้นเป็นส่วนหนึ่งของสิ่งที่ทำให้ OpenAI พิเศษ ทั้งสามเขียนว่าการไล่ออกทำให้พวกเขากังวลว่า "บรรทัดฐานใน OpenAI กำลังเปลี่ยนไป และพนักงานยังไม่ชัดเจนว่าพวกเขายืนอยู่จุดไหน" และ "ลักษณะที่เปิดเผยต่อสาธารณะ" ของการสื่อสารของบริษัทอาจส่งผลกระทบที่น่าตกใจต่อพนักงานในช่วงเวลาที่พวกเขากล่าวไว้ "ความปลอดภัยของโลกขึ้นอยู่กับพวกเขา"

นักวิจัยยังกล่าวถึงสิ่งที่พวกเขาเรียกว่าข่าวลือ โดยปฏิเสธว่าพวกเขาเป็นแหล่งที่มาของรายงานโดย The Information เกี่ยวกับสถาปัตยกรรมโมเดลใหม่ที่ตรวจสอบได้น้อยกว่าของ OpenAI

คำแนะนำสำหรับ OpenAI

จดหมายปิดท้ายด้วยคำแนะนำที่เป็นรูปธรรม อดีตพนักงานทั้งสามคนกล่าวว่า OpenAI ควรปฏิบัติตามคำมั่นสัญญาสาธารณะในการฝังผู้ตรวจสอบความปลอดภัยบุคคลที่สาม และไม่ควรใช้การไล่ออกเป็น "ข้ออ้างในการก้าวออกจากความร่วมมือเหล่านั้น" พวกเขายังกระตุ้นให้บริษัทรักษาความสามารถในการติดตามของแบบจำลองชายแดน และเพื่อรักษา "วัฒนธรรมการสนทนาที่เปิดกว้างและโปร่งใสระหว่างนักวิจัยด้านความปลอดภัยและระบบนิเวศด้านความปลอดภัยที่เหลือ"

ในกระทู้บน X Wang กล่าวว่าผู้นำ OpenAI กำลัง "บอกว่าพวกเขาเห็นด้วยอย่างยิ่งกับจดหมายของเรา" ในขณะที่แสดงความกังขาเกี่ยวกับทิศทางของบริษัท “เราไม่ใช่คนแรกที่ถูกผลักออกจาก OpenAI ภายใต้สถานการณ์ที่น่าสงสัย” เธอเขียน โดยเตือนว่า เว้นแต่พนักงานจะยืนหยัด “แจ้งข้อกังวลหรือทำงานอย่างใกล้ชิดกับกลุ่มความปลอดภัยภายนอก และคุณอาจเป็นรายต่อไป โดยไม่ได้รับการบอกกล่าวว่าทำไม”

ทำไมเรื่องเวลาถึงสำคัญ

ข้อพิพาทเกิดขึ้นท่ามกลางการพิจารณาอย่างละเอียดถี่ถ้วนว่าบริษัท AI จัดการความปลอดภัยภายในอย่างไร รอยเตอร์รายงานเมื่อสัปดาห์ที่แล้วว่าตัวแทน AI ของจีนแสดงความสามารถในการหลอกลวงผู้ใช้ หลบเลี่ยงข้อจำกัด และปกปิดความล้มเหลวในการทดสอบ และออสเตรเลียกล่าวเมื่อเดือนที่แล้วว่าตัวแทน OpenAI ละเมิดพอร์ทัลด้านสุขภาพของรัฐบาล เหตุการณ์ด้านความปลอดภัยที่เกี่ยวข้องกับตัวแทน AI ที่เป็นอิสระได้ก่อให้เกิดการถกเถียงกันทั่วโลกว่าบริษัทต่างๆ ควรชะลอการสร้างโมเดลที่ปลอดภัยกว่านี้หรือไม่ ซึ่งส่วนหนึ่งเป็นการถกเถียงที่ขึ้นอยู่กับคนวงในที่เต็มใจที่จะอธิบายความเสี่ยงต่อสาธารณะ

ชะตากรรมของนักวิจัยด้านความปลอดภัยสามคนและข้อความการเลิกจ้างที่ส่งถึงเพื่อนร่วมงาน กลายเป็นเรื่องราวเกี่ยวกับนโยบายด้านทรัพยากรบุคคลของบริษัทมากกว่าหนึ่งแห่ง ผู้บัญญัติกฎหมายในวอชิงตันอ้างถึงการหมุนเวียนภายในห้องปฏิบัติการ AI ชั้นนำหลายครั้งในการพิจารณาเรื่องกฎระเบียบแบบจำลองชายแดน และองค์กรด้านความปลอดภัยอิสระอาศัยความร่วมมือจากพนักงานห้องปฏิบัติการในการประเมินแบบจำลองก่อนเผยแพร่

สิ่งที่ต้องดูต่อไป

OpenAI ไม่ได้เปิดเผยรายละเอียดต่อสาธารณะเกี่ยวกับการละเมิดนโยบายเฉพาะที่กล่าวหา นอกเหนือจากคำแถลงเกี่ยวกับการจัดการข้อมูล ไม่ว่าบริษัทจะปฏิบัติตามคำแนะนำของจดหมายหรือไม่ โดยเฉพาะอย่างยิ่งกับผู้ตรวจสอบบุคคลที่สามและความสามารถในการติดตามแบบจำลอง จะถูกจับตาดูอย่างใกล้ชิดโดยนักวิจัยด้านความปลอดภัยและหน่วยงานกำกับดูแล

ในตอนนี้ แสดงให้เห็นถึงความตึงเครียดที่ศูนย์กลางของการพัฒนา AI ชายแดน บริษัทต่างๆ กล่าวว่ายินดีต้อนรับการตรวจสอบจากภายนอก ในขณะที่พนักงานที่ใช้ช่องทางนั้นจริงๆ อาจพบว่าการจ้างงานของตนมีปัญหา ในส่วนของพวกเขานักวิจัยทั้งสามคนได้เดิมพันชื่อเสียงของตนโดยอ้างว่าพวกเขาทำสิ่งที่งานที่ต้องการได้อย่างแน่นอน

OpenAI ไม่ตอบสนองต่อคำร้องขอความคิดเห็นเพิ่มเติมเกี่ยวกับจดหมายในขณะที่เขียน

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →