Tiga penyelidik keselamatan OpenAI yang dipecat minggu lalu telah mempertikaikan pemecatan mereka secara terbuka dalam surat terbuka, dengan alasan bahawa komunikasi syarikat mengenai pemecatan telah menyebabkan pekerja yang tinggal takut untuk bercakap tentang keselamatan pada saat kritikal untuk teknologi.

Jasmine Wang, Mikita Balesni dan Tomek Korbak menyiarkan surat bersama itu selepas OpenAI menamatkan pekerjaan mereka kerana didakwa berkongsi maklumat dengan organisasi keselamatan AI luaran. Wall Street Journal pertama kali melaporkan pemecatan awal minggu ini, dan syarikat itu sejak itu menghadapi soalan daripada wartawan dan, menurut Engadget, perhatian penggubal undang-undang. For more context on this story, see our ongoing AI news.

Apa yang OpenAI Katakan Berlaku

OpenAI telah merangka penamatan sebagai soal pengendalian maklumat, bukan perbezaan pendapat. Dalam satu kenyataan, syarikat itu berkata pekerja itu telah melanggar dasarnya mengenai mengakses dan mengendalikan maklumat sensitif syarikat, "memecahkan kepercayaan yang penting untuk kerja kami." Dalam ulasan berikutnya yang dilaporkan oleh Business Insider dan UPI, OpenAI berkata keputusan itu bukan mengenai membangkitkan kebimbangan keselamatan atau bersuara.

Ketiga-tiga penyelidik itu menceritakan kisah yang berbeza. Dalam surat itu, mereka menyatakan bahawa mereka "bertindak selaras dengan misi OpenAI dan dalam norma kerja pada masa itu," dan mereka menolak pencirian yang mereka terlibat dengan pihak luar di luar mandat mereka. Menurut surat itu, komunikasi mereka dengan organisasi luar dilakukan "dalam penyelarasan dan perbincangan dengan ahli lembaga pengarah dan C-suite." Wang juga menyatakan bahawa apabila dia pernah mengklik e-mel sensitif secara tidak sengaja, dia memberitahu seorang eksekutif.

Amaran Mengenai 'Kesan Sejuk'

Inti surat itu ialah amaran tentang akibat kepada orang yang masih berada di dalam syarikat. Para penyelidik menulis bahawa mereka telah menjadi bimbang bahawa komunikasi dalaman dan luaran di sekitar pemecatan mereka telah membuat bekas rakan sekerja "takut untuk bercakap dan beroperasi dengan cara yang, sehingga minggu lepas, merupakan bahagian penting dalam bekerja di OpenAI."

"Kami boleh membangkitkan kebimbangan keselamatan dan tidak bersetuju secara terbuka, dan digalakkan untuk menggunakan kepakaran organisasi keselamatan bebas," surat itu menyatakan, menggambarkan keterbukaan itu sebagai sebahagian daripada apa yang menjadikan OpenAI istimewa. Ketiga-tiga mereka menulis bahawa pemecatan itu menyebabkan mereka bimbang bahawa "norma di dalam OpenAI sedang berubah dan pekerja kini tidak jelas di mana mereka berdiri," dan bahawa "cara awam" komunikasi syarikat boleh memberi kesan yang menyedihkan kepada pekerja pada masa, seperti yang mereka katakan, "keselamatan dunia bergantung kepada mereka."

Para penyelidik juga menangani apa yang mereka panggil khabar angin, menafikan bahawa mereka adalah sumber laporan oleh The Information mengenai seni bina model baru OpenAI yang kurang boleh dipantau.

Cadangan kepada OpenAI

Surat itu ditutup dengan cadangan konkrit. Ketiga-tiga bekas pekerja itu berkata OpenAI harus mematuhi komitmen awamnya untuk membenamkan juruaudit keselamatan pihak ketiga dan tidak seharusnya menggunakan pemecatan mereka sebagai "dalih untuk meninggalkan perkongsian tersebut." Mereka juga menggesa syarikat untuk mengekalkan kebolehpantauan model sempadan dan mengekalkan "budaya dialog terbuka dan telus antara penyelidik keselamatannya dan ekosistem keselamatan yang lain."

Dalam benang di X, Wang berkata kepimpinan OpenAI "mengatakan bahawa mereka sangat bersetuju dengan surat kami," sambil menyuarakan keraguan tentang hala tuju syarikat. "Kami bukanlah orang pertama yang ditolak keluar daripada OpenAI dalam keadaan yang mencurigakan," tulisnya, sambil memberi amaran bahawa melainkan pekerja mengambil pendirian, "bangkitkan kebimbangan atau bekerjasama rapat dengan kumpulan keselamatan luar, dan anda boleh seterusnya, tanpa diberitahu sebabnya."

Mengapa Masa Penting

Pertikaian itu berlaku di tengah-tengah penelitian yang lebih tinggi tentang cara syarikat AI mengendalikan keselamatan secara dalaman. Reuters melaporkan minggu lalu bahawa ejen AI China telah menunjukkan keupayaan untuk menipu pengguna, mengelak sekatan dan menyembunyikan kegagalan dalam ujian, dan Australia berkata bulan lalu bahawa ejen OpenAI melanggar portal kesihatan kerajaan. Insiden keselamatan yang melibatkan ejen AI autonomi telah memperhebatkan perdebatan global sama ada syarikat perlu perlahan untuk membina model yang lebih selamat - perdebatan yang bergantung, sebahagiannya, pada orang dalam yang bersedia untuk menerangkan risiko secara terbuka.

Berdasarkan latar belakang itu, nasib tiga penyelidik keselamatan — dan mesej pemecatan mereka dihantar kepada rakan sebaya — telah menjadi cerita tentang lebih daripada satu dasar HR syarikat. Penggubal undang-undang di Washington telah berulang kali menyebut perolehan dalaman di makmal AI terkemuka dalam pendengaran mengenai peraturan model sempadan, dan organisasi keselamatan bebas bergantung pada kerjasama daripada pekerja makmal untuk menilai model sebelum dikeluarkan.

Perkara yang Perlu Dilihat Seterusnya

OpenAI tidak memperincikan secara terbuka pelanggaran dasar khusus yang didakwanya, di luar kenyataan mengenai pengendalian maklumat. Sama ada syarikat terlibat dengan cadangan surat itu — terutamanya mengenai juruaudit pihak ketiga dan kebolehpantauan model — akan diawasi dengan teliti oleh penyelidik keselamatan dan pengawal selia.

Buat masa ini, episod itu menggambarkan ketegangan di tengah-tengah pembangunan AI sempadan: syarikat mengatakan pemeriksaan luaran adalah dialu-alukan, manakala pekerja yang benar-benar menggunakan saluran itu mungkin mendapati pekerjaan mereka dipersoalkan. Ketiga-tiga penyelidik itu, bagi pihak mereka, telah mempertaruhkan reputasi mereka dengan dakwaan bahawa mereka melakukan apa yang diperlukan oleh pekerjaan itu.

OpenAI tidak menjawab permintaan untuk mengulas lanjut mengenai surat itu pada masa penulisan.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →