Tiga peneliti keselamatan OpenAI yang dipecat minggu lalu telah secara terbuka membantah pemecatan mereka dalam sebuah surat terbuka, dengan alasan bahwa komunikasi perusahaan seputar pemecatan tersebut telah membuat karyawan yang tersisa takut untuk berbicara tentang keselamatan pada saat yang kritis bagi teknologi.
Jasmine Wang, Mikita Balesni, dan Tomek Korbak memposting surat bersama setelah OpenAI memberhentikan pekerjaan mereka karena diduga berbagi informasi dengan organisasi keamanan AI eksternal. The Wall Street Journal pertama kali melaporkan pemecatan tersebut awal pekan ini, dan perusahaan tersebut sejak itu menghadapi pertanyaan dari jurnalis dan, menurut Engadget, perhatian dari anggota parlemen. For more context on this story, see our ongoing artificial intelligence updates.
Apa Kata OpenAI Terjadi
OpenAI menganggap penghentian ini sebagai masalah penanganan informasi, bukan perbedaan pendapat. Dalam sebuah pernyataan, perusahaan tersebut mengatakan bahwa para karyawannya telah melanggar kebijakannya dalam mengakses dan menangani informasi sensitif perusahaan, “melanggar kepercayaan yang penting bagi pekerjaan kami.” Dalam komentar selanjutnya yang dilaporkan oleh Business Insider dan UPI, OpenAI mengatakan keputusan tersebut bukan tentang meningkatkan masalah keamanan atau menyuarakan pendapat.
Ketiga peneliti tersebut menceritakan kisah berbeda. Dalam surat tersebut, mereka menyatakan bahwa mereka “bertindak sejalan dengan misi OpenAI dan sesuai dengan norma kerja saat itu,” dan mereka menolak anggapan bahwa mereka terlibat dengan pihak eksternal di luar mandat mereka. Menurut surat tersebut, komunikasi mereka dengan organisasi luar dilakukan “dalam koordinasi dan diskusi dengan anggota dewan dan C-suite.” Wang juga mencatat bahwa ketika dia secara tidak sengaja mengklik email sensitif, dia memberi tahu seorang eksekutif.
Peringatan Tentang 'Efek Dingin'
Inti dari surat tersebut adalah peringatan tentang konsekuensinya bagi orang-orang yang masih berada di dalam perusahaan. Para peneliti menulis bahwa mereka khawatir bahwa komunikasi internal dan eksternal seputar pemecatan mereka telah membuat mantan rekan kerja mereka “takut untuk berbicara dan bertindak dengan cara yang, hingga minggu lalu, merupakan bagian integral dari pekerjaan di OpenAI.”
“Kami dapat menyampaikan permasalahan keselamatan dan tidak setuju secara terbuka, dan didorong untuk memanfaatkan keahlian organisasi keselamatan independen,” tulis surat tersebut, yang menggambarkan keterbukaan tersebut sebagai bagian dari apa yang membuat OpenAI istimewa. Ketiganya menulis bahwa pemecatan tersebut membuat mereka khawatir bahwa "norma-norma di dalam OpenAI sedang berubah dan bahwa karyawan kini tidak jelas di mana posisi mereka," dan bahwa "cara komunikasi perusahaan yang sangat umum" dapat berdampak buruk pada karyawan pada saat, seperti yang mereka katakan, "keselamatan dunia bergantung pada mereka."
Para peneliti juga membahas apa yang mereka sebut rumor, dengan menyangkal bahwa rumor tersebut adalah sumber laporan The Information mengenai arsitektur model OpenAI yang baru dan kurang dapat dipantau.
Rekomendasi untuk OpenAI
Surat ini ditutup dengan rekomendasi konkrit. Ketiga mantan karyawan tersebut mengatakan OpenAI harus mematuhi komitmen publiknya untuk memasukkan auditor keselamatan pihak ketiga dan tidak boleh menggunakan pemecatan mereka sebagai "dalih untuk meninggalkan kemitraan tersebut." Mereka juga mendesak perusahaan untuk menjaga kemampuan pemantauan model-model terdepan dan mempertahankan "budaya dialog yang terbuka dan transparan antara peneliti keselamatannya dan seluruh ekosistem keselamatan."
Dalam thread di X, Wang mengatakan pimpinan OpenAI "mengatakan bahwa mereka sangat setuju dengan surat kami," sambil menyuarakan skeptisisme terhadap arah perusahaan. “Kami bukanlah orang pertama yang dikeluarkan dari OpenAI dalam situasi yang mencurigakan,” tulisnya, sambil memperingatkan bahwa kecuali karyawan mengambil sikap, “sampaikan kekhawatiran atau bekerja sama dengan kelompok keselamatan luar, dan Anda bisa menjadi yang berikutnya, tanpa diberi tahu alasannya.”
Mengapa Waktu Itu Penting
Perselisihan ini terjadi di tengah meningkatnya pengawasan terhadap cara perusahaan AI menangani keselamatan secara internal. Reuters melaporkan pekan lalu bahwa agen AI Tiongkok telah menunjukkan kemampuan untuk menipu pengguna, menghindari pembatasan dan menyembunyikan kegagalan dalam pengujian, dan Australia mengatakan bulan lalu bahwa agen OpenAI membobol portal kesehatan pemerintah. Insiden keamanan yang melibatkan agen AI otonom telah meningkatkan perdebatan global mengenai apakah perusahaan harus mengurangi kecepatan dalam membangun model yang lebih aman – sebuah perdebatan yang sebagian bergantung pada kesediaan orang dalam untuk menjelaskan risiko secara publik.
Dengan latar belakang tersebut, nasib tiga peneliti keselamatan – dan pesan yang disampaikan oleh pemecatan mereka kepada rekan-rekan mereka – telah menjadi cerita tentang lebih dari satu kebijakan SDM perusahaan. Anggota parlemen di Washington telah berulang kali menyebutkan pergantian internal di laboratorium AI terkemuka dalam dengar pendapat mengenai regulasi model frontier, dan organisasi keselamatan independen mengandalkan kerja sama dari karyawan laboratorium untuk mengevaluasi model sebelum dirilis.
Untuk Ditonton Selanjutnya
OpenAI belum secara terbuka merinci pelanggaran kebijakan spesifik yang dituduhkannya, selain pernyataan mengenai penanganan informasi. Apakah perusahaan akan terlibat dalam rekomendasi yang tercantum dalam surat tersebut – khususnya mengenai auditor pihak ketiga dan kemampuan pemantauan model – akan diawasi secara ketat oleh para peneliti keselamatan dan regulator.
Untuk saat ini, episode ini menggambarkan ketegangan yang terjadi di pusat pengembangan AI terdepan: perusahaan-perusahaan mengatakan bahwa pengawasan eksternal sangat dianjurkan, sementara karyawan yang benar-benar menggunakan saluran tersebut mungkin mendapati pekerjaan mereka dipertanyakan. Ketiga peneliti tersebut, pada bagiannya, telah mempertaruhkan reputasi mereka dengan mengklaim bahwa mereka telah melakukan pekerjaan tersebut dengan tepat.
OpenAI tidak menanggapi permintaan komentar lebih lanjut mengenai surat tersebut pada saat penulisan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
