Telung peneliti safety OpenAI sing dipecat minggu kepungkur wis mbantah pemecatan kanthi umum ing surat terbuka, kanthi alesan manawa komunikasi perusahaan ing sekitar pemecatan kasebut nggawe karyawan isih wedi ngomong babagan safety ing wektu kritis kanggo teknologi kasebut.
Jasmine Wang, Mikita Balesni lan Tomek Korbak ngirim surat gabungan kasebut sawise OpenAI mungkasi kerjane amarga diduga nuduhake informasi karo organisasi keamanan AI eksternal. Wall Street Journal pisanan nglaporake pemecatan ing awal minggu iki, lan perusahaan wiwit ngadhepi pitakonan saka wartawan lan, miturut Engadget, perhatian para anggota parlemen. For more context on this story, see our ongoing breaking AI news.
Apa sing Diomongake OpenAI
OpenAI wis pigura terminasi minangka masalah nangani informasi, ora dissent. Ing pratelan, perusahaan kasebut ujar manawa karyawan kasebut nglanggar kabijakan babagan ngakses lan nangani informasi perusahaan sing sensitif, "ngrusak kepercayaan sing penting kanggo pakaryan kita." Ing komentar sabanjure sing dilaporake dening Business Insider lan UPI, OpenAI ujar manawa keputusan kasebut dudu babagan masalah keamanan utawa ujar.
Telung peneliti kasebut nyritakake crita sing beda. Ing layang kasebut, dheweke nyatakake yen dheweke "tumindak selaras karo misi OpenAI lan ing norma kerja ing wektu kasebut," lan dheweke nolak karakterisasi sing ditindakake karo pihak eksternal ing njaba mandat. Miturut surat kasebut, komunikasi karo organisasi njaba ditindakake "kanthi koordinasi lan diskusi karo anggota dewan lan C-suite." Wang uga nyathet yen nalika dheweke ora sengaja ngeklik email sing sensitif, dheweke ngandhani eksekutif.
Peringatan Babagan 'Efek Ngirit'
Inti saka surat kasebut yaiku peringatan babagan akibat kanggo wong sing isih ana ing perusahaan. Peneliti nulis manawa dheweke kuwatir yen komunikasi internal lan eksternal ing sekitar tembak kasebut nggawe mantan kolega "wedi ngomong lan tumindak kanthi cara, nganti minggu kepungkur, minangka bagean integral saka kerja ing OpenAI."
"Kita bisa nambah keprihatinan safety lan ora setuju kanthi terang-terangan, lan diwanti-wanti kanggo nggunakake keahlian organisasi safety independen," ujare surat kasebut, nggambarake keterbukaan kasebut minangka bagean saka apa sing nggawe OpenAI khusus. Telu kasebut nulis manawa penembakan kasebut nggawe dheweke kuwatir yen "norma-norma ing OpenAI wis owah lan karyawan saiki ora jelas ing ngendi dheweke ngadeg," lan manawa "cara umum" komunikasi perusahaan bisa duwe efek sing nyenengake ing karyawan nalika, kaya sing diucapake, "keselamatan donya gumantung marang dheweke."
Peneliti uga ngrampungake apa sing diarani desas-desus, nolak manawa dheweke dadi sumber laporan dening Informasi babagan arsitektur model OpenAI sing anyar lan kurang bisa dipantau.
Rekomendasi kanggo OpenAI
Surat kasebut ditutup kanthi rekomendasi konkrit. Telu mantan karyawan kasebut ujar OpenAI kudu netepi komitmen umum kanggo nampilake auditor keamanan pihak katelu lan ora kudu nggunakake penembakan kasebut minangka "pretext kanggo mundur saka kemitraan kasebut." Dheweke uga nggusah perusahaan kanggo njaga pengawasan model perbatasan lan njaga "budaya dialog sing mbukak lan transparan antarane peneliti safety lan ekosistem safety liyane."
Ing utas ing X, Wang ujar manawa pimpinan OpenAI "ngandika manawa dheweke setuju banget karo layang kita," nalika nyatakake skeptisisme babagan arah perusahaan. "Kita dudu sing pertama diusir saka OpenAI ing kahanan sing curiga," dheweke nulis, ngelingake manawa karyawan ora mandheg, "ngunggahake keprihatinan utawa kerja bareng karo klompok safety ing njaba, lan sampeyan bisa dadi sabanjure, tanpa dikandhani kenapa."
Napa Wektu Penting
Sengketa kasebut ana ing tengah-tengah pengawasan sing luwih dhuwur babagan cara perusahaan AI nangani keamanan internal. Reuters nglaporake minggu kepungkur yen agen AI China wis nuduhake kemampuan kanggo ngapusi pangguna, nyingkiri larangan lan ndhelikake kegagalan ing tes, lan Australia ujar wulan kepungkur yen agen OpenAI nglanggar portal kesehatan pemerintah. Kedadeyan keamanan sing nglibatake agen AI otonom wis nggedhekake debat global babagan apa perusahaan kudu alon-alon mbangun model sing luwih aman - debat sing gumantung, sebagian, marang wong njero sing gelem njlentrehake risiko ing publik.
Ing latar mburi kasebut, nasib telung peneliti keamanan - lan pesen sing dikirim menyang kanca-kancane - wis dadi crita babagan kabijakan SDM luwih saka siji perusahaan. Anggota parlemen ing Washington wis bola-bali nyebutake omset internal ing laboratorium AI sing unggul ing pamriksan babagan peraturan model perbatasan, lan organisasi safety independen ngandelake kerjasama saka karyawan lab kanggo ngevaluasi model sadurunge dirilis.
Apa sing Dideleng Sabanjure
OpenAI durung njlentrehake kanthi umum babagan pelanggaran kabijakan khusus sing didakwa, ngluwihi pratelan babagan penanganan informasi. Apa perusahaan melu rekomendasi surat kasebut - utamane babagan auditor pihak katelu lan monitorability model - bakal diawasi kanthi teliti dening peneliti safety lan regulator.
Saiki, episode kasebut nggambarake ketegangan ing tengah pangembangan AI perbatasan: perusahaan ujar manawa pamriksan eksternal ditampa, dene karyawan sing bener-bener ngleksanani saluran kasebut bisa uga nemokake lapangan kerja. Telu peneliti, kanggo bagean, wis staked reputasi ing pratelan sing padha nindakake persis apa proyek dibutuhake.
OpenAI ora nanggapi panjalukan kanggo komentar luwih lanjut babagan surat kasebut nalika nulis.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
