OpenAI ngomong karo macem-macem penilai independen kanggo mbantu nambah jumlah perusahaan sing duwe keahlian babagan keamanan AI perbatasan lan bisa menehi penilaian pihak katelu sing efektif, ujare perusahaan kasebut ing kirim blog sing diterbitake Selasa, 22 September, kaya sing dilaporake PYMNTS.

Kiriman kasebut nyedhiyakake prioritas lan prinsip sing diusulake OpenAI kanggo pengawasan pihak katelu sing efektif - kerangka kerja kasebut kudu ditrapake kanggo kabeh lab AI perbatasan nalika padha nglatih, ngevaluasi lan nyebarake model sing luwih apik. Pengumuman kasebut ana ing tengah wulan sing ora biasa diisi kanggo kabijakan keamanan AI, lan diwaca minangka konsesi kanggo para kritikus lan upaya kanggo mbentuk aturan kasebut sadurunge pemerintah nulis. Kanggo sapa wae sing ngetutake [kabar AI] (https://aibuzzwire.news), iki minangka langkah paling anyar ing kontes suwene pirang-pirang minggu ing antarane laboratorium, kritikus lan regulator babagan sapa sing bakal verifikasi manawa model perbatasan aman.

Apa sing Disaranake OpenAI

"Kita setya ndhukung penilai independen lan netepake standar internasional sing luwih jelas, bareng - liwat undang-undang lan inisiatif pamrentah pribadi - kanggo penilaian pihak katelu sing efektif," ujare OpenAI ing kiriman kasebut, miturut PYMNTS.

Masalah inti sing diterangake OpenAI yaiku kegagalan pasar: mung ana sawetara organisasi kanthi kedalaman teknis kanggo audit model perbatasan. Assessment safety sing migunani mbutuhake akses menyang sistem sing durung dirilis, keahlian ing wilayah saka cybersecurity nganti biosecurity, lan kamardikan institusi kanggo nerbitake temuan sing ora dikarepake. Kanthi merekrut lan ndhukung macem-macem penilai tinimbang auditor sing duwe hak istimewa, OpenAI ujar manawa pengin mbangun ekosistem ing ngendi evaluasi pihak katelu minangka bagean rutin kanggo nyebarake sistem perbatasan - dudu latihan hubungan masyarakat siji-sijine.

Perusahaan kasebut ora menehi jeneng penilai sing diomongake, lan isih kudu dideleng apa pengaturan sing diasilake bakal menehi akses menyang evaluator, kamardikan pendanaan lan hak publikasi sing dianggep penting dening peneliti keamanan.

Minggu Whiplash babagan Kebijakan AI

Proposal kasebut teka ing tengah-tengah urutan pangembangan kebijakan kanthi cepet sing nemtokake debat AI September:

  • Senin, 21 September: OpenAI njaluk supaya Amerika Serikat mimpin upaya internasional kanggo ngembangake standar teknis global kanggo AI perbatasan - kalebu perbaikan diri rekursif, titik ing ngendi sistem AI ningkatake awake dhewe. Perusahaan kasebut ngelingake manawa pangembangan AI kanthi otonom bisa ngluwihi kemampuan manungsa kanggo ngerti lan ngontrol, lan ujar manawa keputusan babagan apa lan kepiye kudu ditindakake saiki.
  • Jum'ah, 18 September: Gubernur California Gavin Newsom nandatangani prentah eksekutif sing ngundang para ahli nasional kanggo nguatake undang-undang keamanan AI negara, kanthi jelas ngarahake nyepetake implementasine pengawasan pihak katelu anyar babagan risiko keamanan lan keamanan ing sistem AI.
  • Sabtu, 19 September: Presiden Donald Trump nolak keprihatinan safety industri ing kiriman Truth Social, nulis: "Kita ora bakal ngalang-alangi utawa ngalangi Pertumbuhan industri sing luar biasa iki. AI minangka Revolusi Industri sabanjure, utawa Internet, nanging bakal dadi luwih gedhe lan luwih akeh pengaruhe, bisa uga nganti 25% saka PDB Negara kita."

Kaya sing dilaporake ing awal minggu iki, proposal standar sing dipimpin OpenAI nandhani owah-owahan sing nggegirisi kanggo perusahaan sing wis pirang-pirang taun nolak pengawasan sing mengikat - lan prinsip penilaian pihak katelu sing anyar ngluwihi postur kasebut menyang pamrentah pribadi.

Masalah Kamardikan

Pengawasan eksternal OpenAI ngetutake proposal paralel saka saingan utama. Kira-kira seminggu sadurunge, CEO Anthropic Dario Amodei nerbitake esai sing ngusulake rencana safety AI sing dibangun ing sekitar evaluator independen sing dipasang ing perusahaan AI terkemuka, koordinasi ing antarane perusahaan ing negara demokratis, lan pungkasane persetujuan internasional sing kalebu China.

Kaloro usulan kasebut langsung narik skeptisisme saka para ahli. CNBC nglaporake manawa koalisi luwih saka 100 ahli AI njaluk kamardikan lan transparansi saka Anthropic, OpenAI lan laboratorium model yayasan liyane sing nganakake evaluasi, ngelingake manawa para evaluator sing dipasang ing - utawa dibayar - perusahaan sing diaudit ngadhepi konflik kepentingan sing ora bisa dihindari. Pengawas sing didhukung dening perintis AI Geoffrey Hinton wis meksa loro perusahaan kasebut babagan rincian rencana keamanan, lan komentator wis menehi tandha lawang puteran ing antarane organisasi evaluasi keamanan AI lan laboratorium kasebut dhewe: wong-wong sing menehi grading peer safety bisa uga sing nulis.

Ketegangan kasebut minangka inti saka debat kiriman anyar OpenAI sing nyoba kanggo nolak. Wangsulan perusahaan - luwih akeh penilai, standar internasional sing dituduhake, lan pengawasan sing ditindakake liwat undang-undang lan inisiatif pribadi ing mangsa ngarep - minangka kerangka kerja, durung dadi jaminan. Kritikus bakal nuduhake manawa laboratorium sing ngusulake aturan kasebut minangka laboratorium sing padha karo dheweke, lan pamrentahan sing bentuke awake dhewe kanthi historis milih perusahaan sing nggawe.

Apa Iku Penting

Model perbatasan sabanjure wis ana ing latihan, lan jendhela kanggo ngrancang pengawasan sadurunge panyebaran ditutup. Yen rekrutmen penilai independen OpenAI mrodhuksi auditor kanthi akses nyata lan kamardikan nyata, bisa dadi cithakan babagan carane AI wates diatur ing saindenging jagad - rezim pribadi sing ora ditindakake dening para legislator ing Washington, Brussels lan liya-liyane. Yen ngasilake konsultasi afiliasi karo NDA, bakal ngonfirmasi maca sing paling awon kanggo para skeptis.

Ing endi wae, kasunyatan manawa OpenAI saingan karo Anthropic babagan sapa sing bisa ngusulake rezim pengawasan sing paling bisa dipercaya yaiku anyar. Setaun kepungkur, laboratorium kasebut manunggal utamane kanggo nglawan peraturan. Saiki lagi balapan kanggo nemtokake.

---

Tetep Ahead saka AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane warta AI →