OpenAI sedang bercakap dengan berbilang penilai bebas untuk membantu mengembangkan bilangan syarikat yang mempunyai kepakaran dalam keselamatan AI sempadan dan boleh memberikan penilaian pihak ketiga yang berkesan, kata syarikat itu dalam catatan blog yang diterbitkan Selasa, 22 September, seperti yang dilaporkan oleh PYMNTS.

Siaran itu membentangkan keutamaan dan prinsip yang dicadangkan OpenAI untuk pengawasan pihak ketiga yang berkesan — rangka kerja yang dikatakan harus digunakan untuk semua makmal AI sempadan semasa mereka melatih, menilai dan menggunakan model yang semakin berkebolehan. Pengumuman itu tiba di pertengahan bulan yang luar biasa dikenakan bayaran untuk dasar keselamatan AI, dan ia dibaca sebagai konsesi kepada pengkritik dan percubaan untuk membentuk peraturan sebelum kerajaan menulisnya. Bagi sesiapa yang mengikuti berita terbaharu AI, ini adalah langkah terbaharu dalam pertandingan selama berminggu-minggu antara makmal, pengkritik dan pengawal selia mereka tentang siapa yang dapat mengesahkan bahawa model sempadan adalah selamat.

Apa yang Dicadangkan OpenAI

"Kami komited untuk menyokong penilai bebas dan mewujudkan piawaian antarabangsa yang lebih jelas dan dikongsi — baik melalui undang-undang masa depan dan inisiatif tadbir urus swasta — untuk penilaian pihak ketiga yang berkesan," kata OpenAI dalam catatan itu, menurut PYMNTS.

Masalah teras yang diterangkan OpenAI ialah kegagalan pasaran: terdapat terlalu sedikit organisasi dengan kedalaman teknikal untuk mengaudit model sempadan. Penilaian keselamatan yang bermakna memerlukan akses kepada sistem yang belum dikeluarkan, kepakaran dalam bidang daripada keselamatan siber kepada biosekuriti, dan kebebasan institusi untuk menerbitkan penemuan yang tidak diingini. Dengan merekrut dan menyokong berbilang penilai dan bukannya seorang juruaudit istimewa tunggal, OpenAI berkata ia mahu membina ekosistem di mana penilaian pihak ketiga merupakan bahagian rutin dalam melaksanakan sistem sempadan — bukan latihan perhubungan awam sekali sahaja.

Syarikat itu tidak menamakan penilai yang sedang bercakap dengannya, dan masih belum dapat dilihat sama ada pengaturan yang terhasil akan memberi penilai akses, kebebasan pembiayaan dan hak penerbitan yang dianggap bermakna oleh penyelidik keselamatan.

Seminggu Whiplash pada Dasar AI

Cadangan itu tiba di tengah-tengah urutan pesat perkembangan dasar yang telah mentakrifkan perbahasan AI September:

  • Isnin, 21 September: OpenAI menyeru agar Amerika Syarikat menerajui usaha antarabangsa untuk membangunkan piawaian teknikal global bagi AI sempadan — termasuk pembaikan diri secara rekursif, titik di mana sistem AI memperbaiki diri mereka sendiri. Syarikat itu memberi amaran bahawa pembangunan AI autonomi sepenuhnya boleh mengatasi keupayaan manusia untuk memahami dan mengawalnya, dan berkata keputusan tentang sama ada dan bagaimana untuk meneruskan perlu dibuat sekarang.
  • Jumaat, 18 September: Gabenor California Gavin Newsom menandatangani perintah eksekutif memanggil pakar negara untuk mengukuhkan undang-undang keselamatan AI negeri, secara jelas bertujuan untuk mempercepatkan pelaksanaan pengawasan pihak ketiga baharu terhadap risiko keselamatan dan keselamatan dalam sistem AI.
  • Sabtu, 19 September: Presiden Donald Trump menolak kebimbangan keselamatan industri dalam siaran Truth Social, dengan menulis: "Kami tidak akan sama sekali menghalang atau menyekat Pertumbuhan industri yang luar biasa ini. AI ialah Revolusi Perindustrian atau Internet yang seterusnya, tetapi akan menjadi lebih besar dan lebih berkesan, mungkin sebanyak 25% daripada KDNK Negara kita."

Seperti yang kami laporkan awal minggu ini, cadangan piawaian OpenAI yang diterajui AS menandakan peralihan yang ketara bagi sebuah syarikat yang menghabiskan masa bertahun-tahun menentang pengawasan yang mengikat — dan prinsip penilaian pihak ketiga yang baharu memanjangkan postur itu ke bahagian tadbir urus swasta.

Masalah Kemerdekaan

Pelukan OpenAI terhadap pengawas luar mengikuti cadangan selari daripada saingan utamanya. Kira-kira seminggu sebelum itu, Ketua Pegawai Eksekutif Anthropic Dario Amodei menerbitkan esei yang mencadangkan pelan keselamatan AI yang dibina di sekitar penilai bebas yang tertanam dalam syarikat AI terkemuka, penyelarasan antara syarikat di negara demokrasi, dan akhirnya perjanjian antarabangsa yang merangkumi China.

Kedua-dua cadangan telah menimbulkan keraguan serta-merta daripada pakar. CNBC melaporkan bahawa gabungan lebih daripada 100 pakar AI mendesak kebebasan dan ketelusan daripada makmal model Anthropic, OpenAI dan asas lain yang menjalankan penilaian, memberi amaran bahawa penilai yang tertanam dalam — atau dibayar oleh — syarikat yang mereka audit menghadapi konflik kepentingan yang tidak dapat dielakkan. Badan pemantau yang disokong oleh perintis AI Geoffrey Hinton telah menekan kedua-dua syarikat mengenai butiran pelan keselamatan mereka, dan pengulas telah menandakan pintu pusingan antara organisasi penilaian keselamatan AI dan makmal itu sendiri: orang yang menilai kerja rumah keselamatan mungkin juga orang yang menulisnya.

Ketegangan itu adalah inti dari perdebatan yang cuba diredakan oleh jawatan baharu OpenAI. Jawapan syarikat — lebih ramai penilai, berkongsi piawaian antarabangsa dan pengawasan yang dikuatkuasakan melalui kedua-dua undang-undang masa depan dan inisiatif persendirian — adalah rangka kerja, belum lagi menjadi jaminan. Pengkritik akan menegaskan bahawa makmal yang mencadangkan peraturan adalah makmal yang sama tertakluk kepada mereka, dan bahawa tadbir urus berbentuk diri secara historis memihak kepada syarikat yang melakukan pembentukan.

Mengapa Ia Penting

Model sempadan seterusnya sudah pun dalam latihan, dan tetingkap untuk mereka bentuk pengawasan sebelum penggunaan ditutup. Jika pengambilan penilai bebas OpenAI menghasilkan juruaudit dengan akses sebenar dan kebebasan sebenar, ia boleh menjadi templat bagaimana AI sempadan ditadbir di seluruh dunia — rejim persendirian yang penggubal undang-undang di Washington, Brussels dan tempat lain setakat ini gagal membina diri mereka sendiri. Jika ia menghasilkan perundingan gabungan dengan NDA, ia akan mengesahkan bacaan paling teruk golongan yang ragu-ragu.

Walau apa pun, hakikat bahawa OpenAI bersaing dengan Anthropic mengenai siapa yang boleh mencadangkan rejim pengawasan yang paling boleh dipercayai adalah sesuatu yang baru. Setahun yang lalu, makmal disatukan terutamanya dalam menentang peraturan. Kini mereka berlumba-lumba untuk mentakrifkannya.

---

Kekal Mendahului AI

Dapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.

Baca lebih banyak berita AI →