Anthropic telah mula memberikan pasukan daripada METR, badan bukan untung yang menilai model AI sempadan, "akses seperti pekerja" kepada sistem dalamannya — perkakasan syarikat, ruang pejabat dan alatan secara kasarnya setanding dengan apa yang digunakan oleh pasukan penilaian risikonya sendiri — supaya kumpulan luar boleh menilai secara bebas risiko model sempadan Anthropic dan menerbitkan perkara yang ditemuinya.
Susunan itu, diumumkan di blog Anthropic pada hari Rabu, lebih jauh daripada perhubungan gaya audit yang biasa diterima oleh syarikat AI, dan ia disertakan dengan peruntukan yang menonjol: METR akan menerbitkan keputusan penilaian risikonya, dan Anthropic tidak boleh memveto penerbitan.
Maksud "Akses Seperti Pekerja" Sebenarnya
Enam pekerja METR telah dilengkapkan dengan perkakasan syarikat, ruang pejabat dan akses kepada alatan dan sistem dalaman yang digambarkan oleh Anthropic secara kasar setanding dengan apa yang diterima oleh pasukan penilaian risikonya sendiri. Di luar sebilangan kecil kategori yang ditakrifkan dengan jelas — data tentang pelanggan, maklumat keistimewaan peguam-klien dan maklumat tentang seni bina model — Anthropic berkata pekerjanya digalakkan untuk berkongsi maklumat dengan pasukan METR seperti yang mereka lakukan dengan rakan sekerja yang mengusahakan risiko penjajaran.
Pertunangan itu sengaja sempit. Ia meliputi pasukan kecil yang beroperasi di bawah perjanjian yang boleh dikuatkuasakan, dan pekerja METR lain diam daripada kerja pasukan itu — termasuk penyelidik yang bekerjasama dengan Anthropic dalam projek lain. Anthropic menyatakan bahawa persediaan memberikan beberapa orang yang berkelayakan, bekerja di bawah piawaian keselamatan Anthropic, pandangan yang dekat tentang cara syarikat beroperasi; ia bukan saluran untuk organisasi lain mendapatkan maklumat Anthropic atau pelanggannya.
Hak Penerbitan, Dengan Pengawal
Di bawah perjanjian itu, METR akan menerbitkan analisisnya tentang tahap risiko, insiden atau amalan Anthropic. Anthropic tidak boleh menyekat penerbitan, tetapi ia boleh memerlukan redaksi apabila maklumat termasuk dalam kategori pratakrif yang diterangkan di atas — dan Anthropic sendiri menentukan perkara yang termasuk atau tidak termasuk dalam kategori tersebut. METR, bagi pihaknya, berhak untuk membuat kenyataan tertentu tentang tahap akses dan maklumat yang diterimanya, pengimbang yang direka untuk mengekalkan kuasa suntingan daripada menjadi butang bisu.
Mengapa Anthropic Membuka
Langkah itu berikutan komitmen yang dibuat oleh Anthropic bulan lalu untuk penilaian pihak ketiga yang lebih kukuh terhadap model dan amalan keselamatannya, dan tandatangannya pada Perjanjian Rumah Putih mengenai Perisikan Super, di mana syarikat AI berjanji untuk bekerjasama dengan juruaudit luar atau penilai bebas. Ia juga melanjutkan perhubungan sedia ada: sepanjang tahun lalu, Anthropic bekerjasama dengan METR dalam beberapa semakan Laporan Risikonya.
METR tidak bersendirian dalam portfolio. Anthropic berkata ia juga bekerjasama dengan SecureBio dan Accenture sebagai penilai — Fakulti Accenture dinamakan sebagai penilai terbenam pertama syarikat pada bulan September — dan sedang dalam perbincangan awal dengan beberapa organisasi lain, termasuk Hugging Face. Perkongsian peringkat awal itu datang dengan akses maklumat dan hak penerbitan yang lebih terhad sementara syarikat mempelajari jenis perkongsian yang berfungsi.
Analogi Penyeliaan Bank
Pembingkaian Anthropic sendiri meminjam daripada kewangan. Bank tahu lebih banyak tentang kedudukan risiko mereka sendiri berbanding orang luar, jadi pengawal selia menugaskan pemeriksa pemastautin untuk bekerja di dalam bank terbesar; jika pengambilan risiko bank boleh mengancam orang ramai, pihak ketiga cuba melihatnya terlebih dahulu. Syarikat meletakkan penilaian terbenam sebagai versi industri AI bagi logik itu — satu langkah ke arah pengawasan keselamatan yang teguh dalam bidang di mana pembina sentiasa mengetahui lebih daripada pengawas.
Mendasari semuanya ialah matlamat yang dinyatakan: menutup jurang antara perkara yang difahami oleh penilai bebas tentang sistem syarikat AI sempadan dan perkara yang difahami oleh syarikat itu sendiri.
Perkara yang Diperlukan oleh Penilai
Pengumuman itu juga membentangkan perkara yang difikirkan oleh Anthropic yang diperlukan oleh penilaian bermakna: kepakaran dalam menilai keupayaan model sempadan, termasuk memahami bagaimana penilaian boleh menjadi salah melalui fenomena seperti pemalsuan penjajaran; kebebasan, bermakna tiada ekuiti atau pergantungan kewangan atau operasi pada syarikat yang dinilai; akses yang mencukupi untuk menilai risiko secara bermakna, melangkaui model terkini kepada cara ia dilatih dan cara perlindungan berfungsi; dan kebebasan untuk menerbitkan pemerhatian dan penilaian terhadap model atau proses.
Kes Ujian untuk Seluruh Industri
Susunan itu akan dinilai oleh outputnya. Penilaian terbitan pertama METR di bawah rejim akses baharu akan menunjukkan sama ada akses seperti pekerja menghasilkan penemuan dengan gigi sebenar atau laporan yang dipangkas oleh kategori redaksi yang ditentukan oleh syarikat itu sendiri. Skeptis akan ambil perhatian bahawa Anthropic mengawal sempadan kategori dan bahawa pasukan perintis adalah kecil; penyokong akan ambil perhatian bahawa hak penerbitan Anthropic tidak boleh veto adalah benar-benar baru di kalangan makmal sempadan.
Sama ada cara, industri memerhati. Jika akses terbenam METR memaparkan penemuan bahan dan menerbitkannya tanpa gangguan, model itu menjadi templat yang jelas bagi setiap makmal yang menandatangani perjanjian Rumah Putih — dan penanda aras bagi penggubal dasar yang menimbang sama ada pengawasan sukarela boleh menggantikan audit yang dimandatkan. Untuk liputan berterusan tentang dasar keselamatan AI dan berita industri AI yang membentuknya, AI Buzz Wire mengikuti setiap perkembangan semasa ia pecah.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
