Anthropic wis miwiti menehi tim saka METR, organisasi nirlaba sing ngevaluasi model AI perbatasan, "akses kaya karyawan" menyang sistem internal - hardware perusahaan, ruang kantor, lan alat sing kira-kira padha karo apa sing digunakake tim penilaian risiko dhewe - supaya klompok eksternal bisa netepake kanthi mandiri risiko model perbatasan Anthropic lan nerbitake apa sing ditemokake.

Pengaturan kasebut, sing diumumake ing blog Anthropic dina Rebo, luwih akeh tinimbang hubungan gaya audit sing biasane ditoleransi dening perusahaan AI, lan dilengkapi karo pranata sing katon: METR bakal nerbitake asil penilaian risiko, lan Anthropic ora bisa veto publikasi.

Apa Tegese "Akses Kaya Karyawan".

Enem karyawan METR wis dipasang ing piranti keras perusahaan, ruang kantor, lan akses menyang alat lan sistem internal sing digambarake Anthropic kira-kira padha karo apa sing ditampa dening tim penilaian risiko dhewe. Ing njaba sawetara kategori sing ditetepake kanthi jelas - data babagan pelanggan, informasi hak istimewa pengacara-klien, lan informasi babagan arsitektur model - Anthropic ujar manawa para karyawan disaranake nuduhake informasi karo tim METR kaya sing bakal ditindakake karo kanca karyawan sing kerja ing risiko keselarasan.

Pertunangan sengaja sempit. Iki kalebu tim cilik sing makarya ing perjanjian sing bisa ditindakake, lan karyawan METR liyane dibuwang saka pakaryan tim kasebut - kalebu peneliti sing kerja sama karo Anthropic ing proyek liyane. Anthropic cathetan persiyapan menehi sawetara wong qualified, makarya ing standar keamanan Anthropic kang, tampilan cedhak carane perusahaan makaryakke; iku dudu saluran kanggo organisasi liyane kanggo njupuk informasi Anthropic utawa pelanggan.

Hak Publikasi, Kanthi Guardrails

Ing persetujuan kasebut, METR bakal nerbitake analisis tingkat risiko, kedadeyan, utawa praktik Anthropic. Anthropic ora bisa mblokir publikasi, nanging bisa mbutuhake redaksi nalika informasi kasebut kalebu ing kategori sing wis ditemtokake ing ndhuwur - lan Anthropic dhewe nemtokake apa sing kalebu utawa ora kalebu ing kategori kasebut. METR, kanggo bagean, nduweni hak kanggo nggawe statement tartamtu babagan tingkat akses lan informasi sing ditampa, counterweight dirancang kanggo njaga daya redaksi saka dadi tombol bisu.

Napa Anthropic Mbukak

Pamindhahan kasebut ngetutake komitmen Anthropic sing ditindakake wulan kepungkur kanggo pambiji independen, pihak katelu sing luwih kuat babagan model lan praktik safety, lan tandha tangan ing Persetujuan Gedung Putih babagan Super Intelligence, ing ngendi perusahaan AI janji bakal kerja bareng karo auditor eksternal utawa penilai. Iki uga ngluwihi hubungan sing wis ana: sajrone taun kepungkur, Anthropic kerja bareng METR ing sawetara review saka Laporan Risiko.

METR ora mung ing portofolio. Anthropic ujar manawa uga nggarap SecureBio lan Accenture minangka evaluator - Fakultas Accenture dijenengi minangka evaluator pertama sing dipasang ing perusahaan ing September - lan ana ing diskusi awal karo sawetara organisasi liyane, kalebu Hugging Face. Kemitraan ing tahap awal kasebut nduweni akses informasi lan hak publikasi sing luwih winates nalika perusahaan sinau apa jenis kerja kemitraan.

Analogi Pengawasan Bank

Framing Anthropic dhewe utang saka keuangan. Bank-bank ngerti luwih akeh babagan posisi risiko dhewe tinimbang wong njaba, mula regulator nemtokake pemeriksa penduduk kanggo kerja ing bank-bank paling gedhe; yen risiko njupuk bank bisa ngancam masyarakat, pihak katelu nyoba kanggo ndeleng sing ing advance. Perusahaan kasebut nampilake evaluasi minangka versi industri AI babagan logika kasebut - langkah kanggo ngawasi keamanan sing kuat ing lapangan sing tukang nggawe luwih ngerti tinimbang pengawas.

Ndadekake kabeh iku minangka tujuan sing wis ditemtokake: nutup celah ing antarane apa sing dingerteni para evaluator independen babagan sistem perusahaan AI perbatasan lan apa sing dingerteni perusahaan kasebut.

Apa sing Dibutuhake Evaluator

woro-woro uga lay metu apa Anthropic mikir evaluasi migunani mbutuhake: expertise ing netepke kapabilitas model wates, kalebu pangerten carane evaluasi bisa salah liwat fénoména kaya alignment faking; kamardikan, tegese ora ekuitas utawa katergantungan finansial utawa operasional ing perusahaan sing dievaluasi; akses cukup kanggo meaningfully ngira-ngira risiko, ngluwihi model paling anyar kanggo carane padha dilatih lan carane fungsi safeguards; lan kebebasan kanggo nerbitake pengamatan lan penilaian model utawa proses.

Kasus Uji Kanggo Kabeh Industri

Tatanan kasebut bakal diadili kanthi output. Assessment pisanan diterbitake METR ing regime akses anyar bakal nuduhake apa akses kaya pegawe mrodhuksi temuan karo untu nyata utawa laporan trimmed dening kategori redaksi sing perusahaan dhewe nemtokake. Skeptis bakal nyathet yen Anthropic ngontrol wates kategori lan tim pilot cilik; panyengkuyung bakal Wigati sing hak publikasi Anthropic ora bisa veto punika genuinely novel antarane labs wates.

Apa wae, industri nonton. Yen akses METR ditempelake lumahing temonan materi lan nerbitaké tanpa gangguan, model dadi cithakan ketok kanggo saben Lab sing mlebu persetujuan Gedung Putih - lan pathokan kanggo policymakers ngebotake apa pengawasan sukarela bisa sulih kanggo audit prentah. Kanggo liputan sing terus-terusan babagan kabijakan keamanan AI lan kabar industri AI sing mbentuk, AI Buzz Wire ngetutake saben pangembangan nalika rusak.

---

Tetep Ahead of AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane AI warta →