Anthropic telah mulai memberikan tim dari METR, organisasi nirlaba yang mengevaluasi model AI frontier, “akses seperti karyawan” ke sistem internalnya – perangkat keras perusahaan, ruang kantor, dan peralatan yang kira-kira setara dengan apa yang digunakan oleh tim penilai risikonya – sehingga kelompok eksternal dapat secara mandiri menilai risiko model frontier Anthropic dan mempublikasikan temuannya.
Pengaturan tersebut, yang diumumkan di blog Anthropic pada hari Rabu, melampaui hubungan gaya audit yang biasanya ditoleransi oleh perusahaan AI, dan dilengkapi dengan ketentuan yang menonjol: METR akan mempublikasikan hasil penilaian risikonya, dan Anthropic tidak dapat memveto publikasi tersebut.
Apa Arti Sebenarnya "Akses Seperti Karyawan".
Enam karyawan METR telah menerima perangkat keras perusahaan, ruang kantor, dan akses ke alat dan sistem internal yang menurut Anthropic kira-kira setara dengan apa yang diterima oleh tim penilai risikonya sendiri. Di luar sejumlah kecil kategori yang jelas – data tentang pelanggan, informasi istimewa pengacara-klien, dan informasi tentang arsitektur model – Anthropic mengatakan bahwa karyawannya didorong untuk berbagi informasi dengan tim METR seperti halnya dengan rekan kerja yang menangani risiko penyelarasan.
Pertunangannya sengaja dibuat sempit. Ini mencakup tim kecil yang beroperasi berdasarkan perjanjian yang dapat ditegakkan, dan karyawan METR lainnya tidak ikut serta dalam pekerjaan tim tersebut — termasuk peneliti yang berkolaborasi dengan Anthropic pada proyek lain. Anthropic mencatat bahwa pengaturan ini memberi beberapa orang yang memenuhi syarat, yang bekerja di bawah standar keamanan Anthropic, pandangan dekat tentang bagaimana perusahaan beroperasi; ini bukan saluran bagi organisasi lain untuk memperoleh informasi Anthropic atau informasi pelanggannya.
Hak Publikasi, Dengan Pagar Pembatas
Berdasarkan perjanjian tersebut, METR akan mempublikasikan analisisnya mengenai tingkat risiko, insiden, atau praktik Anthropic. Anthropic tidak dapat memblokir publikasi, namun memerlukan redaksi ketika informasi termasuk dalam kategori yang telah ditentukan sebelumnya seperti dijelaskan di atas — dan Anthropic sendiri yang memutuskan apa yang termasuk dalam kategori tersebut atau tidak. METR, pada bagiannya, berhak membuat pernyataan tertentu tentang tingkat akses dan informasi yang diterimanya, sebagai penyeimbang yang dirancang untuk menjaga kekuatan redaksi agar tidak menjadi tombol mute.
Mengapa Antropik Terbuka
Langkah ini mengikuti komitmen yang dibuat Anthropic bulan lalu untuk melakukan penilaian independen dan pihak ketiga yang lebih kuat terhadap model dan praktik keselamatannya, serta penandatanganan Perjanjian Gedung Putih tentang Super Intelligence, yang mana perusahaan AI berjanji untuk bermitra dengan auditor atau evaluator eksternal independen. Hal ini juga memperluas hubungan yang sudah ada: selama setahun terakhir, Anthropic bekerja dengan METR dalam beberapa tinjauan Laporan Risikonya.
METR tidak sendirian dalam portofolio ini. Anthropic mengatakan pihaknya juga bekerja sama dengan SecureBio dan Accenture sebagai evaluator – Fakultas Accenture ditunjuk sebagai evaluator tertanam pertama perusahaan pada bulan September – dan sedang dalam diskusi awal dengan beberapa organisasi lain, termasuk Hugging Face. Kemitraan tahap awal tersebut memiliki akses informasi dan hak publikasi yang lebih terbatas, sementara perusahaan mempelajari jenis kemitraan yang berhasil.
Analogi Pengawasan Bank
Pembingkaian Anthropic sendiri meminjam dari keuangan. Bank mengetahui lebih banyak mengenai posisi risikonya dibandingkan pihak luar, sehingga regulator menugaskan pemeriksa lokal untuk bekerja di dalam bank terbesar; jika pengambilan risiko yang dilakukan bank dapat mengancam masyarakat, pihak ketiga akan berupaya untuk melihat hal tersebut terlebih dahulu. Perusahaan memposisikan evaluasi tertanam sebagai logika versi industri AI — sebuah langkah menuju pengawasan keselamatan yang kuat di bidang di mana pembangun selalu mengetahui lebih banyak daripada pengawas.
Yang mendasari semuanya adalah tujuan yang dinyatakan: menutup kesenjangan antara apa yang dipahami oleh evaluator independen tentang sistem perusahaan AI terdepan dan apa yang dipahami oleh perusahaan itu sendiri.
Yang Dibutuhkan Evaluator
Pengumuman ini juga menjabarkan apa yang menurut Anthropic memerlukan evaluasi yang bermakna: keahlian dalam menilai kemampuan model frontier, termasuk memahami bagaimana evaluasi bisa salah melalui fenomena seperti pemalsuan penyelarasan; independensi, artinya tidak ada ketergantungan ekuitas atau finansial atau operasional pada perusahaan yang dievaluasi; akses yang cukup untuk mengevaluasi risiko secara bermakna, tidak hanya mencakup model-model terbaru, namun juga bagaimana model-model tersebut dilatih dan bagaimana upaya perlindungan berfungsi; dan kebebasan untuk mempublikasikan observasi dan penilaian suatu model atau proses.
Kasus Uji untuk Seluruh Industri
Pengaturan tersebut akan dinilai dari outputnya. Penilaian pertama METR yang dipublikasikan di bawah rezim akses baru akan menunjukkan apakah akses seperti karyawan menghasilkan temuan yang nyata atau laporan yang dipangkas berdasarkan kategori redaksi yang ditentukan oleh perusahaan itu sendiri. Orang yang skeptis akan memperhatikan bahwa Anthropic mengontrol batasan kategori dan tim percontohannya kecil; Para pendukungnya akan mencatat bahwa hak publikasi yang tidak dapat diveto oleh Anthropic benar-benar baru di kalangan laboratorium perbatasan.
Apa pun yang terjadi, industri sedang mengawasi. Jika akses tertanam METR menampilkan temuan-temuan penting dan mempublikasikannya tanpa cacat, model tersebut akan menjadi pola yang jelas bagi setiap laboratorium yang menandatangani perjanjian Gedung Putih – dan menjadi tolok ukur bagi pembuat kebijakan yang mempertimbangkan apakah pengawasan sukarela dapat menggantikan audit yang diwajibkan. Untuk liputan berkelanjutan mengenai kebijakan keselamatan AI dan berita industri AI yang membentuk kebijakan tersebut, AI Buzz Wire mengikuti setiap perkembangan yang terjadi.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
