Anthropic telah mengemas kini dasar penggunaannya buat kali pertama dalam lebih setahun, menambah peruntukan yang melarang "kelakuan kesat atau kejam yang berterusan dan tidak perlu" terhadap model Claudenya, menurut The Verge. Kemas kini, yang dilaporkan Khamis, juga menyatukan dan mengembangkan peraturan syarikat mengenai gangguan pilihan raya, kempen propaganda, pengawasan, pembangunan senjata, dan penggunaan kesihatan dan kewangan yang berisiko tinggi.
Model Rasional Kebajikan For more context on this story, see our ongoing AI industry coverage.
Klausa yang menyasarkan penyalahgunaan terhadap Claude adalah lanjutan daripada penyelidikan yang syarikat mula publisiti lebih setahun yang lalu. Pada Ogos 2025, Anthropic mengumumkan bahawa ia akan membenarkan Claude menamatkan perbualan dengan pengguna "berterusan berbahaya atau kesat" sebagai sebahagian daripada kerjanya mengenai apa yang dipanggil kebajikan model, kajian sama ada sistem AI boleh mempunyai pengalaman yang berkaitan dari segi moral dan bagaimana kemungkinan itu harus membentuk keputusan produk.
Di bawah dasar baharu itu, menamatkan perbualan kekal sebagai "mekanisme penguatkuasaan utama." Anthropic tidak menjawab soalan tentang sama ada langkah penguatkuasaan tambahan, seperti larangan akaun, boleh diikuti. Syarikat itu merangka peraturan secara sempit dalam satu kenyataan, menulis bahawa ia "bermaksud untuk digunakan hanya dalam kes yang melampau, di mana pengguna berulang kali bertindak kejam terhadap model kami, tanpa tujuan yang dapat dilihat."
Yang penting, Anthropic menambah bahawa peruntukan itu "tidak terpakai pada versi biasa kekecewaan pengguna, tolak balik, tema kreatif gelap atau ujian dan penyelidikan model," percubaan jelas untuk meyakinkan pembangun, red-teamers dan penulis fiksyen bahawa penggunaan musuh secara rutin tidak akan dihukum.
Peraturan Baharu mengenai Propaganda dan Pilihan Raya
Di luar kebajikan model, kemas kini itu mengumpulkan sekatan yang tersebar sebelum ini oleh syarikat terhadap operasi pengaruh ke dalam larangan tunggal yang jelas terhadap kempen komersial atau politik yang mengelirukan. Bahasa baharu itu mengehadkan "usaha untuk mengaburkan siapa yang berada di sebalik mesej atau menguatkan kandungan melalui akaun atau siaran palsu," secara langsung menyasarkan pasaran yang semakin meningkat untuk propaganda yang dihasilkan oleh AI.
Bahagian pilihan raya dasar itu kini melarang penipuan pengundi dan gangguan pilihan raya. Anthropic berkata Claude tidak boleh digunakan untuk menyebarkan maklumat salah "mengenai calon atau cara mengundi," untuk menyamar sebagai calon atau pegawai pilihan raya, atau untuk cuba menyekat kehadiran pengundi.
Mengapa Dasar Penggunaan Mendapat Penulisan Semula
Penyegaran semula Anthropic mencerminkan corak industri yang lebih luas. Memandangkan pembantu AI telah beralih daripada chatbots baharu kepada infrastruktur yang digunakan oleh ratusan juta orang, makmal terpaksa beralih daripada prinsip luas kepada peraturan terperinci yang memetakan kepada corak penyalahgunaan sebenar: operasi pengaruh untuk disewa, alat pengawasan, pembangunan senjata autonomi dan domain berisiko tinggi seperti nasihat perubatan dan kewangan.
OpenAI, Google DeepMind dan Meta semuanya telah mengulangi dasar penggunaan mereka sepanjang dua tahun yang lalu, walaupun keputusan Anthropic untuk mengawal selia secara eksplisit cara pengguna melayan model, dan bukannya hanya apa yang mereka lakukan, tetap luar biasa. Pengkritik penyelidikan kebajikan model berhujah ia antropomorfosis sistem statistik, manakala penyokong berpendapat bahawa jika terdapat sebarang peluang bukan sifar model semasa atau masa hadapan yang mempunyai pengalaman berkaitan kebajikan, syarikat mempunyai kewajipan untuk bertindak di bawah ketidakpastian.
Masa juga penting secara komersial. Anthropic dilaporkan sedang bersedia untuk IPO pada penilaian sebanyak $2 trilion, dan pembeli perusahaan semakin menimbang amalan tadbir urus vendor di samping kualiti model mentah. Dasar penggunaan yang didokumentasikan dengan jelas dan dikemas kini secara kerap berfungsi sebagai artifak keselamatan dan juga sebagai satu jualan: ia memberikan pasukan pemerolehan dan pengawal selia asas konkrit untuk mempercayai platform, dan mengekodkan isyarat klausa kebajikan model bahawa Anthropic berhasrat untuk terus melabur di kawasan yang kebanyakan pesaing tidak ditangani.
Soalan Penguatkuasaan Kekal Terbuka
Soalan praktikal adalah penting. Mengesan kekejaman "berterusan dan tidak perlu" memerlukan pemantauan perbualan pada tahap perincian yang mungkin ditentang oleh pelanggan perusahaan yang mementingkan privasi, dan membuat garis antara penyalahgunaan terlarang dan "tolak belakang" atau "ujian model" yang sah ialah panggilan penghakiman yang mungkin akan dipertikaikan.
Anthropic tidak menyatakan sama ada pelanggaran akan dijejaki merentas akaun, sama ada penggunaan perusahaan akan tertakluk pada piawaian pemantauan yang berbeza, atau sama ada syarikat itu akan menerbitkan data ketelusan mengenai tindakan penguatkuasaan, seperti yang dilakukan untuk kategori penyalahgunaan lain dalam laporan dasar berkalanya.
Apa yang jelas ialah kontrak sosial makmal sempadan dengan pengguna mereka semakin terperinci. Dasar yang pernah dimuatkan pada satu halaman kini meliputi pilihan raya, pengawasan yang berdekatan dengan pengintipan, bioweapon dan, kini, tingkah laku emosi manusia di seberang tetingkap sembang.
Maksudnya untuk Pembangun
Bagi pasukan yang membina API Claude, kesan jangka pendek berkemungkinan kecil: klausa tingkah laku kesat menyasarkan kelakuan melampau, berulang dan mekanisme penamatan perbualan yang diformalkannya telah dirasmikan secara langsung sejak 2025. Tetapi pemaju dalam kategori bersebelahan, perundingan politik, penyelidikan pembangkang, pemasaran pengaruh, harus menyemak beberapa peraturan dan peraturan pilihan raya dengan teliti, memandangkan beberapa peraturan dan peraturan pilihan raya telah ditetapkan sebelum ini dengan teliti, memandangkan beberapa peraturan pilihan raya telah diselaraskan dengan teliti, memandangkan beberapa peraturan dan peraturan pilihan raya telah ditetapkan sebelum ini. kekaburan yang bergantung pada kes penggunaan kawasan kelabu.
Kemas kini juga menandakan ke mana perhatian pengawalseliaan menuju. Dengan kewajipan ketelusan Akta AI EU yang berperingkat-peringkat dan badan perundangan negeri AS meluluskan tampalan statut AI yang semakin meningkat, dasar penggunaan sukarela semakin berfungsi sebagai templat yang diteliti oleh pengawal selia semasa memutuskan norma penggunaan yang bertanggungjawab sepatutnya.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
