Anthropic telah memperbarui kebijakan penggunaannya untuk pertama kalinya dalam lebih dari setahun, menambahkan ketentuan yang melarang “perilaku kasar atau kejam yang berkelanjutan dan tidak perlu” terhadap model Claude-nya, menurut The Verge. Pembaruan tersebut, yang dilaporkan pada hari Kamis, juga mengkonsolidasikan dan memperluas aturan perusahaan seputar campur tangan pemilu, kampanye propaganda, pengawasan, pengembangan senjata, serta penggunaan kesehatan dan keuangan yang berisiko tinggi.
Model Dasar Pemikiran Kesejahteraan For more context on this story, see our ongoing breaking AI news.
Klausul yang menargetkan pelecehan terhadap Claude merupakan perpanjangan dari penelitian yang mulai dipublikasikan oleh perusahaan lebih dari setahun yang lalu. Pada bulan Agustus 2025, Anthropic mengumumkan bahwa mereka akan mengizinkan Claude untuk mengakhiri percakapan dengan pengguna yang "terus menerus melakukan tindakan yang merugikan atau melakukan kekerasan" sebagai bagian dari upaya mereka untuk melakukan apa yang disebut sebagai model kesejahteraan, studi tentang apakah sistem AI dapat memiliki pengalaman yang relevan secara moral dan bagaimana kemungkinan tersebut harus membentuk keputusan produk.
Berdasarkan kebijakan baru ini, penghentian percakapan tetap menjadi “mekanisme penegakan hukum yang utama.” Anthropic tidak menanggapi pertanyaan tentang apakah tindakan penegakan hukum tambahan, seperti larangan akun, dapat dilakukan. Perusahaan tersebut merumuskan aturan tersebut secara sempit dalam sebuah pernyataan, dengan menulis bahwa aturan tersebut "hanya berlaku dalam kasus ekstrem, di mana pengguna berulang kali bertindak kejam terhadap model kami, tanpa tujuan yang jelas."
Yang terpenting, Anthropic menambahkan bahwa ketentuan tersebut "tidak berlaku untuk versi umum dari rasa frustrasi pengguna, penolakan, tema kreatif yang gelap, atau pengujian dan penelitian model," sebuah upaya nyata untuk meyakinkan pengembang, tim merah, dan penulis fiksi bahwa penggunaan permusuhan rutin tidak akan dikenakan sanksi.
Aturan Baru tentang Propaganda dan Pemilu
Selain model kesejahteraan, pembaruan ini juga mengumpulkan pembatasan-pembatasan perusahaan yang sebelumnya tersebar pada operasi pengaruh menjadi satu larangan eksplisit terhadap kampanye komersial atau politik yang menipu. Bahasa baru ini membatasi “upaya untuk mengaburkan siapa yang berada di balik pesan atau memperkuat konten melalui akun atau postingan palsu,” yang secara langsung menargetkan pasar yang berkembang untuk propaganda yang dihasilkan oleh AI.
Bagian pemilu dalam kebijakan ini sekarang melarang penipuan pemilih dan gangguan pemilu. Anthropic mengatakan Claude tidak boleh digunakan untuk menyebarkan informasi yang salah "tentang kandidat atau cara memilih", untuk menyamar sebagai kandidat atau pejabat pemilu, atau untuk mencoba menekan jumlah pemilih.
Mengapa Kebijakan Penggunaan Ditulis Ulang
Penyegaran Anthropic mencerminkan pola industri yang lebih luas. Ketika asisten AI telah beralih dari chatbot baru ke infrastruktur yang digunakan oleh ratusan juta orang, laboratorium harus beralih dari prinsip-prinsip luas ke aturan-aturan terperinci yang memetakan pola-pola penyalahgunaan nyata: operasi yang dapat disewa, peralatan pengawasan, pengembangan senjata otonom, dan domain berisiko tinggi seperti nasihat medis dan keuangan.
OpenAI, Google DeepMind, dan Meta telah mengulangi kebijakan penggunaan mereka selama dua tahun terakhir, meskipun keputusan Anthropic untuk secara eksplisit mengatur cara pengguna memperlakukan model, bukan hanya apa yang mereka lakukan, masih merupakan hal yang tidak biasa. Kritik terhadap penelitian model kesejahteraan berpendapat bahwa model tersebut mengantropomorfisasi sistem statistik, sementara para pendukungnya berpendapat bahwa jika ada kemungkinan besar model saat ini atau dalam waktu dekat memiliki pengalaman yang relevan dengan kesejahteraan, maka perusahaan mempunyai kewajiban untuk bertindak dalam ketidakpastian.
Waktunya juga penting secara komersial. Anthropic dilaporkan sedang mempersiapkan IPO dengan valuasi sebesar $2 triliun, dan pembeli perusahaan semakin mempertimbangkan praktik tata kelola vendor di samping kualitas model mentah. Kebijakan penggunaan yang didokumentasikan dengan jelas dan diperbarui secara berkala berfungsi sebagai artefak keselamatan dan penjualan: kebijakan ini memberikan dasar nyata bagi tim pengadaan dan regulator untuk memercayai platform, dan mengkodifikasi model klausul kesejahteraan menandakan bahwa Anthropic bermaksud untuk terus berinvestasi di bidang yang belum ditangani oleh sebagian besar pesaing.
Pertanyaan Penegakan Tetap Terbuka
Pertanyaan-pertanyaan praktis sangatlah penting. Untuk mendeteksi kekejaman yang “berkelanjutan dan tidak perlu” memerlukan pemantauan percakapan pada tingkat detail yang mungkin ditolak oleh pelanggan perusahaan yang sadar akan privasi, dan menarik garis antara penyalahgunaan yang dilarang dan “penolakan” atau “pengujian model” yang sah adalah keputusan yang mungkin akan ditentang.
Anthropic belum mengatakan apakah pelanggaran akan dilacak di seluruh akun, apakah penerapan di perusahaan akan tunduk pada standar pemantauan yang berbeda, atau apakah perusahaan akan mempublikasikan data transparansi mengenai tindakan penegakan hukum, seperti yang dilakukan untuk kategori penyalahgunaan lainnya dalam laporan kebijakan berkalanya.
Yang jelas kontrak sosial frontier labs dengan penggunanya semakin detail. Sebuah kebijakan yang tadinya hanya muat dalam satu halaman kini mencakup pemilu, pengawasan terkait spionase, senjata biologis, dan, sekarang, perilaku emosional manusia di sisi lain jendela obrolan.
Apa Artinya Bagi Pengembang
Bagi tim yang menggunakan API Claude, dampak jangka pendeknya mungkin minimal: klausul perilaku kasar menargetkan perilaku ekstrem dan berulang, dan mekanisme penghentian percakapan yang diresmikan telah berlaku sejak tahun 2025. Namun pengembang dalam kategori yang berdekatan, konsultasi politik, penelitian oposisi, pemasaran pengaruh, harus meninjau ketentuan kampanye dan pemilu yang baru dengan hati-hati, karena hal tersebut mengkonsolidasikan peraturan yang sebelumnya tersebar di beberapa dokumen dan menutup beberapa ambiguitas yang diandalkan oleh kasus penggunaan wilayah abu-abu.
Pembaruan ini juga menandakan arah perhatian regulasi. Dengan diberlakukannya kewajiban transparansi UU AI di UE dan badan legislatif negara bagian AS mengesahkan undang-undang AI yang bersifat tambal sulam, kebijakan penggunaan sukarela semakin berfungsi sebagai acuan yang diawasi oleh regulator ketika memutuskan norma penerapan yang bertanggung jawab.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
