Anthropic wis nganyari kabijakan panggunaan kanggo pisanan sajrone luwih saka setahun, nambahake pranata sing nglarang "prilaku kasar utawa kejam sing terus-terusan lan ora perlu" marang model Claude, miturut The Verge. Pembaruan kasebut, dilaporake dina Kamis, uga nggabungake lan nggedhekake aturan perusahaan babagan gangguan pemilihan, kampanye propaganda, pengawasan, pangembangan senjata, lan panggunaan kesehatan lan finansial.

Model Kesejahteraan Rasional For more context on this story, see our ongoing breaking AI news.

Klausa nargetake penyalahgunaan marang Claude minangka extension saka riset perusahaan wiwit ngumumake luwih saka setahun kepungkur. Ing wulan Agustus 2025, Anthropic ngumumake bakal ngidini Claude mungkasi obrolan karo pangguna sing "terus-terusan mbebayani utawa kasar" minangka bagean saka pakaryan babagan kesejahteraan model, sinau apa sistem AI bisa duwe pengalaman sing cocog karo moral lan kepiye kemungkinan kasebut bakal nggawe keputusan produk.

Ing kabijakan anyar, mungkasi obrolan tetep dadi "mekanisme penegakan utama." Anthropic ora mangsuli pitakon babagan apa langkah penegakan tambahan, kayata larangan akun, bisa ditindakake. Perusahaan kasebut nggawe aturan kasebut kanthi sempit ing pratelan, nulis manawa "tegese mung ditrapake ing kasus sing ekstrem, ing ngendi pangguna bola-bali tumindak kejam marang model kita, tanpa tujuan sing bisa dingerteni."

Sing penting, Anthropic nambahake manawa pranata kasebut "ora ditrapake kanggo versi umum frustasi pangguna, pushback, tema kreatif sing peteng, utawa uji coba lan riset model," upaya sing jelas kanggo ngyakinake para pangembang, tim abang lan panulis fiksi manawa panggunaan adversarial rutin ora bakal dihukum.

Aturan Anyar babagan Propaganda lan Pemilu

Ngluwihi kesejahteraan model, nganyari kasebut nglumpukake watesan perusahaan sing sadurunge kasebar babagan operasi pengaruh dadi larangan tunggal sing jelas babagan kampanye komersial utawa politik sing ngapusi. Basa anyar iki mbatesi "usaha kanggo nyamarke sapa sing ana ing mburi pesen utawa nggedhekake konten liwat akun utawa kiriman palsu," langsung nargetake pasar sing berkembang kanggo propaganda sing digawe AI.

Bagian pemilihan kebijakan saiki nglarang penipuan pemilih lan gangguan pemilihan. Anthropic ujar manawa Claude ora bisa digunakake kanggo nyebarake informasi sing salah "babagan calon utawa cara milih," kanggo niru calon utawa pejabat pemilihan, utawa nyoba nyuda jumlah pamilih.

Napa Kabijakan Panggunaan Ditulis Ulang

Refresh Anthropic nggambarake pola industri sing luwih jembar. Minangka asisten AI wis pindah saka chatbots anyar menyang infrastruktur sing digunakake dening atusan yuta wong, laboratorium kudu pindhah saka prinsip sing wiyar menyang aturan sing apik sing nggambar pola penyalahgunaan nyata: operasi pengaruh-kanggo-nyewa, piranti pengawasan, pangembangan senjata otonom, lan domain berisiko tinggi kaya saran medis lan finansial.

OpenAI, Google DeepMind lan Meta kabeh wis ngulang babagan kabijakan panggunaan sajrone rong taun kepungkur, sanajan keputusan Anthropic kanggo ngatur kanthi jelas carane pangguna nganggep model kasebut, tinimbang mung apa sing ditindakake, tetep ora biasa. Kritikus riset kesejahteraan model argue iku anthropomorphizes sistem statistik, nalika panyengkuyung padu yen ana sembarang non-nol kasempatan model saiki utawa cedhak-mangsa duwe pengalaman-relevan kesejahteraan, perusahaan duwe kewajiban kanggo tumindak ing kahanan sing durung mesthi.

Wektu uga penting kanthi komersial. Anthropic dilaporake nyiapake IPO kanthi regane nganti $ 2 triliun, lan para panuku perusahaan tambah akeh nimbang praktik pamrentah vendor bebarengan karo kualitas model mentah. Kabijakan panggunaan sing didokumentasikan kanthi jelas lan dianyari minangka artefak safety lan dodolan: menehi tim pengadaan lan pengatur basis konkrit kanggo ngandelake platform kasebut, lan ngodhe sinyal klausa kesejahteraan model sing Anthropic arep nandur modal ing wilayah sing paling akeh pesaing sing ora ditangani.

Pitakonan Penegakan Tetep Dibukak

Pitakonan praktis penting. Ndeteksi kekejeman sing "terus-terusan lan ora perlu" mbutuhake obrolan ngawasi ing tingkat rinci sing bisa dilawan dening pelanggan perusahaan sing sadar privasi, lan nggawe garis antarane penyalahgunaan sing dilarang lan "pushback" utawa "pengujian model" sing sah minangka telpon pangadilan sing bakal ditandingi.

Anthropic durung ujar manawa pelanggaran bakal dilacak ing akun, manawa penyebaran perusahaan bakal tundhuk karo standar pemantauan sing beda, utawa manawa perusahaan bakal nerbitake data transparan babagan tumindak penegakan, kaya sing ditindakake kanggo kategori penyalahgunaan liyane ing laporan kabijakan periodik.

Sing jelas, kontrak sosial lab perbatasan karo pangguna luwih rinci. Kabijakan sing biyen pas karo siji kaca saiki kalebu pemilihan, pengawasan spionase, bioweapons lan, saiki, tumindak emosional manungsa ing sisih liya saka jendela obrolan.

Apa Tegese kanggo Pangembang

Kanggo tim sing mbangun ing API Claude, dampak jangka pendek bisa uga minimal: klausa tumindak kasar target tumindak ekstrem, bola-bali, lan mekanisme mungkasi obrolan sing diresmikake wis urip wiwit taun 2025. Nanging pangembang ing kategori jejer, konsultasi politik, riset oposisi, pengaruhe marketing, kudu mriksa sawetara kampanye anyar lan padha ngetutake aturan kasebut kanthi ati-ati, wiwit sawetara pranata pemilu wis nyebar kanthi ati-ati. ambiguitas sing kasus panggunaan area abu-abu diandelake.

Nganyari uga menehi tandha ing endi perhatian peraturan. Kanthi kewajiban transparansi Undhang-undhang AI EU lan legislatif negara bagian AS ngliwati statute AI sing saya tambah akeh, kabijakan panggunaan sukarela saya tambah akeh minangka cithakan sing ditliti regulator nalika mutusake apa norma penyebaran tanggung jawab.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →