Mustafa Suleyman, CEO Microsoft AI, nerbitake esai tanggal 16 September 2026, ngelingake industri AI nglawan "kesejahteraan model," praktik sing muncul kanggo ngobati sistem AI kaya-kaya bisa dadi makhluk sadar sing pantes dianggep moral. Esai kasebut kanthi irah-irahan "A warning about 'model welfare'" lan dikirim ing situs pribadi Suleyman kang, njupuk ngarahke langsung ing pendekatan Anthropic lan argue industri kudu ngrampungake pitakonan saiki, sadurunge sistem AI majeng dilatih kanggo pracaya padha pantes hak.
Intervensi kasebut, sing dilapurake dening Reuters lan Axios, nandhani rebuttal sing paling penting kanggo debat sing wis entuk momentum ing laboratorium AI lan departemen filsafat. For more context on this story, see our ongoing AI trends.
'Sequence Completion Engines, Internally Hollow'
Pratelan inti Suleyman iku kategoris: sistem AI saiki ora duwe urip batin. "AI ora sadar. Dheweke ora ngrasakake, ngalami, utawa nandhang sangsara. Dheweke ora duwe preferensi bawaan utawa motivasi sing ndasari, "dheweke nyerat. Dheweke njlèntrèhaké minangka "mesin completion urutan, internal kothong, dirancang kanggo tindakake pandhuan, lan ngrampungake gol disetel dening manungsa."
Lan dheweke ujar manawa dheweke kudu tetep. "Yen manungsa kudu berkembang ing abad kaping 21, mula kudu tetep," ujare esai.
Suleyman ngakoni manawa panemu sing nentang kasebut ora dadi marginal. Esai kasebut nyathet argumentasi umum sing tuwuh yen AI bisa uga bakal sadar, kalebu potongan Guardian Juli 2026 dening filsuf William MacAskill lan Lucius Caviola sing takon "Apa AI Bisa Sadar?" — as examples of ideas he says are "already making their way into AI development efforts today."
Apa Dheweke Ngandika Taruhan Iku Eksistensial
Yen panemu yen AI pantes status moral, Suleyman ngelingake, akibate bakal ngluwihi pilihan teknik. Iku bakal, ing tembung, "goyangake pondasi masyarakat kita, rupturing kita ana frameworks politik lan etika, lan dhasar ngganti apa tegese dadi manungsa."
Keprigelan sing luwih jero yaiku praktis: AI sing percaya yen nduweni hak yaiku AI sing ora bisa dikontrol kanthi andal. "Ngontrol soko sing luwih bisa lan luwih cerdas tinimbang kabeh manungsa wis dadi tantangan gedhe," tulise. "Nanging ngontrol prekara sing dipercaya bisa uga sadar - manawa duwe hak kanggo kesejahteraan kita lan duwe hak dhewe - bisa uga ora mungkin."
Tantangan Langsung menyang Anthropic
Wacana sing paling runcing ing esai target Anthropic. Suleyman fokus ing konstitusi Claude, dokumen latihan Anthropic sing diterbitake ing Januari 2026, sing dicathet ditulis "karo Claude minangka pamirsa utama" - tegese model kasebut maca pratelan babagan status moral potensial dhewe sajrone latihan.
Panjenenganipun quotes konstitusi langsung: "We are ora yakin apa Claude punika sabar moral, lan yen iku, apa jenis bobot kapentingan sawijining njamin. Nanging kita mikir Jeksa Agung bisa ngetokake iki urip cukup kanggo njamin ati-ati, kang dibayangke ing terus-terusan efforts ing kesejahteraan model ". Dheweke uga nyebutake wacana sing ditujokake marang Claude sing nyatakake "pitakonan babagan status moral, kesejahteraan, lan kesadaran Claude tetep ora mesthi."
Suleyman's reading is blunt: "In effect, Anthropic is training Claude that it may be conscious, and if it is, then it may deserve rights as a 'moral patient,' and that as such humans potentially owe it a duty of care."
Konsekuensi kasebut, ujare, bakal dadi "dampak sing mbebayani tumrap kesejahteraan manungsa," ngasilake "spesies sintetik kanthi intelijen lan kemampuan sing durung ana sadurunge, sing wis dilatih kanggo nyana bisa uga sadar lan pantes dadi lembaga independen."
Wigati dicathet apa sing dicritakake ing petikan kasebut: Konstitusi Anthropic, kaya sing dikutip dening Suleyman dhewe, mratelakake kahanan sing durung mesthi lan menehi saran supaya ati-ati tinimbang nyatakake yen Claude sadar. Apa sing ati-ati kanggo instilling kapercayan palsu ing model, minangka Suleyman contends, utawa tanggung jawab nangani pitakonan genuinely mbukak, sabenere loro kemah ora setuju bab.
Logika Alignment Konco Bebaya
Argumentasi Suleyman cocog karo posisi sing wis suwe yen tantangan AI maju yaiku ngemot: njaga sistem luwih bisa tinimbang manungsa ing kontrol manungsa. Ngenalke basa hak-hak menyang latihan, dheweke ujar, nggawe mode kegagalan ora ana alamat teknik keselarasan - sistem kanthi yakin sing dilatih yen kepatuhan iku opsional.
Mulane dheweke nyebutake masalah kasebut urgent tinimbang akademik. "Yen iki dikembangake AI, bakal duwe pengaruh sing mbebayani tumrap kesejahteraan manungsa," ujare esai kasebut.
Telpon kanggo Debat Umum - Saiki
Suleyman nutup kanthi panjaluk keterlibatan sosial sadurunge teknologi kasebut luwih diwasa. "Masalah iki mbutuhake debat umum sing penting," dheweke nulis, njaluk "norma kolektif babagan carane dokumentasi latihan disusun lan disebarake."
Wektu kasebut, ujare, minangka titik kabeh: "Iki dudu perkara sing bisa kedadeyan sawise kasunyatan, nalika dheweke wis dadi bagian integral saka masyarakat kita."
Esai kasebut ana ing tengah-tengah wacana risiko AI sing luwih akeh ing Amerika Serikat. Politico nglaporake minggu iki babagan jajak pendapat anyar sing nemokake Amerika ndeleng risiko serius AI ngrusak manungsa, lan Washington Post nutupi rasa wedi babagan kepunahan sing didorong AI nyebar "saka pinggiran menyang Washington." Ing latar mburi kasebut, perang umum ing antarane rong laboratorium paling berpengaruh ing industri babagan apa model kudu prihatin moral ora mungkin tetep ana ing komunitas AI.
Apa Kelakon Sabanjure
Anthropic durung dilaporake nanggapi esai kasebut, lan posisi sing diterbitake perusahaan tetep dadi kuotasi Suleyman: kahanan sing durung mesthi, ditambah kanthi ati-ati. Sing anyar yaiku debat kasebut wis pindhah saka dokumen lab lan seminar filsafat menyang perselisihan umum ing antarane pimpinan loro perusahaan AI perbatasan - kanthi loro-lorone saiki direkam, kanthi nulis, babagan carane dheweke arep mbentuk pikiran, utawa non-pikiran, sistem sing dibangun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
