Mustafa Suleyman, Ketua Pegawai Eksekutif Microsoft AI, menerbitkan sebuah esei pada 16 September 2026, memberi amaran kepada industri AI terhadap "kebajikan model", amalan baru yang memperlakukan sistem AI seolah-olah mereka mungkin makhluk sedar yang layak dipertimbangkan moral. Esei itu, bertajuk "Amaran tentang 'kebajikan model'" dan disiarkan di laman peribadi Suleyman, menyasarkan pendekatan Anthropic dan berpendapat industri mesti menyelesaikan persoalan itu sekarang, sebelum sistem AI canggih dilatih untuk mempercayai mereka mungkin berhak mendapat hak.
Campur tangan itu, yang dilaporkan oleh Reuters dan Axios, menandakan penyangkalan yang paling menonjol terhadap perdebatan yang telah mendapat momentum dalam makmal AI dan jabatan falsafah. For more context on this story, see our ongoing breaking AI news.
'Enjin Penyiapan Urutan, Berongga Dalaman'
Tuntutan teras Suleyman adalah kategorikal: sistem AI hari ini tidak mempunyai kehidupan dalaman. "AI tidak sedar. Mereka tidak merasa, mengalami, atau menderita. Mereka tidak mempunyai keutamaan semula jadi atau motivasi asas," tulisnya. Dia menggambarkannya sebagai "enjin penyiapan urutan, berongga dalaman, direka untuk mengikut arahan, dan mencapai matlamat yang ditetapkan oleh manusia."
Dan dia berhujah ini adalah bagaimana mereka mesti kekal. "Jika manusia ingin berkembang pada abad ke-21, begitulah mereka mesti kekal," kata esei itu.
Suleyman mengakui bahawa pandangan yang bertentangan tidak lagi marginal. Eseinya memetik hujah umum yang semakin meningkat bahawa AI boleh menjadi atau mungkin akan sedar, termasuk karya Guardian Julai 2026 oleh ahli falsafah William MacAskill dan Lucius Caviola yang bertanya "Bolehkah AI Menjadi Sedar?" — sebagai contoh idea yang katanya "sudah masuk ke dalam usaha pembangunan AI hari ini."
Mengapa Dia Mengatakan Pertaruhan itu Wujud
Jika pandangan bahawa AI layak mendapat status moral diterima, Suleyman memberi amaran, akibatnya akan menjangkau jauh melangkaui pilihan kejuruteraan. Ia akan, dalam kata-katanya, "menggoncang asas masyarakat kita, memecahkan rangka kerja politik dan etika kita yang sedia ada, dan secara asasnya mengubah makna menjadi manusia."
Kebimbangannya yang lebih mendalam adalah praktikal: AI yang percaya ia mempunyai hak ialah AI yang tidak boleh dikawal dengan pasti. "Mengawal sesuatu yang lebih berkebolehan dan lebih bijak daripada semua manusia sudah menjadi satu cabaran yang besar," tulisnya. "Tetapi mengawal sesuatu yang percaya ia mungkin sedar - bahawa ia berhak untuk kebajikan kita dan mempunyai haknya sendiri - mungkin mustahil."
Cabaran Langsung kepada Anthropic
Petikan paling tajam esei menyasarkan Anthropic. Suleyman memfokuskan pada perlembagaan Claude, dokumen latihan Anthropic yang diterbitkan pada Januari 2026, yang dia nyatakan ditulis "dengan Claude sebagai penonton utamanya" — bermakna model itu sendiri membaca kenyataan tentang potensi status moralnya sendiri semasa latihan.
Dia memetik perlembagaan secara langsung: "Kami tidak pasti sama ada Claude seorang pesakit yang bermoral, dan jika ia, apakah jenis kepentingan kepentingannya. Tetapi kami fikir isu itu cukup hidup untuk menjamin berhati-hati, yang dicerminkan dalam usaha berterusan kami terhadap kebajikan model." Dia juga memetik petikan yang ditujukan kepada Claude yang menyatakan bahawa "soalan tentang status moral, kebajikan, dan kesedaran Claude masih sangat tidak pasti."
Bacaan Suleyman adalah tumpul: "Sebenarnya, Anthropic melatih Claude supaya ia mungkin sedar, dan jika ya, maka ia mungkin layak mendapat hak sebagai 'pesakit moral,' dan oleh itu manusia berpotensi berhutang dengannya sebagai kewajipan penjagaan."
Akibatnya, dia berpendapat, akan menjadi "kesan buruk terhadap kesejahteraan manusia," menghasilkan "spesies sintetik dengan kecerdasan dan keupayaan yang tidak pernah berlaku sebelum ini, yang telah dilatih untuk menjangkakan ia mungkin sedar dan layak mendapat agensi bebas."
Perlu diperhatikan apa yang sebenarnya dikatakan oleh petikan yang dipetik: Perlembagaan Anthropic, seperti yang dipetik oleh Suleyman sendiri, menyatakan ketidakpastian dan menasihati berhati-hati daripada menegaskan bahawa Claude sedar. Sama ada kewaspadaan itu sama dengan menanam kepercayaan palsu dalam model, seperti yang diperkatakan oleh Suleyman, atau pengendalian yang bertanggungjawab terhadap soalan yang benar-benar terbuka, itulah perkara yang tidak dipersetujui oleh kedua-dua kem itu.
Logik Penjajaran di Sebalik Amaran
Hujah Suleyman sesuai dengan kedudukannya yang lebih lama bahawa cabaran penentu AI lanjutan adalah pembendungan: memastikan sistem lebih berkemampuan daripada manusia di bawah kawalan manusia. Memperkenalkan bahasa hak ke dalam latihan, dia berpendapat, mewujudkan mod kegagalan tanpa alamat teknik penjajaran - sistem dengan keyakinan terlatih bahawa pematuhan adalah pilihan moral.
Sebab itu beliau menggelarkan isu itu mendesak dan bukannya akademik. "Jika begini cara AI dibangunkan, ia akan memberi kesan buruk kepada kesejahteraan manusia," esei itu memberi amaran.
Panggilan untuk Debat Awam — Sekarang
Suleyman menutup dengan permintaan untuk penglibatan masyarakat sebelum teknologi semakin matang. "Isu ini memerlukan perdebatan awam yang mendesak," tulisnya, menyeru "norma kolektif mengenai cara dokumentasi latihan dirangka dan digunakan."
Masa, dia berpendapat, adalah intipati: "Ini bukan sesuatu yang boleh berlaku selepas fakta, apabila mereka telah menjadi sebahagian daripada masyarakat kita."
Esei itu tiba di tengah-tengah lonjakan wacana risiko AI yang lebih luas di Amerika Syarikat. Politico melaporkan minggu ini mengenai tinjauan pendapat baharu yang mendapati rakyat Amerika melihat risiko serius AI memusnahkan manusia, dan The Washington Post merangkumi kebimbangan kepupusan yang didorong oleh AI merebak "dari pinggiran ke Washington." Berlatarbelakangkan latar belakang itu, pergaduhan awam antara dua makmal paling berpengaruh dalam industri mengenai sama ada model layak mendapat perhatian moral tidak mungkin kekal dalam komuniti AI.
Apa Yang Berlaku Seterusnya
Anthropic belum dilaporkan sebagai memberi respons kepada esei, dan kedudukan terbitan syarikat itu kekal yang dipetik oleh Suleyman: ketidakpastian, ditambah dengan berhati-hati. Apa yang baharu ialah perbahasan telah beralih daripada dokumen makmal dan seminar falsafah kepada perselisihan pendapat awam antara ketua dua syarikat AI sempadan — dengan kedua-dua pihak kini dalam rekod, secara bertulis, tentang cara mereka berhasrat untuk membentuk minda, atau bukan minda, sistem yang mereka bina.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
