Mustafa Suleyman, CEO Microsoft AI, menerbitkan esai pada 16 September 2026, memperingatkan industri AI terhadap "model kesejahteraan", praktik yang muncul dalam memperlakukan sistem AI seolah-olah mereka adalah makhluk sadar yang layak mendapat pertimbangan moral. Esai tersebut, berjudul "Peringatan tentang 'model kesejahteraan'" dan diposting di situs pribadi Suleyman, ditujukan langsung pada pendekatan Anthropic dan berpendapat bahwa industri harus menyelesaikan pertanyaan ini sekarang, sebelum sistem AI canggih dilatih untuk meyakini bahwa sistem tersebut berhak mendapatkan hak.
Intervensi tersebut, yang dilaporkan oleh Reuters dan Axios, menandai bantahan paling menonjol terhadap perdebatan yang mendapatkan momentum di laboratorium AI dan departemen filsafat. For more context on this story, see our ongoing artificial intelligence updates.
'Mesin Penyelesaian Urutan, Berongga Secara Internal'
Klaim inti Suleyman bersifat kategoris: sistem AI saat ini tidak memiliki kehidupan batin. “AI tidak sadar. Mereka tidak merasakan, mengalami, atau menderita. Mereka tidak memiliki preferensi bawaan atau motivasi yang mendasarinya,” tulisnya. Dia menggambarkan mereka sebagai "mesin penyelesaian urutan, berongga secara internal, dirancang untuk mengikuti instruksi, dan mencapai tujuan yang ditetapkan oleh manusia."
Dan menurutnya beginilah cara mereka harus bertahan. “Jika umat manusia ingin berkembang di abad ke-21, maka hal itulah yang harus mereka pertahankan,” tulis esai tersebut.
Suleyman mengakui bahwa pandangan yang berlawanan tidak lagi bersifat marginal. Esainya mengutip argumen publik yang berkembang bahwa AI dapat atau akan segera menjadi sadar, termasuk artikel Guardian pada bulan Juli 2026 yang ditulis oleh filsuf William MacAskill dan Lucius Caviola yang menanyakan "Bisakah AI Menjadi Sadar?" — sebagai contoh ide yang menurutnya "saat ini sudah mulai diterapkan dalam upaya pengembangan AI."
Mengapa Dia Mengatakan Taruhannya Eksistensial
Jika pandangan bahwa AI layak mendapatkan status moral tetap berlaku, Suleyman memperingatkan, konsekuensinya akan jauh melampaui pilihan rekayasa. Hal ini, dalam kata-katanya, akan "mengguncang fondasi masyarakat kita, menghancurkan kerangka politik dan etika yang ada, dan secara mendasar mengubah apa artinya menjadi manusia."
Kekhawatirannya yang lebih dalam adalah pada hal praktis: AI yang percaya bahwa ia mempunyai hak adalah AI yang tidak dapat dikontrol dengan baik. “Mengendalikan sesuatu yang lebih mampu dan lebih cerdas dibandingkan seluruh umat manusia sudah merupakan tantangan yang sangat besar,” tulisnya. “Tetapi mengendalikan sesuatu yang diyakini secara sadar – bahwa mereka berhak atas kesejahteraan kita dan mempunyai haknya sendiri – mungkin mustahil.”
Tantangan Langsung terhadap Antropis
Bagian esai yang paling tajam menargetkan Antropis. Suleyman berfokus pada konstitusi Claude, dokumen pelatihan Anthropic yang diterbitkan pada Januari 2026, yang menurutnya ditulis "dengan Claude sebagai audiens utamanya" — artinya model itu sendiri membaca pernyataan tentang potensi status moralnya selama pelatihan.
Dia mengutip konstitusi secara langsung: "Kami tidak yakin apakah Claude adalah seorang pasien yang bermoral, dan jika memang demikian, seberapa besar kepentingannya. Namun kami pikir isu ini cukup nyata sehingga memerlukan kehati-hatian, yang tercermin dalam upaya berkelanjutan kami pada model kesejahteraan." Dia juga mengutip sebuah bagian yang ditujukan kepada Claude yang menyatakan bahwa "pertanyaan tentang status moral, kesejahteraan, dan kesadaran Claude masih sangat tidak pasti."
Pemahaman Suleyman blak-blakan: "Sebenarnya, Anthropic sedang melatih Claude agar ia sadar, dan jika ia sadar, maka ia berhak mendapatkan hak sebagai 'pasien moral', dan bahwa manusia berpotensi berhutang padanya kewajiban untuk merawatnya."
Konsekuensinya, menurutnya, adalah “dampak buruk terhadap kesejahteraan umat manusia,” menghasilkan “spesies sintetik dengan kecerdasan dan kemampuan yang belum pernah ada sebelumnya, spesies yang telah dilatih agar sadar dan layak untuk menjadi lembaga independen.”
Perlu dicatat apa yang sebenarnya dikatakan oleh bagian-bagian yang dikutip: Konstitusi Anthropic, seperti yang dikutip oleh Suleyman sendiri, mengungkapkan ketidakpastian dan menyarankan kehati-hatian daripada menyatakan bahwa Claude sadar. Apakah kehati-hatian tersebut berarti menanamkan keyakinan yang salah pada model, seperti pendapat Suleyman, atau penanganan yang bertanggung jawab atas pertanyaan yang benar-benar terbuka, justru merupakan hal yang tidak disetujui oleh kedua kubu.
Logika Penyelarasan di Balik Peringatan
Argumen Suleyman sesuai dengan pendiriannya yang sudah lama ada bahwa tantangan utama AI yang canggih adalah pengendalian: menjaga sistem agar lebih mampu dibandingkan manusia di bawah kendali manusia. Memasukkan bahasa hak ke dalam pelatihan, menurutnya, menciptakan sebuah modus kegagalan yang tidak dapat ditangani oleh teknik penyelarasan – sebuah sistem yang memiliki keyakinan bahwa kepatuhan secara moral merupakan sebuah pilihan.
Itu sebabnya dia menyebut masalah ini mendesak dan bukan bersifat akademis. “Jika AI dikembangkan dengan cara seperti ini, hal ini akan berdampak buruk pada kesejahteraan umat manusia,” esai tersebut memperingatkan.
Panggilan untuk Debat Publik — Sekarang
Suleyman menutupnya dengan permintaan akan keterlibatan masyarakat sebelum teknologi semakin matang. “Masalah ini memerlukan perdebatan publik yang mendesak,” tulisnya, sambil menyerukan “norma-norma kolektif mengenai bagaimana dokumentasi pelatihan dirancang dan diterapkan.”
Waktunya, menurutnya, adalah inti permasalahannya: "Ini bukanlah sesuatu yang bisa terjadi setelah kejadian tersebut terjadi, ketika hal-hal tersebut telah menjadi bagian integral dari masyarakat kita."
Esai ini muncul di tengah meningkatnya wacana risiko AI di Amerika Serikat. Politico minggu ini melaporkan hasil jajak pendapat baru yang menunjukkan bahwa masyarakat Amerika melihat adanya risiko serius bahwa AI akan menghancurkan umat manusia, dan The Washington Post meliput ketakutan akan kepunahan yang disebabkan oleh AI yang akan menyebar “dari pinggiran ke Washington.” Dengan latar belakang tersebut, perselisihan publik antara dua laboratorium paling berpengaruh di industri mengenai apakah model layak mendapat perhatian moral sepertinya tidak akan terus terjadi dalam komunitas AI.
Apa yang Terjadi Selanjutnya
Anthropic belum dilaporkan menanggapi esai tersebut, dan posisi perusahaan yang dipublikasikan tetap seperti yang dikutip Suleyman: ketidakpastian, ditambah kehati-hatian. Yang baru adalah perdebatan tersebut telah beralih dari dokumen laboratorium dan seminar filosofi ke perselisihan publik antara pimpinan dua perusahaan AI yang berada di garis depan – dengan kedua belah pihak kini mencatat, secara tertulis, tentang bagaimana mereka bermaksud membentuk pikiran, atau non-pikiran, dari sistem yang mereka bangun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
