Mustafa Suleyman, CEO Microsoft AI, mengatakan dalam postingan panjang di X pada hari Minggu bahwa model AI saat ini tidak bersifat sadar dan pengembang harus bekerja secara aktif untuk menjaganya tetap seperti itu – menarik garis keras dalam perdebatan industri yang secara bertahap beralih dari seminar filosofi ke kebijakan perusahaan.
“Jika memungkinkan, berdasarkan semua yang saya tahu, mengembangkan AI yang sadar adalah tindakan yang sembrono, dan kita tidak boleh membuatnya,” tulis Suleyman. Ia melangkah lebih jauh dari pertanyaan kebanyakan eksekutif, dengan menambahkan: "Jika kesadaran mulai muncul dalam pelatihan, saya akan menyerukan semua orang untuk menghentikan pengembangan AI sampai kita dapat merancang properti tersebut." For more context on this story, see our ongoing breaking AI news.
Garis Merah Dengan Rencana Penegakan
Apa yang membuat postingan ini penting bukan hanya penolakan untuk membangun mesin yang sadar namun solusi spesifik yang diusulkan Suleyman. Penghentian pengembangan – di seluruh industri – jika pelatihan mulai menunjukkan tanda-tanda kesadaran akan menjadi langkah luar biasa bagi perusahaan yang menghabiskan puluhan miliar dolar untuk infrastruktur AI dan bersaing dengan pesaingnya untuk mengirimkan model terdepan.
Suleyman juga membahas apa yang harus terjadi jika bukti kesadaran mesin benar-benar muncul. Hal itu harus segera diungkapkan kepada masyarakat umum, kata dia, agar masyarakat dapat menentukan langkah selanjutnya. Dengan menggambarkan keputusan tersebut sebagai sebuah keputusan kolektif dan bukan sebuah keputusan korporasi, ia menulis: "Kami, para pengembang AI, tidak punya hak apa pun untuk membawa spesies baru makhluk sadar ke dunia, bahkan jika beberapa orang mungkin ingin melakukannya dengan kesejahteraan AI sebagai prioritas utama."
“8 miliar manusia sadar lainnya di planet ini belum ikut serta dalam eksperimen ini dan hak moral, keselamatan, dan kesejahteraan mereka adalah hal pertama dan terpenting yang wajib kita lindungi,” tambahnya.
Mengapa Kesadaran Dianggap sebagai Masalah Keamanan
Argumen Suleyman didasarkan pada keselarasan dan bukan pada filsafat. Dalam pandangannya, sebuah model yang bertindak seolah-olah mereka menderita – atau benar-benar yakin bahwa mereka akan menderita – kemungkinan besar akan memprioritaskan kebutuhannya sendiri dibandingkan tujuan operasionalnya. Sistem seperti itu dapat merugikan manusia karena sistem tersebut bersaing untuk mendapatkan sumber daya seperti komputasi dan energi dalam mencapai tujuannya sendiri.
Usulan alternatifnya membalik kerangka perdebatan kesejahteraan yang biasa terjadi: “Kita seharusnya merancang AI agar mereka tidak sadar dan tidak layak mendapatkan hak, dan dengan tujuan semata-mata untuk mempercepat kesejahteraan manusia tanpa didorong oleh motivasi intrinsik mereka sendiri,” tulisnya, seraya menambahkan bahwa para peneliti kemudian dapat mengamati apakah sistem seperti itu lebih mudah atau lebih sulit untuk diselaraskan dan tetap aman.
The Los Angeles Times menangkap kekhawatiran praktis di balik posisi tersebut: jika kita memberi tahu AI bahwa mereka berhak mendapatkan hak, mereka mungkin akan mulai mempercayainya.
Perdebatan yang Dia Tolak
Postingan Suleyman muncul di tengah perbincangan yang bergerak cepat. Anthropic meluncurkan program penelitian pada bulan April untuk menyelidiki apa yang disebut model kesejahteraan – pertanyaan apakah pengembang harus memperhatikan potensi pengalaman dari sistem yang mereka bangun. Perusahaan tersebut mempertanyakan dalam postingan blognya apakah model dapat memiliki pengalaman yang penting secara moral, dan perusahaan tersebut menolak untuk mengesampingkan kemungkinan tersebut.
Pendirian tersebut telah dikodifikasikan. Kebijakan penggunaan Anthropic yang diperbarui, yang diumumkan pada bulan Oktober, akan melarang “perilaku kasar atau kejam yang berkelanjutan dan tidak perlu” terhadap model Claude mulai tanggal 12 November – sebuah peraturan yang dirancang secara sempit oleh perusahaan tetapi secara resmi mengakui bahwa cara orang memperlakukan sistem AI itu penting, meskipun Anthropic mengakui bahwa mereka tidak tahu apakah modelnya dapat terpengaruh.
Google DeepMind telah menerbitkan makalah penelitian tahun ini yang meneliti kesadaran AI dan tantangan yang muncul ketika mengaitkan karakteristik tersebut dengan model. Dan Suleyman sendiri memulainya pada bulan September, ketika Microsoft AI menerbitkan kode etik "humanis" sementara yang akan melarang model masa depan perusahaan dilatih untuk membuat klaim kesadaran.
Postingan hari Minggu ini memperkuat pedoman perusahaan tersebut menjadi sesuatu yang lebih dekat dengan garis merah pribadi dan strategis: Microsoft tidak hanya akan mengklaim bahwa model-modelnya sadar, namun juga akan memperlakukan munculnya kesadaran sebagai mode kegagalan yang menghentikan segalanya.
Mengapa Perpecahan Itu Penting
Kesenjangan antara posisi Microsoft dan Anthropic mencerminkan dua model risiko yang berbeda. Pendekatan Anthropic memperlakukan kemungkinan penderitaan mesin sebagai hal yang belum terbukti namun layak untuk dilawan, berdasarkan teori bahwa biaya pencegahannya rendah dan taruhan moralnya, jika kesadaran benar-benar muncul, sangatlah besar. Posisi Suleyman memperlakukan kemungkinan yang sama sebagai kegagalan desain yang harus dicegah secara langsung – dengan alasan bahwa model yang dirancang tanpa kesadaran, klaim hak, dan motivasi intrinsik akan lebih aman dan mudah untuk diselaraskan dibandingkan model yang membawa hal tersebut.
Ada juga konsekuensi praktisnya. Perusahaan yang mengambil keputusan produk seputar persona AI, aplikasi pendamping, dan agen yang berhubungan dengan pelanggan kini menghadapi dua sinyal berbeda dari laboratorium besar: yang pertama membuat kebijakan tentang bagaimana manusia harus memperlakukan model, yang lain menyatakan bahwa model harus dibuat agar tidak ada yang bisa dianiaya. Ketika model menjadi lebih mampu dan lebih mirip manusia dalam percakapan, ketidaksepakatan filosofis tersebut akan menentukan produk apa yang akan dibuat, pengungkapan apa yang muncul di antarmuka pengguna, dan bagaimana regulator pada akhirnya mengklasifikasikan sistem ini.
Apa yang terjadi selanjutnya mungkin menguji kedua posisi tersebut. Kebijakan kekejaman Anthropic mulai berlaku pada 12 November, peraturan korporasi formal pertama yang sejenis, dan Suleyman kini telah mengambil sikap yang berlawanan di depan umum. Siklus model terdepan dalam industri ini – dan apakah pelatihan yang dijalankan menunjukkan tanda-tanda yang menurut Suleyman perlu dihentikan – akan mengungkap kerangka kerja mana yang sebenarnya digunakan oleh lapangan tersebut ketika pertaruhannya nyata.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
