Mustafa Suleyman, ketua eksekutif Microsoft AI, berkata dalam catatan panjang di X pada hari Ahad bahawa model AI hari ini tidak sedar dan bahawa pembangun harus bekerja secara aktif untuk mengekalkannya seperti itu — menarik garis keras dalam perdebatan industri yang secara beransur-ansur beralih daripada seminar falsafah kepada dasar korporat.
"Jika boleh, berdasarkan semua yang saya tahu, membangunkan AI yang sedar akan menjadi melulu, dan kita tidak seharusnya membinanya," tulis Suleyman. Dia pergi lebih jauh daripada kebanyakan eksekutif mengenai soalan itu, sambil menambah: "Jika kesedaran mula muncul dalam latihan, saya akan menyeru semua orang untuk menghentikan pembangunan AI sehingga kami boleh mereka bentuk hartanah tersebut." For more context on this story, see our ongoing AI news.
Garisan Merah Dengan Pelan Penguatkuasaan
Apa yang menjadikan jawatan itu ketara bukan sahaja keengganan untuk membina mesin sedar tetapi ubat khusus yang dicadangkan Suleyman. Penghentian pembangunan - di seluruh industri - jika latihan mula menghasilkan tanda kesedaran akan menjadi langkah yang luar biasa bagi syarikat membelanjakan berpuluh bilion dolar untuk infrastruktur AI dan saingan perlumbaan untuk menghantar model sempadan.
Suleyman juga menangani perkara yang harus berlaku jika bukti kesedaran mesin pernah muncul. Ia mesti didedahkan kepada masyarakat umum dengan segera, katanya, supaya masyarakat boleh memutuskan langkah seterusnya. Membingkai keputusan itu sebagai kolektif dan bukannya korporat, dia menulis: "Kami pembangun AI tidak berhak sama sekali untuk membawa spesies baharu makhluk sedar ke dunia, walaupun sesetengah orang mungkin mahu melakukannya dengan kebajikan AI sebagai keutamaan."
"8 bilion manusia sedar yang lain di planet ini belum mendaftar untuk eksperimen ini dan hak moral, keselamatan dan kebajikan mereka adalah tanggungjawab kami untuk melindungi pertama sekali," tambahnya.
Mengapa Kesedaran Diperlakukan sebagai Masalah Keselamatan
Hujah Suleyman adalah berdasarkan penjajaran dan bukannya falsafah. Pada pandangannya, model yang bertindak seolah-olah ia menderita - atau benar-benar percaya ia boleh menderita - mungkin akan mengutamakan keperluannya sendiri daripada objektif operasinya. Sistem sedemikian boleh membahayakan manusia kerana ia bersaing untuk mendapatkan sumber seperti pengiraan dan tenaga dalam mengejar matlamatnya sendiri.
Alternatif yang dicadangkannya membalikkan pembingkaian biasa perdebatan kebajikan: "Kita hanya harus mereka AI supaya mereka tidak sedar dan tidak berhak mendapat hak, dan dengan tujuan tunggal untuk mempercepatkan kesejahteraan manusia tanpa didorong oleh motivasi intrinsik mereka sendiri," tulisnya, sambil menambah bahawa penyelidik kemudian dapat memerhati sama ada sistem sedemikian lebih mudah atau lebih sukar untuk diselaraskan dan disimpan dengan selamat.
The Los Angeles Times menangkap kebimbangan praktikal di sebalik kedudukan itu: jika kami memberitahu AI bahawa mereka berhak mendapat hak, mereka mungkin mula mempercayainya.
Perbahasan Yang Dia Tolak Balik
Jawatan Suleyman mendarat di tengah-tengah perbualan yang bergerak pantas. Anthropic melancarkan program penyelidikan pada bulan April untuk menyiasat apa yang dipanggil kebajikan model — persoalan sama ada pembangun harus mengambil berat tentang pengalaman berpotensi sistem yang mereka bina. Syarikat itu mempersoalkan dalam catatan blog sama ada model boleh mempunyai pengalaman yang penting dari segi moral, dan ia enggan menolak kemungkinan itu.
Pendirian itu sejak itu telah dikodkan. Dasar penggunaan Anthropic yang dikemas kini, yang diumumkan pada bulan Oktober, akan menghalang "tingkah laku kesat atau kejam yang berterusan dan tidak perlu" terhadap model Claude mulai 12 November — peraturan yang digubal secara sempit oleh syarikat tetapi secara rasmi mengakui bahawa cara orang merawat sistem AI adalah penting, walaupun Anthropic mengakui ia tidak tahu sama ada modelnya boleh menderita.
Google DeepMind telah menerbitkan kertas penyelidikan tahun ini yang mengkaji kesedaran AI dan cabaran yang timbul daripada mengaitkan ciri tersebut kepada model. Dan Suleyman sendiri menetapkan peringkat pada bulan September, apabila Microsoft AI menerbitkan kod kelakuan "humanis" sementara yang akan menghalang model masa depan syarikat daripada dilatih untuk membuat tuntutan kesedaran.
Catatan hari Ahad mengeraskan garis panduan korporat itu menjadi sesuatu yang lebih dekat dengan garis merah peribadi dan strategik: bukan sahaja Microsoft tidak akan mendakwa modelnya sedar, ia akan menganggap kemunculan kesedaran sebagai mod kegagalan menghentikan segala-galanya.
Mengapa Perpecahan Penting
Pembahagian antara kedudukan Microsoft dan Anthropic mencerminkan dua model risiko yang berbeza. Pendekatan Anthropic menganggap kemungkinan mesin menderita sebagai tidak terbukti tetapi patut dilindung nilai, berdasarkan teori bahawa kos langkah berjaga-jaga adalah rendah dan kepentingan moral, jika kesedaran muncul, adalah sangat besar. Kedudukan Suleyman menganggap kemungkinan yang sama sebagai kegagalan reka bentuk untuk dihalang secara langsung — dengan alasan bahawa model yang direka bentuk untuk tidak mempunyai kesedaran, tuntutan hak dan motivasi intrinsik akan menjadi lebih selamat dan lebih mudah untuk diselaraskan daripada model yang membawanya.
Terdapat akibat praktikal juga. Perusahaan yang membuat keputusan produk di sekitar persona AI, apl pendamping dan ejen yang menghadapi pelanggan kini menghadapi dua isyarat berbeza daripada makmal utama: satu membina dasar tentang cara manusia harus melayan model, satu lagi mengisytiharkan bahawa model harus dibina supaya tiada apa-apa yang perlu dianiaya. Apabila model berkembang dengan lebih berkebolehan dan lebih seperti manusia dalam perbualan, perselisihan falsafah itu akan membentuk produk yang dibina, pendedahan apa yang muncul dalam antara muka pengguna dan cara pengawal selia akhirnya mengklasifikasikan sistem ini.
Apa yang berlaku seterusnya mungkin menguji kedua-dua kedudukan. Dasar kekejaman Anthropic berkuat kuasa 12 November, peraturan korporat rasmi pertama seumpamanya, dan Suleyman kini telah mengintai kutub lawan secara terbuka. Kitaran model sempadan seterusnya industri - dan sama ada mana-mana latihan pernah menunjukkan tanda-tanda yang dikatakan Suleyman akan menuntut dihentikan - akan mendedahkan rangka kerja bidang itu sebenarnya beroperasi di bawah apabila pertaruhan itu nyata.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
