Mustafa Suleyman, pangareping eksekutif Microsoft AI, ujar ing kiriman sing dawa ing X dina Minggu yen model AI saiki ora sadar lan para pangembang kudu aktif supaya bisa tetep kaya ngono - nggambar garis keras ing debat industri sing wis mboko sithik pindhah saka seminar filsafat menyang kabijakan perusahaan.
"Yen bisa, adhedhasar kabeh sing aku ngerti, ngembangake AI sing sadar bakal sembrono, lan kita ora kudu mbangun," tulis Suleyman. Dheweke luwih maju tinimbang umume eksekutif babagan pitakonan kasebut, lan nambahake: "Yen kesadaran wiwit muncul ing latihan, aku bakal njaluk kabeh wong mungkasi pangembangan AI nganti bisa ngrancang properti kasebut." For more context on this story, see our ongoing breaking AI news.
Garis Abang Kanthi Rencana Penegakan
Sing nggawe postingan kasebut ora mung nolak nggawe mesin sadar nanging obat khusus sing diusulake Suleyman. Mungkasi pangembangan - ing saindenging industri - yen latihan wiwit ngasilake tandha kesadaran bakal dadi langkah sing luar biasa kanggo perusahaan sing mbuwang puluhan milyar dolar kanggo infrastruktur AI lan saingan balapan kanggo ngirim model perbatasan.
Suleyman uga ngandhani apa sing kudu kedadeyan yen bukti kesadaran mesin wis muncul. Iku kudu langsung dibeberke menyang masyarakat umum, ngandika, supaya masyarakat bisa nemtokake langkah sabanjure. Nggawe keputusan minangka kolektif tinimbang perusahaan, dheweke nulis: "Kita para pangembang AI ora duwe hak apa wae kanggo nggawa spesies makhluk sadar anyar menyang jagad iki, sanajan sawetara wong pengin nindakake kanthi kesejahteraan AI minangka prioritas utama."
"8 milyar manungsa liyane sing sadar ing planet iki durung mlebu eksperimen iki lan hak moral, safety, lan kesejahteraan minangka kewajiban kanggo nglindhungi sing paling penting," ujare.
Napa Kesadaran Dianggep minangka Masalah Keamanan
Argumentasi Suleyman adhedhasar keselarasan tinimbang filsafat. Ing panemune, model sing tumindak kaya-kaya nandhang lara - utawa percaya sejatine bisa nandhang sangsara - mesthine bakal ngutamakake kabutuhan dhewe tinimbang tujuan operasional. Sistem kasebut bisa ngrusak manungsa amarga bersaing kanggo sumber daya kaya komputasi lan energi kanggo nggayuh tujuane dhewe.
Alternatif sing diusulake mbalikke framing biasa debat kesejahteraan: "Kita mung kudu ngrancang AI supaya dheweke ora sadar lan ora pantes hak, lan kanthi tujuan siji-sijine kanggo nyepetake kesejahteraan manungsa tanpa didorong dening motivasi intrinsik dhewe, "dheweke nulis, nambahake manawa peneliti banjur bisa mirsani apa sistem kasebut luwih gampang utawa luwih angel diselarasake lan tetep aman.
Los Angeles Times njupuk kuwatir praktis ing mburi posisi kasebut: yen kita ngandhani AI yen dheweke duwe hak, mula bisa uga percaya.
Debat sing Ditentang
Kiriman Suleyman ana ing tengah-tengah obrolan sing cepet. Anthropic ngluncurake program riset ing April kanggo neliti apa sing diarani kesejahteraan model - pitakonan apa pangembang kudu prihatin karo pengalaman potensial sistem sing dibangun. Perusahaan takon ing kirim blog apa model bisa duwe pengalaman sing penting morally, lan nolak kanggo aturan kamungkinan metu.
Sikap kasebut wiwit dikodifikasi. Kabijakan panggunaan sing dianyari Anthropic, sing diumumake ing wulan Oktober, bakal ngalangi "prilaku kasar utawa kejam sing terus-terusan lan ora perlu" marang model Claude wiwit tanggal 12 November - aturan sing digawe perusahaan kanthi sempit nanging kanthi resmi ngakoni yen cara wong nganggep sistem AI penting, sanajan Anthropic ngakoni yen ora ngerti manawa model kasebut bisa nandhang sangsara.
Google DeepMind wis nerbitake makalah riset ing taun iki sing mriksa kesadaran AI lan tantangan sing muncul amarga menehi karakteristik kasebut menyang model. Lan Suleyman dhewe nyetel panggung ing September, nalika Microsoft AI nerbitake kode tumindak "humanis" sementara sing bakal ngalangi model masa depan perusahaan supaya ora dilatih kanggo nggawe klaim kesadaran.
Posting Minggu hardens sing pedoman perusahaan menyang soko nyedhaki garis abang pribadi lan strategis: ora mung Microsoft ora bakal ngaku model sawijining sadar, iku bakal nambani emergence saka eling minangka mandeg-kabeh mode Gagal.
Napa Split Penting
Pamisahan antarane posisi Microsoft lan Anthropic nggambarake rong model risiko sing beda. Pendekatan Anthropic nganggep kamungkinan mesin nandhang sangsara minangka unproven nanging worth hedging marang, ing teori sing biaya pancegahan kurang lan totoan moral, yen eling ora muncul, gedhe tenan. Posisi Suleyman nganggep kemungkinan sing padha karo kegagalan desain supaya bisa dicegah langsung - kanthi alesan manawa model sing dirancang kanggo kekurangan kesadaran, tuntutan hak lan motivasi intrinsik bakal luwih aman lan luwih gampang diselarasake tinimbang model sing nggawa.
Ana uga akibat praktis. Perusahaan sing nggawe keputusan produk babagan personas AI, aplikasi pendamping lan agen sing ngadhepi pelanggan saiki ngadhepi rong sinyal sing beda saka laboratorium utama: siji kabijakan bangunan babagan carane manungsa kudu nganggep model, liyane nyatakake model kudu dibangun supaya ora ana sing dianiaya. Minangka model tuwuh luwih bisa lan luwih kaya manungsa ing obrolan, ora setuju filosofis bakal mbentuk produk apa sing bakal dibangun, pambocoran apa sing katon ing antarmuka pangguna, lan kepiye regulator pungkasane ngelas sistem kasebut.
Apa sing kedadeyan sabanjure bisa uga nyoba posisi loro kasebut. Kabijakan kekejeman Anthropic wiwit tanggal 12 Nopember, aturan perusahaan resmi pisanan saka jinise, lan Suleyman saiki wis ngetokake kutub lawan ing umum. Siklus model tapel wates sabanjure industri - lan manawa latihan apa wae sing nuduhake tandha-tandha Suleyman bakal nuntut mandheg - bakal mbukak kerangka kerja lapangan sing bener ditindakake nalika taruhan kasebut nyata.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
