Minangka perusahaan teknologi balapan kanggo mbangun intelijen buatan sing luwih kuat, sawetara wong njaluk bantuan saka institusi lawas babagan masalah anyar: carane ngajar chatbot kanthi bener saka salah. Wangsulane, tambah akeh, yaiku agama.
Ing sawetara wulan kepungkur, eksekutif AI njaluk masukan saka filsuf lan pimpinan iman babagan carane nggawe model "apik moral." Jangkauan kasebut diwiwiti saka konsultasi resmi menyang penampilan Vatikan - lan, miturut laporan saka Associated Press sing diterbitake dina Minggu, iki nuwuhake keprihatinan ing antarane para sarjana agama manawa perusahaan kasebut salah paham apa sing ditindakake. Kanggo para pamaca sing nglacak perkembangan AI paling anyar, crita kasebut menehi tandha kepriye keselarasan moral sing dadi pusat babagan cara perusahaan kasebut saiki.
"Pitakonan sing Ora Bisa Dijawab Lab"
Anthropic, perusahaan AI sing dianggep paling serius babagan etika, wis dadi salah sawijining sing paling aktif. Ing presentasi Vatikan babagan ensiklik Paus Leo XIV babagan AI awal taun iki, pendiri Anthropic Chris Olah ngandhani para pamirsa yen pitakonan moral babagan AI ngluwihi apa sing bisa diselesaikan perusahaan dhewe.
"Iki dudu pitakonan sing bisa dijawab laboratorium," ujare Olah. "Iku pitakonan tradhisi kaya sampeyan wis nindakake kanggo millennia."
Anthropic ujar ing postingan blog Mei yen dheweke wis ketemu karo "cendekiawan, ulama, filsuf lan etika saka luwih saka 15 kelompok agama lan lintas budaya," sawijining kolam sing dikarepake bakal nggedhekake. Perusahaan kasebut nggawe upaya kasebut kanthi wiyar: "Karya iki dudu babagan nyelarasake model kita karo pandangan jagad tradhisi. Kita pengin Claude nggambar saka macem-macem sudut pandang - agama, sekuler, politik - kanthi ambane lan kaku sing padha."
CEO OpenAI Sam Altman wis nyatakake visi sing beda lan luwih agregat. "Apa sing kudu ditindakake ChatGPT yaiku nggambarake rata-rata bobote, utawa apa wae, babagan moral manungsa," ujare Altman taun kepungkur.
Nang Rapat Iman Anthropic
Meghan Sullivan, filsuf agama sing mimpin inisiatif babagan etika lan AI ing Universitas Notre Dame, rawuh ing salah sawijining rapat Anthropic ing awal taun iki. Beda karo obrolan sing wis ditindakake karo perusahaan teknologi liyane, dheweke kaget banget karo keterlibatan kasebut.
"Budaya ing njero perusahaan padha karo kampus kampus sing apik amarga sampeyan duwe koleksi wong sing penasaran banget," ujare Sullivan. "Rapat-rapat iki cukup nerdy - aku ora ngerti yen iku cara paling apik kanggo nyelehake - kanthi cara sing apik."
Patemon, sing kalebu wong Kristen saka macem-macem denominasi, dipérang dadi rong bagéan: perusahaan pisanan nerangake modele "ing istilah awam," lan para pemimpin iman nanggapi kanthi umpan balik lan diskusi. Miturut Sullivan, pitakonan saka "Apa manungsa duwe nyawa?" kanggo "Apa siswa kelas telu bisa ngakses chatbot kanggo pendidikan literasi?"
Vatikan Dadi Perhentian Biasa
Anthropic ora mung ana ing bangku. Perwakilan saka Meta, Google lan Amazon uga wis ketemu karo Vatikan, nalika Microsoft wis diterangake minangka utamané kuat ing jangkauan agama.
Keterlibatan kasebut nggambarake pitungan sing unik kanggo wektu iki ing pangembangan AI. Minangka eksekutif muni weker babagan potensial cilaka AI lan debat apa tegese prilaku model "apik moral", tradhisi agama nawakake sawetara millennia mikir akumulasi babagan karakter, kewajiban lan gawe piala - materi sing ora ana korpus latihan sing bisa ditiru kanthi lengkap lan perusahaan ora bisa gampang sumber ing papan liya kanthi skala.
Framing Anthropic dhewe nggawe ambisi kasebut kanthi jelas: "Apa sing dikarepake ing obrolan kasebut yaiku ati-ati, akumulasi mikir babagan carane karakter sing apik bener dibentuk."
Para Ulama Ngelingake: Agama Iku Ora Buku Aturan
Para ahli lan penganut padha-padha ngati-ati manawa premis perusahaan - yen agama bisa nyedhiyakake prinsip moral sing bisa diekstrak - gagal ngetung babagan cara tradhisi sing bener. Pandangan donya sing beda-beda asring mbantah, lan nganggep agama minangka basis data aturan bisa ngrusak materi sing dikonsultasi.
Webb Keane, antropolog ing Universitas Michigan, mratelakake manawa para sarjana wis pirang-pirang dekade nglawan pandangan agama minangka seperangkat prinsip sing dipisahake saka cara "kaco, praktis, ad hoc" para penganut urip.
"Ana cara sing konvensional banget babagan agama minangka buku aturan," ujare Keane. "Iku mesthi banget disambungake karo agama kitab suci, lan agama kitab suci ing pungkasan dina pancen dadi agama Abrahamik."
Anggapan kasebut, dheweke ngelingake, risiko menehi prioritas kanggo tradhisi tartamtu nalika ngrusak wong liya - utamane agama sing ora ngerti awake dhewe minangka sistem etika.
Tomoko Masuzawa, sarjana studi agama lan penulis "The Invention of World Religions," luwih maju, kanthi nyathet yen kategori kaya "Buddha" lan "Hinduisme" minangka tradhisi sing bisa dibandhingke kanthi jelas, umume minangka konstruksi saka beasiswa Eropa wiwit abad kaping 19. "Kabeh kategori kasebut dudu asli," ujare Masuzawa.
Apa Sejatine Dibangun
Kritik ilmiah pancen penting amarga apa wae sing disinaoni perusahaan ing konsultasi kasebut bisa mbentuk cara model mangsuli pitakon moral kanggo milyaran pangguna. AI sing nganggep agama minangka sumber prinsip rata-rata bobot bakal tumindak kanthi beda saka sing dilatih kanggo ngakoni manawa panguwasa moral ditandingi, dilebokake lan ditindakake.
Saiki, perusahaan nolak agenda siji-tradisi, lan pimpinan iman sing melu nggambarake keterlibatan kasebut minangka serius lan substantif. Putusan Sullivan babagan Anthropic - penasaran kanthi intelektual, ketat, rada kutu buku - nuduhake rapat kasebut luwih akeh tinimbang hubungan umum.
Nanging pitakonan sing luwih jero ing laporan AP tetep mbukak: apa proses konsultasi bisa nerjemahake millennia tradhisi sing diuripake dadi prilaku model tanpa nyepetake - lan sapa sing mutusake bagean saka warisan moral manungsa sing dadi bobot.
---
Tetep Ahead of AIEntuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.
Waca liyane AI warta →
