Memandangkan syarikat teknologi berlumba-lumba untuk membina kecerdasan buatan yang semakin berkuasa, sesetengah daripada mereka meminta bantuan institusi lama untuk masalah baharu: cara mengajar chatbot betul dari salah. Jawapan mereka, semakin, adalah agama.
Dalam beberapa bulan kebelakangan ini, eksekutif AI telah meminta input daripada ahli falsafah dan pemimpin agama tentang cara menjadikan model "baik dari segi moral." Jangkauan itu bermula dari perundingan rasmi hingga ke penampilan Vatican - dan, menurut laporan dari Associated Press yang diterbitkan Ahad, ia menimbulkan kebimbangan di kalangan sarjana agama bahawa syarikat itu salah faham dengan apa yang mereka gunakan. Bagi pembaca yang menjejaki perkembangan AI terbaharu, cerita itu menandakan bagaimana penjajaran moral berpusat kepada cara syarikat ini beroperasi sekarang.
"Soalan Makmal Tidak Dapat Jawab"
Anthropic, syarikat AI yang dilihat secara meluas sebagai mengambil etika paling serius, telah menjadi antara yang paling aktif. Pada pembentangan Vatican ensiklik Pope Leo XIV mengenai AI awal tahun ini, pengasas bersama Anthropic Chris Olah memberitahu penonton bahawa persoalan moral yang mengelilingi AI melebihi perkara yang boleh diselesaikan oleh syarikat sendiri.
"Ini bukan soalan yang boleh dijawab oleh makmal," kata Olah. "Ia adalah persoalan tradisi seperti yang anda bawa selama beribu tahun."
Anthropic berkata dalam catatan blog Mei bahawa ia telah bertemu dengan "ulama, paderi, ahli falsafah dan ahli etika daripada lebih 15 kumpulan agama dan silang budaya," kumpulan yang dikatakan ia berharap untuk berkembang. Syarikat itu merangka usaha itu secara meluas: "Kerja ini bukan tentang menyelaraskan model kami dengan pandangan dunia mana-mana tradisi. Kami mahu Claude mengambil daripada pelbagai sudut pandangan - agama, sekular, politik - dengan kedalaman dan ketegasan yang sama."
Ketua Pegawai Eksekutif OpenAI Sam Altman telah menyatakan visi yang berbeza dan lebih agregat. "Apa yang saya fikir ChatGPT perlu lakukan adalah mencerminkan purata wajaran itu, atau apa sahaja, pandangan moral manusia," kata Altman tahun lepas.
Di dalam Pertemuan Iman Anthropic
Meghan Sullivan, seorang ahli falsafah agama yang mengetuai inisiatif mengenai etika dan AI di Universiti Notre Dame, menghadiri salah satu mesyuarat Anthropic awal tahun ini. Berbeza dengan perbualan yang dilakukannya dengan syarikat teknologi lain, dia terkesan dengan keteguhan pertunangan itu.
"Budaya di dalam syarikat adalah serupa dengan di kampus kolej yang baik dalam erti kata bahawa anda mempunyai koleksi orang yang sangat ingin tahu dari segi intelek," kata Sullivan. "Pertemuan ini agak kutu buku - saya tidak tahu sama ada itu cara terbaik untuk menyatakannya - dengan cara yang baik."
Pertemuan itu, yang merangkumi penganut Kristian daripada pelbagai denominasi, dibahagikan kepada dua bahagian: syarikat itu mula-mula menjelaskan modelnya "dalam istilah orang awam," dan para pemimpin agama membalas dengan maklum balas dan perbincangan. Menurut Sullivan, soalan-soalan itu terdiri daripada "Adakah manusia mempunyai jiwa?" kepada "Adakah pelajar gred tiga boleh mengakses chatbot untuk pendidikan celik huruf?"
Vatican Menjadi Persinggahan Tetap
Anthropic tidak bersendirian di bangku gereja. Wakil dari Meta, Google dan Amazon juga telah bertemu dengan Vatican, manakala Microsoft telah digambarkan sebagai sangat giat dalam jangkauan agamanya.
Penglibatan mencerminkan pengiraan unik pada masa ini dalam pembangunan AI. Memandangkan eksekutif membimbangkan tentang potensi merosakkan AI dan membahaskan maksud model tingkah laku yang "baik dari segi moral", tradisi agama menawarkan beberapa milenium pemikiran terkumpul tentang watak, kewajipan dan bahaya — bahan yang tidak boleh ditiru sepenuhnya oleh korpus latihan dan syarikat tidak boleh mendapatkan sumber dengan mudah di tempat lain pada skala besar.
Pembingkaian Anthropic sendiri menjadikan cita-cita itu jelas: "Apa yang kita cari dalam perbualan ini ialah pemikiran yang teliti dan terkumpul tentang bagaimana watak yang baik sebenarnya terbentuk."
Ulama Beri Amaran: Agama Bukan Buku Peraturan
Pakar dan penganut sama-sama berhati-hati bahawa premis syarikat - bahawa agama boleh membekalkan set prinsip moral yang boleh diekstrak - gagal untuk mengira bagaimana tradisi sebenarnya berfungsi. Pandangan dunia yang berbeza sering bercanggah antara satu sama lain, dan menganggap agama sebagai pangkalan data peraturan berisiko memesongkan bahan yang dirujuk.
Webb Keane, seorang ahli antropologi di Universiti Michigan, berpendapat bahawa para sarjana telah menghabiskan beberapa dekad menolak pandangan agama sebagai satu set prinsip yang dipisahkan daripada cara penganut hidup yang "berantakan, praktikal, ad hoc".
"Terdapat cara yang sangat konvensional untuk memikirkan agama sebagai buku peraturan," kata Keane. "Ia sememangnya sangat terikat dengan agama kitab suci, dan agama kitab suci pada akhirnya benar-benar menjadi agama Abrahamik."
Andaian itu, dia memberi amaran, berisiko mengutamakan tradisi tertentu sambil memesongkan yang lain - terutamanya kepercayaan yang tidak memahami diri mereka terutamanya sebagai sistem etika.
Tomoko Masuzawa, seorang sarjana pengajian agama dan pengarang "The Invention of World Religions," pergi lebih jauh, dengan menyatakan bahawa kategori seperti "Buddhism" dan "Hinduism" sebagai tradisi yang boleh dibandingkan dengan jelas, sebahagian besarnya merupakan binaan kesarjanaan Eropah sejak abad ke-19. "Semua kategori ini bukan asli," kata Masuzawa.
Apa Sebenarnya Sedang Dibina
Kritikan ilmiah penting secara praktikal kerana apa sahaja yang dipelajari syarikat dalam perundingan ini boleh membentuk cara model menjawab soalan moral untuk berbilion pengguna. AI yang menganggap agama sebagai sumber prinsip purata wajaran akan berkelakuan berbeza daripada yang dilatih untuk mengiktiraf bahawa kuasa moral dipertikaikan, diletakkan dan dihayati.
Buat masa ini, syarikat menafikan sebarang agenda tradisi tunggal, dan pemimpin agama yang terlibat menyifatkan penglibatan itu sebagai serius dan substantif. Keputusan Sullivan terhadap Anthropic — ingin tahu secara intelektual, ketat, agak kutu buku — mencadangkan mesyuarat itu lebih daripada perhubungan awam.
Tetapi persoalan yang lebih mendalam yang dikemukakan oleh laporan AP masih terbuka: sama ada sebarang proses perundingan boleh menterjemahkan beribu-ribu tahun tradisi hidup ke dalam tingkah laku model tanpa meratakannya - dan siapa yang memutuskan bahagian mana warisan moral manusia menjadikannya sebagai pemberat.
---
Kekal Mendahului AIDapatkan berita, analisis dan penemuan terkini AI — semuanya di satu tempat.
Baca lebih banyak berita AI →
