Ketika perusahaan-perusahaan teknologi berlomba untuk membangun kecerdasan buatan yang semakin canggih, beberapa dari mereka meminta bantuan kepada institusi lama untuk mengatasi masalah baru: bagaimana mengajarkan chatbot tentang benar dan salah. Jawaban mereka semakin meningkat adalah agama.
Dalam beberapa bulan terakhir, para eksekutif AI telah mencari masukan dari para filsuf dan pemuka agama tentang cara membuat model yang “baik secara moral.” Penjangkauan ini dimulai dari konsultasi formal hingga kehadiran di Vatikan – dan, menurut laporan dari Associated Press yang diterbitkan hari Minggu, hal ini meningkatkan kekhawatiran di kalangan ulama bahwa perusahaan-perusahaan tersebut salah memahami apa yang mereka manfaatkan. Bagi pembaca yang menelusuri perkembangan AI terkini, cerita ini menunjukkan betapa pentingnya keselarasan moral dalam cara perusahaan-perusahaan ini beroperasi sekarang.
"Pertanyaan yang Tidak Dapat Dijawab oleh Lab"
Anthropic, perusahaan AI yang dianggap paling serius dalam menangani etika, termasuk yang paling aktif. Pada presentasi ensiklik Paus Leo XIV tentang AI di Vatikan awal tahun ini, salah satu pendiri Anthropic, Chris Olah, mengatakan kepada hadirin bahwa pertanyaan moral seputar AI melebihi apa yang dapat diselesaikan sendiri oleh perusahaan.
“Ini bukanlah pertanyaan yang bisa dijawab oleh laboratorium,” kata Olah. "Itu adalah pertanyaan-pertanyaan yang dibawa oleh tradisi-tradisi seperti Anda selama ribuan tahun."
Anthropic mengatakan dalam sebuah posting blog pada bulan Mei bahwa mereka telah bertemu dengan “para sarjana, pendeta, filsuf dan ahli etika dari lebih dari 15 kelompok agama dan lintas budaya,” sebuah kelompok yang diharapkan dapat diperluas. Perusahaan tersebut menyusun upayanya secara luas: "Pekerjaan ini bukan tentang menyelaraskan model kami dengan pandangan dunia tradisi mana pun. Kami ingin Claude mengambil dari berbagai sudut pandang - agama, sekuler, politik - dengan kedalaman dan ketelitian yang sama."
CEO OpenAI Sam Altman telah mengartikulasikan visi yang berbeda dan lebih agregat. “Menurut saya apa yang harus dilakukan ChatGPT adalah mencerminkan rata-rata tertimbang, atau apa pun, dari pandangan moral umat manusia,” kata Altman tahun lalu.
Di Dalam Pertemuan Iman Anthropic
Meghan Sullivan, seorang filsuf agama yang memimpin inisiatif etika dan AI di Universitas Notre Dame, menghadiri salah satu pertemuan Anthropic awal tahun ini. Berbeda dengan perbincangannya dengan perusahaan teknologi lain, dia terkesan dengan ketatnya interaksi tersebut.
“Budaya di dalam perusahaan serupa dengan budaya di kampus perguruan tinggi yang bagus, dalam artian terdapat kumpulan orang-orang yang sangat ingin tahu secara intelektual,” kata Sullivan. "Pertemuan ini sangat aneh - saya tidak tahu apakah itu cara terbaik untuk menjelaskannya - dalam arti yang baik."
Pertemuan tersebut, yang dihadiri oleh umat Kristiani dari berbagai denominasi, dibagi menjadi dua bagian: pertama-tama perusahaan menjelaskan modelnya "dalam istilah awam", dan para pemimpin agama menanggapinya dengan masukan dan diskusi. Menurut Sullivan, pertanyaannya berkisar dari "Apakah manusia mempunyai jiwa?" hingga "Haruskah siswa kelas tiga dapat mengakses chatbot untuk pendidikan literasi?"
Vatikan Menjadi Perhentian Reguler
Anthropic tidak sendirian di bangku gereja. Perwakilan dari Meta, Google dan Amazon juga telah bertemu dengan Vatikan, sementara Microsoft digambarkan sangat aktif dalam penjangkauan keagamaannya.
Keterlibatan ini mencerminkan perhitungan unik saat ini dalam pengembangan AI. Ketika para eksekutif menyuarakan kekhawatiran mengenai potensi destruktif AI dan memperdebatkan apa arti dari perilaku model yang “baik secara moral”, tradisi keagamaan menawarkan akumulasi pemikiran selama beberapa milenium tentang karakter, kewajiban, dan bahaya – materi yang tidak dapat ditiru sepenuhnya oleh korpus pelatihan mana pun dan yang tidak dapat dengan mudah diperoleh oleh perusahaan di tempat lain dalam skala besar.
Pembingkaian Anthropic sendiri membuat ambisinya menjadi eksplisit: "Apa yang kami kejar dalam percakapan ini adalah pemikiran yang cermat dan terakumulasi tentang bagaimana karakter yang baik sebenarnya terbentuk."
Para Ulama Memperingatkan: Agama Bukan Buku Aturan
Para ahli dan penganutnya sama-sama mengingatkan bahwa premis perusahaan – bahwa agama dapat memberikan serangkaian prinsip moral – gagal memperhitungkan bagaimana tradisi sebenarnya bekerja. Pandangan dunia yang berbeda sering kali bertentangan satu sama lain, dan memperlakukan agama sebagai basis data peraturan berisiko mendistorsi materi yang dibahas.
Webb Keane, antropolog di Universitas Michigan, berpendapat bahwa para sarjana telah menghabiskan waktu puluhan tahun untuk menentang pandangan agama sebagai seperangkat prinsip yang terpisah dari cara hidup penganutnya yang "berantakan, praktis, dan ad hoc".
“Ada cara pandang yang sangat konvensional yang memandang agama sebagai buku peraturan,” kata Keane. “Hal ini tentunya sangat terkait dengan agama kitab suci, dan agama kitab suci pada akhirnya ternyata adalah agama Ibrahim.”
Asumsi tersebut, ia memperingatkan, berisiko memprioritaskan tradisi-tradisi tertentu dan mendistorsi tradisi-tradisi lain – terutama agama-agama yang tidak memahami dirinya sebagai sistem etika.
Tomoko Masuzawa, seorang sarjana studi agama dan penulis "The Invention of World Religions," melangkah lebih jauh, mencatat bahwa kategori-kategori seperti "Buddhisme" dan "Hinduisme" sebagai tradisi yang dibatasi dengan jelas dan sebanding sebagian besar merupakan konstruksi dari kesarjanaan Eropa yang berasal dari abad ke-19. “Semua kategori ini bukan kategori asli,” kata Masuzawa.
Apa yang Sebenarnya Sedang Dibangun
Kritik ilmiah penting secara praktis karena apa pun yang dipelajari perusahaan dalam konsultasi ini dapat membentuk cara model menjawab pertanyaan moral bagi miliaran pengguna. AI yang memperlakukan agama sebagai sumber prinsip rata-rata tertimbang akan berperilaku berbeda dari AI yang dilatih untuk menyadari bahwa otoritas moral diperebutkan, ditempatkan, dan dijalani.
Untuk saat ini, perusahaan-perusahaan tersebut menolak agenda tradisi tunggal apa pun, dan para pemimpin agama yang terlibat menggambarkan keterlibatan tersebut sebagai sesuatu yang serius dan substantif. Keputusan Sullivan mengenai Anthropic – yang secara intelektual penuh rasa ingin tahu, teliti, dan sedikit kutu buku – menunjukkan bahwa pertemuan tersebut lebih dari sekedar hubungan masyarakat.
Namun pertanyaan lebih mendalam yang muncul dalam laporan AP masih terbuka: apakah proses konsultasi dapat menerjemahkan tradisi yang sudah ada selama ribuan tahun menjadi model perilaku tanpa menjadikannya datar – dan siapa yang memutuskan bagian mana dari warisan moral umat manusia yang menjadi bobotnya.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
