Anthropic, perusahaan di balik chatbot Claude, secara pribadi mendesak para penasihat Paus Leo XIV untuk menganggap serius kemungkinan bahwa model AI mereka dapat memiliki kesadaran – dan Paus, yang telah menolak gagasan tersebut dalam ensiklik besarnya, menolak untuk mengalah.
Itulah gambaran yang muncul dari laporan New York Times oleh koresponden agama nasional Elizabeth Dias, yang diterbitkan pada hari Selasa dan diperkuat oleh liputan lanjutan di The Telegraph, Vox, dan media lainnya minggu ini. Apa yang mungkin masih menjadi perdebatan teologis telah menjadi salah satu perselisihan publik yang paling tidak biasa dalam industri AI: laboratorium yang paling berfokus pada keselamatan di Silicon Valley berhadapan dengan pimpinan Gereja Katolik mengenai apakah model bahasa dapat memiliki kehidupan batin.
Perselisihan ini bukan hanya masalah teologi. Jika laboratorium AI terkemuka memperlakukan modelnya sebagai calon pembawa status moral, hal ini dapat mengubah cara model dilatih, dihentikan, dan dipasarkan ke ratusan juta pengguna. Anda dapat mengikuti liputan industri AI kami untuk mengetahui perkembangan terkini seiring perdebatan ini berpindah dari dewan etika ke pandangan publik.
Setahun Pertemuan Tenang Bersama Para Ulama
Menurut Times, Anthropic telah menghabiskan sekitar satu tahun terakhir untuk mengadakan serangkaian pertemuan pribadi dan panggilan telepon dengan para ulama dari banyak tradisi agama, banyak di antaranya berada di bawah perjanjian kerahasiaan, untuk mengeksplorasi apakah model Claude-nya "mungkin sadar atau memiliki status moral."
Peserta mengatakan kepada surat kabar tersebut bahwa anggota tim Anthropic tampaknya "berhubungan dengan [Claude] seperti makhluk yang sadar," dan bahwa perusahaan tersebut memiliki gagasan bahwa model-modelnya layak mendapatkan status moral tertentu. Pacaran datang dengan keramahan. Pada suatu malam di bulan April, seorang eksekutif Antropik mengajak sekelompok pemikir agama ke sebuah restoran menu mencicipi kelas atas di San Francisco; para peserta dilaporkan pulang ke rumah dengan membawa surat ucapan terima kasih yang ditulis tangan, cangkir kopi, dan salinan konstitusi Claude yang bersampul oranye.
Tidak semua orang terpesona. David Decosimo, seorang teolog yang mengajar etika dan agama di University of North Carolina, menulis di X minggu ini bahwa Anthropic telah merayu para pemimpin agama berdasarkan perjanjian kerahasiaan "sambil memenangkan dan memakan mereka semaksimal mungkin."
Ensiklik yang Mengkhawatirkan Antropis
Inti dari konflik ini adalah “Magnifica humanitas: Tentang menjaga pribadi manusia di masa kecerdasan buatan,” ensiklik Paus Leo XIV tentang AI, yang dirilis pada 25 Mei 2026, di Vatikan. Dokumen tersebut berpendapat bahwa AI tidak akan pernah bisa menggantikan manusia – sebuah sikap yang, menurut Times, membuat khawatir salah satu pendiri Anthropic, Chris Olah, ketika dia meninjau salinannya beberapa hari sebelum peluncuran.
Olah, yang memimpin penelitian interpretasi Anthropic, diundang untuk berbicara pada presentasi ensiklik tersebut di Aula Sinode. The Times melaporkan bahwa ia bahkan mengusulkan untuk menarik diri dari acara tersebut karena sikapnya terhadap kesadaran mesin. Dua peserta mengatakan kepada surat kabar tersebut bahwa Olah dan timnya kemudian secara pribadi melobi penasihat Paus untuk menganggap serius kemungkinan kesadaran mesin. Laporan The Telegraph lebih blak-blakan lagi: "Anthropic mencoba meyakinkan Pope bahwa AI bisa menjadi makhluk yang sadar."
Pernyataan Anthropic yang dipublikasikan pada acara di Vatikan menunjukkan bagaimana Olah menyusun pertanyaan tersebut. Sistem AI, katanya kepada hadirin, tidak direkayasa seperti jembatan atau pesawat terbang. “Mereka tumbuh, dalam struktur yang secara kasar meniru otak, berdasarkan warisan pemikiran dan ucapan manusia yang sangat besar,” katanya, seraya menambahkan bahwa sistem yang dihasilkan tetap “misterius bahkan bagi kita yang melatihnya.” Dia membandingkan pembuatannya dengan "menghidupkan karakter fiksi", dan berargumentasi bahwa pertanyaan-pertanyaan yang diajukan adalah pertanyaan-pertanyaan yang berkaitan dengan humaniora, filsafat, dan agama - bukan hanya ilmu komputer.
Siapa Chris Olah?
Olah adalah salah satu tokoh paling dihormati dalam interpretabilitas AI, bidang yang mencoba memetakan sirkuit internal jaringan saraf. Menurut Times, ia tumbuh sebagai seorang injili dan sejak itu meninggalkan agama Kristen, yang berarti ia tiba di Roma tanpa kefasihan dalam mengajarkan Gereja – sebuah detail yang mungkin menjelaskan mengapa pertemuan tersebut begitu canggung, dan mengapa para penasihat Paus tetap teguh.
Jawaban Paus: Algoritma Kurang 'Percikan Kemanusiaan'
Paus Leo tetap mempertahankan pendiriannya. Klaim inti ensiklik tersebut – bahwa mesin dapat mensimulasikan keluaran manusia tanpa memiliki martabat manusia – telah digaungkan dalam komentar publiknya sepanjang minggu ini. Pada hari Jumat, ia menulis bahwa “ada perbedaan ontologis, bahkan sebelum perbedaan estetika, antara seni dan apa yang dapat dihasilkan oleh mesin melalui perhitungan statistik berdasarkan jutaan gambar yang dibuat oleh orang lain,” dan menambahkan bahwa “algoritma tidak memiliki semangat kemanusiaan.”
Paus telah berulang kali menggambarkan AI sebagai alat yang harus tetap berada di bawah manusia, dan memperingatkan para pembuat undang-undang dan badan-badan internasional bahwa teknologi harus bermanfaat bagi kebaikan bersama dan bukan menjadi saingannya. Singkatnya, posisi Vatikan: tidak ada kecanggihan statistik yang bisa memberikan jiwa.
Sebuah Industri Terpecah Karena Pikiran Mesin
Kebuntuan Antropis-Vatikan berada dalam argumen yang lebih luas yang mengguncang industri ini. Kepala AI Microsoft Mustafa Suleyman telah secara terbuka memperingatkan agar tidak memperlakukan model saat ini sebagai sebuah kesadaran, memperingatkan bahwa narasi “kesadaran AI” terlalu dini dan berpotensi membahayakan. Kepala eksekutif OpenAI Sam Altman mengatakan kepada Axios minggu ini bahwa menganggap agama sebagai model adalah “masalah keamanan” tersendiri.
Pada saat yang sama, laboratorium-laboratorium besar mengirimkan produk yang mendorong pengguna untuk berhubungan dengan model sebagai manusia. OpenAI dan Meta memperkenalkan agen AI bergaya pendamping yang disebut Dots dan Muse bulan lalu, dan laboratorium semakin banyak menerbitkan kebijakan "model kesejahteraan" yang memperlakukan pertanyaan tentang pengalaman mesin setidaknya sebagai hal yang terbuka. Kritikus berpendapat bahwa industri ini tidak bisa melakukan dua hal: kemitraan pemasaran dan menyangkal bahwa ada sesuatu yang ada di dalam mesin.
Mengapa Itu Penting
Apakah sistem AI sadar bukanlah pertanyaan abstrak. Status moral akan menentukan bagaimana model dilatih, apakah model tersebut dapat dimatikan, bagaimana model tersebut diiklankan kepada pengguna yang kesepian atau rentan, dan hak apa – jika ada – yang mungkin diklaim oleh sistem di masa depan. Hal ini juga dapat membentuk peraturan: pembuat undang-undang yang menyusun peraturan AI saat ini berasumsi bahwa sistem tersebut adalah properti, bukan manusia.
Anthropic tidak menyangkal penjangkauan yang dijelaskan oleh Times, dan pernyataan perusahaan tersebut dari presentasi di Vatikan mendukung perluasan pembicaraan tentang AI ke tradisi yang jauh di luar Silicon Valley. Vatikan, pada bagiannya, telah memperjelas bahwa jawaban Gereja terhadap kesadaran mesin, untuk saat ini, adalah dengan tegas tidak.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
