Paus Leo XIV menggunakan pidato penting di kantor pusat UNESCO di Paris untuk menyampaikan salah satu peringatan paling langsung mengenai kecerdasan buatan, dengan mengatakan kepada badan internasional tersebut bahwa teknologi baru harus tetap melayani kepentingan manusia dan bukannya menjadi “instrumen dominasi dan ketidakadilan.”
Pidato tersebut disampaikan pada tanggal 25 September, saat kunjungan pertama Paus ke Prancis, di mana ia disambut oleh Presiden Emmanuel Macron di Istana Élysée sebelum berpidato di UNESCO, badan kebudayaan dan ilmiah Perserikatan Bangsa-Bangsa. Liputan langsung The Guardian mengenai kunjungan tersebut menggambarkan pidato tersebut sebagai pidato penting yang berfokus pada pengembangan AI dan masa depan Eropa, dan Bloomberg melaporkan bahwa Paus memperingatkan bahwa teknologi harus membantu manusia dan bukannya memungkinkan apa yang disebutnya dehumanisasi.
"Instrumen Dominasi dan Ketidakadilan"
Paus Fransiskus membingkai peringatannya dalam pertanyaan yang lebih luas tentang apa artinya menjadi manusia. “Kita semua terlahir telanjang dan membutuhkan; miskin sejak lahir, membutuhkan roti, dan kata-kata, serta kata-kata yang penuh perhatian dan kasih sayang,” katanya kepada para diplomat dan pejabat yang berkumpul, menurut The Guardian.
Beralih ke bidang teknologi, ia berkata: "Upaya kita dalam bidang ini harus memastikan bahwa teknologi baru tetap bermanfaat bagi umat manusia, dan bukannya menjadi instrumen dominasi dan ketidakadilan."
Paus juga menyoroti ironi nama ladang tersebut. “Selama berabad-abad, banyak tugas yang pernah dilakukan oleh manusia telah dipercayakan kepada mesin yang kemampuan dan penerapannya terus berkembang,” ujarnya. “Baru-baru ini, sistem buatan tertentu bahkan diberi nama kemampuan berpikir manusia: kecerdasan.”
Bagi pembaca yang mengikuti perkembangan AI terkini, pidato tersebut menempatkan pemimpin gereja Kristen terbesar di dunia dalam perdebatan yang sebagian besar didominasi oleh para eksekutif laboratorium, regulator, dan peneliti.
AI dan Risiko terhadap Dialog Manusia
Kekhawatiran Paus tidak hanya mencakup isu masalah buruh dan martabat, tetapi juga dampak perubahan teknologi yang pesat terhadap kehidupan masyarakat itu sendiri. The Guardian melaporkan bahwa ia memperingatkan kemajuan teknologi yang pesat, termasuk AI, berisiko "menghambat dialog daripada mendorongnya" – sebuah pesan tajam yang disampaikan oleh sebuah lembaga yang misi pendirinya adalah kerja sama internasional.
Tema tersebut terkait dengan kritik yang lebih luas terhadap momen saat ini. Menurut liputan The Guardian, Paus Leo memperingatkan bahwa badan-badan internasional menghadapi “krisis efektivitas,” dimana beberapa negara memperlakukan mereka sebagai hambatan atau “sandiwara,” dan bahwa para pemimpin yang berkuasa semakin memperlakukan hukum sebagai instrumen dan keadilan sebagai “komoditas yang harus diperjualbelikan.”
Tema yang Konsisten dari Kepausan ini
Peringatan mengenai teknologi telah menjadi ciri khas masa kepausan Paus Leo. Sebelumnya pada kunjungan yang sama ke Prancis, ia memperingatkan terhadap apa yang disebutnya “surga mesin,” The Guardian melaporkan, sebuah gambaran dunia yang dioptimalkan untuk efisiensi dengan mengorbankan hubungan antarmanusia. Pernyataan Bloomberg mengenai pidato UNESCO juga menekankan peringatannya bahwa teknologi harus bermanfaat bagi masyarakat dan bukannya memungkinkan terjadinya dehumanisasi.
Ketika dia memilih nama kepausannya pada tahun 2025, Leo XIV menjelaskan bahwa dia melakukannya untuk menghormati Leo XIII, paus abad ke-19 yang ensikliknya Rerum Novarum membahas pergolakan era industri – sebuah kerangka yang memberi isyarat sejak awal bahwa dia bermaksud menjadikan tantangan era teknologi baru sebagai tema sentral kepausannya.
Pemilihan tempat untuk pidato minggu ini memperkuat pesan tersebut. UNESCO telah menghabiskan waktu bertahun-tahun untuk mengembangkan rekomendasi internasional mengenai etika kecerdasan buatan, dan kehadiran Paus di sana – selama kunjungan tingkat negara bagian ke Perancis, salah satu negara yang paling mendorong regulasi AI – menjadi landasan bagi Vatikan untuk berargumentasi bahwa tata kelola AI pada dasarnya adalah persoalan martabat manusia.
Suara Moral dalam Debat Teknis
Pidato ini disampaikan di tengah meningkatnya perdebatan global mengenai perkembangan AI, mulai dari insiden keselamatan yang melibatkan agen otonom hingga persaingan geopolitik mengenai masa depan teknologi. Para pemimpin agama semakin terlibat dalam perdebatan tersebut: pernyataan Paus di UNESCO mengikuti intervensi Vatikan sebelumnya mengenai etika AI, dan kelompok agama telah mencari kursi di forum tata kelola AI internasional.
Apa yang ditawarkan oleh Paus Fransiskus di Paris bukanlah sebuah resep kebijakan, melainkan sebuah standar penilaian – bahwa ukuran dari teknologi apa pun adalah apakah teknologi tersebut memperluas atau mengurangi pribadi manusia. Apakah pengembangan AI, dengan kecepatan saat ini, dapat memenuhi standar tersebut adalah pertanyaan yang ia tinggalkan kepada komunitas internasional.
Kunjungan tersebut berlanjut selama akhir pekan, dengan Paus dijadwalkan untuk kunjungan lebih lanjut di Prancis sebelum kembali ke Roma. Namun pidato UNESCO ini kemungkinan akan tetap menjadi momen yang menentukan: sebuah seruan, yang disampaikan di tempat lahirnya tatanan internasional pascaperang, agar revolusi AI diatur dengan kepedulian yang sama terhadap martabat manusia yang mengilhami lembaga-lembaga yang kini berjuang untuk mengimbanginya.
Tetap Terdepan dalam AIPerdebatan mengenai etika AI semakin meningkat setiap minggunya. Dapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
