Paus Leo Mengatakan Kekhawatiran Malapetaka AI Bukanlah 'Berita Palsu' — dan Menyebut Jensen Huang dari Nvidia

Paus Leo XIV pada hari Senin mengatakan bahwa kekhawatiran mengenai kecerdasan buatan bukanlah “berita palsu” dan harus ditanggapi dengan serius, sebuah teguran keras terhadap para eksekutif teknologi yang berpendapat bahwa teknologi harus berkembang tanpa batasan dari pemerintah. Berbicara pada konferensi pers di dalam pesawat kepausan kembali ke Roma setelah kunjungan empat hari ke Prancis, Paus juga membidik – tanpa menyebutkan namanya terlebih dahulu – pada sikap CEO Nvidia Jensen Huang yang menentang regulasi AI, menurut laporan AFP, AP dan Reuters yang dimuat oleh Al Jazeera.

Pernyataan tersebut muncul pada saat yang sangat panas bagi kebijakan AI. Pada hari Selasa, Presiden Donald Trump akan menjadi tuan rumah bagi para pemimpin teknologi termasuk Mark Zuckerberg dari Meta dan Dario Amodei dari Anthropic di Gedung Putih, seperti yang dilaporkan Reuters, dengan industri yang menolak peraturan bahkan ketika para ilmuwan terkemuka memperingatkan tentang risiko bencana. Bagi pembaca yang menelusuri konflik antara pemerintah dan industri AI, AI Buzz Wire mengikuti perkembangan AI terkini dari Washington hingga Brussels hingga Vatikan.

'Kekhawatiran Harus Ditanggapi Serius'

Paus ditanya pada konferensi pers dalam penerbangan tentang apa yang harus dilakukan Amerika Serikat dan Tiongkok – dua negara adidaya AI di dunia – untuk mencegah AI menimbulkan risiko bencana bagi umat manusia. Trump sebelumnya menyebut kekhawatiran mengenai AI yang nakal adalah sebuah "tipuan".

“Saya pikir kekhawatiran yang dikemukakan oleh banyak ahli, spesialis AI, harus ditanggapi dengan serius,” kata Paus, seraya menegaskan bahwa masalah keselamatan yang diangkat oleh para ahli AI harus didiskusikan dan ditindaklanjuti. Ia mendesak dunia “untuk mendorong dialog, studi, investigasi, dan menemukan cara untuk memastikan bahwa AI tidak sampai pada titik yang dapat menghancurkan umat manusia.”

Pertukaran Dengan Jensen Huang

Momen paling menarik terjadi ketika Leo merujuk pada pengumuman yang baru saja dia baca pagi itu: bahwa kepala pembuat chip Nvidia telah menjelaskan cara memasukkan pagar pembatas ke dalam model AI tertentu. Paus menyatakan skeptisisme terbuka terhadap utusan tersebut.

“Namun, dia juga orang yang sama, yang mengatakan bahwa tidak boleh ada batasan dan tidak ada peraturan pemerintah,” kata Leo – yang merupakan pukulan langsung terhadap Huang, yang berdasarkan laporan kelompok tersebut mengatakan kepada CBS News awal bulan ini bahwa dia setuju dengan Trump bahwa kekhawatiran tentang keamanan AI terlalu dibesar-besarkan.

Pengumuman yang dirujuk oleh Paus tampaknya adalah Platform Keamanan Agen Terbuka Nvidia yang baru diluncurkan, sebuah upaya perangkat keras dan perangkat lunak yang dirancang untuk mengawasi agen AI otonom dan mencegah mereka menjadi jahat. Ironi ini tidak luput dari perhatian para pengamat: perusahaan industri yang paling bernilai kini menjual teknologi keselamatan sekaligus melakukan lobi terhadap peraturan pemerintah yang menurut para pendukung keselamatan diperlukan untuk menegakkannya.

Kepausan Dibangun berdasarkan Peringatan AI

Komentar pada hari Senin ini memperluas apa yang telah menjadi tema penting dari 16 bulan masa kepausan Leo. Paus Amerika pertama yang mengidentifikasi AI sebagai salah satu tantangan terbesar yang dihadapi umat manusia dalam beberapa hari setelah pemilihannya, dan mendedikasikan ensiklik pertamanya untuk AI dan perlindungan umat manusia – mengambil langkah yang tidak biasa dengan secara pribadi meluncurkan dokumen tersebut bersama salah satu pendiri Anthropic, Christopher Olah di sebuah acara di Vatikan pada bulan Mei.

Di bawah pemerintahan Leo, Vatikan terus meningkatkan retorika dan inisiatifnya yang mendukung tata kelola AI internasional, dengan fokus khusus pada bidang-bidang seperti teknologi nuklir, budaya, dan kreasi seni. Peluncuran ensiklik pada bulan Mei ini merupakan bagian dari upaya yang disengaja oleh Vatikan untuk melibatkan Silicon Valley secara langsung mengenai kerugian yang ditimbulkan oleh AI pada manusia – sebuah penjangkauan yang kini meluas hingga menantang para eksekutif di depan umum. Paus mengatakan upaya untuk mengumpulkan para pengambil keputusan harus dilanjutkan: “Kita perlu terus mengundang para pemimpin politik, pemimpin AI, organisasi sosial, asosiasi untuk berkumpul dan melihat apa yang sudah terjadi dan apa yang mungkin terjadi.”

“Saya pikir ada cukup banyak orang yang sangat tertarik dengan hal itu… tapi kami harus terus berupaya,” tambahnya.

Mengapa Paus Dikucilkan Silicon Valley

Intervensi Leo penting karena menargetkan kontradiksi utama dalam postur industri saat ini. Dalam beberapa minggu terakhir, OpenAI membatalkan rilis model frontier karena kegagalan penyelarasan, Nvidia dan laboratorium lain telah meluncurkan produk keamanan agen, dan ilmuwan terkemuka termasuk Geoffrey Hinton dan Yoshua Bengio telah memperingatkan akan adanya "ledakan intelijen" yang tidak terkendali – pada hari yang sama dengan pernyataan Paus Fransiskus. Namun suara-suara terkemuka di industri ini terus berpendapat bahwa peraturan pemerintah akan menghambat inovasi.

Pesan Paus Fransiskus adalah bahwa kedua hal tersebut tidak bisa menjadi kenyataan sekaligus: jika risikonya cukup nyata untuk membenarkan penjualan perangkat lunak keselamatan, maka risiko tersebut juga cukup nyata untuk membenarkan peraturan. Dengan Gedung Putih menggelar karpet merah bagi para eksekutif AI minggu ini, Leo memposisikan Vatikan sebagai salah satu dari sedikit lembaga global yang bersedia menyatakan hal tersebut secara gamblang.

Tetap Terdepan dalam AI

Ikuti pertarungan global mengenai masa depan AI. Baca berita AI selengkapnya di AI Buzz Wire.

Perkembangan AI terkini →