Pope Leo XIV memberitahu mesyuarat ahli sains dan pakar AI di Vatican bahawa sistem kecerdasan buatan adalah "alat, bukan orang," memberi amaran terhadap pemberian hak undang-undang kepada ejen AI dan menggesa kerajaan yang berhimpun di Geneva bulan depan untuk mengharamkan senjata autonomi yang boleh membawa maut.
Ucapan itu disampaikan kepada peserta "Masa Depan AI: Dialog Antara Vatican dan Dunia Saintifik mengenai Perkembangan dan Aplikasi Teknologi Pintar," satu mesyuarat yang dianjurkan bersama oleh Akademi Kepausan untuk Kehidupan dan Institut Masa Depan Kehidupan. Pope berkata peserta dari negara berbeza berkongsi "rasa kurang senang tertentu mengenai pembangunan kecerdasan buatan. Kami menyedari hala tuju yang perlu kami ambil, namun tidak cukup untuk bergerak ke hadapan."
Mesin adalah alat, bukan manusia
Garis alamat paling jelas menyasarkan idea yang mendapat daya tarikan dalam bahagian industri teknologi dan akademi undang-undang: memperluaskan keperibadian undang-undang — atau hak — kepada sistem AI lanjutan. Pope Leo berhujah sebaliknya. Mesin, katanya, tidak mempunyai pengalaman, badan, perasaan atau hubungan, dan tidak memahami cinta, kerja atau tanggungjawab.
Ada yang mencadangkan untuk memberikan hak sistem ini atau keperibadian undang-undang, dia mengakui - tetapi berbuat demikian berisiko "mengaburi tanggungjawab manusia dan meninggalkan mereka yang mengalami bahaya untuk berhadapan dengan entiti yang tidak berwajah." Komen itu tiba pada musim yang sama yang menyaksikan ejen AI menjalankan perniagaan secara autonomi, merundingkan kontrak dan bertindak bagi pihak pengguna, mendorong perdebatan undang-undang yang tulen tentang liabiliti apabila sistem autonomi menyebabkan kemudaratan. AI Buzz Wire sedang menjejaki ini dan perkembangan dasar AI yang lain semasa ia berlaku. Pembingkaian Pope meletakkan soalan kembali kepada manusia di sebalik sistem: jika ejen AI menyebabkan kerosakan, seseorang yang berwajah mesti menjawabnya.
"Melucuti senjata" AI: larangan senjata autonomi
Pertimbangan ketiga Pope — bahawa keputusan tertentu tidak boleh diwakilkan kepada mesin — digambarkan dengan contoh nyata: meletakkan seseorang pada senarai sasaran atau dalam pangkalan data kawalan sempadan mengurangkan mereka kepada "titik data." Dia memohon ucapan Paus Francis pada tahun 2024 kepada pemimpin G7, di mana Francis menyifatkan AI sebagai "alat yang menarik dan menakutkan" dan menegaskan tidak ada mesin yang boleh memilih untuk mengambil nyawa manusia.
"Keputusan yang mempengaruhi kehidupan manusia, kebebasan dan penggunaan kekerasan mesti sentiasa tertakluk kepada pengawasan manusia yang berkesan, bermaklumat dan bertanggungjawab," kata Pope Leo. Itulah sebabnya AI mesti "dilucutkan senjata," dia berhujah - dan dia secara eksplisit menggalakkan mesyuarat negeri di Geneva pada bulan November untuk mengambil langkah untuk mengharamkan senjata autonomi yang boleh membawa maut. Diplomat telah bergelut selama bertahun-tahun untuk bersetuju dengan peraturan yang mengikat mengenai senjata autonomi; rayuan paus secara langsung menambah berat moral kepada proses rundingan yang kebanyakannya didorong oleh kempen masyarakat sivil dan blok negara yang prihatin.
Lima pertimbangan daripada Magnifica Humanitas
Ucapan itu mengatur sendiri sekitar lima pertimbangan yang dinyatakan oleh Paus dalam ensiklik Magnifica Humanitasnya:
1. Masa depan AI tidak ditentukan terlebih dahulu. Memandangkan manusia membangunkan AI, masa depannya bergantung pada pilihan manusia. "Kami mempunyai tanggungjawab untuk membimbing, mengubah, dan, apabila perlu, menolak permohonannya," kata Pope. Soalan yang betul bukanlah "Apa yang boleh AI lakukan?" tetapi "Apakah tujuannya?"
2. Mesin adalah alat, bukan manusia. Amaran keperibadian di atas.
3. Keputusan tertentu tidak boleh diwakilkan. Keputusan yang mempengaruhi kehidupan manusia, kebebasan dan penggunaan kekerasan memerlukan pengawasan manusia yang berkesan, termaklum dan bertanggungjawab.
4. Teknologi pintar mesti berkhidmat untuk kebaikan bersama. Ia "tidak boleh menjadi tujuan mereka sendiri atau hanya melayani kepentingan segelintir orang yang mempunyai keistimewaan," dan harus menyebarkan faedah kemajuan secara saksama.
5. Institusi diperlukan untuk menjadikan etika beroperasi. Disifatkan sebagai cabaran paling mendesak yang berpotensi: dunia memerlukan "standard bersama, pengawasan bebas dan mekanisme akauntabiliti yang jelas, supaya keputusan berkaitan pembangunan dan penggunaan AI boleh diperiksa, dicabar apabila perlu, dan disertai dengan remedi yang sesuai untuk sebarang bahaya yang disebabkan."
Mengapa ia penting di luar Vatican
Vatican secara senyap-senyap telah menjadi salah satu suara institusi yang lebih konsisten mengenai tadbir urus AI. Rome Call for AI Ethics, yang ditandatangani pada Februari 2020 oleh Pontifical Academy for Life bersama Microsoft, IBM, FAO dan kerajaan Itali, berkembang daripada ekosistem ini, dan Pontifical Academy for Life telah berulang kali memanggil ahli teknologi mengenai bioetika dan mesin membuat keputusan. Penganjuran bersama dengan Future of Life Institute — organisasi keselamatan AI di sebalik surat terbuka mengenai risiko model sempadan — menandakan usaha berterusan untuk merapatkan komuniti etika AI agama dan sekular.
Bagi penggubal dasar, rayuan Geneva adalah tindakan konkrit: apabila rundingan mengenai senjata autonomi disambung semula, Vatican mahukan larangan yang mengikat, bukan garis panduan sukarela. Dan untuk industri AI, mesej mengenai keperibadian adalah garis yang jelas di dalam pasir — walau bagaimanapun ejen autonomi menjadi, tanggungjawab moral dan undang-undang kekal dengan orang yang membina dan menggunakan mereka.
