Paus Leo XIV ngandhani rapat para ilmuwan lan ahli AI ing Vatikan manawa sistem intelijen buatan minangka "alat, dudu wong," ngelingake supaya ora menehi hak legal kanggo agen AI lan njaluk supaya pamrentah kumpul ing Jenewa wulan ngarep kanggo nglarang senjata otonom sing bisa nyebabake.
Alamat kasebut dikirim menyang peserta "Masa Depan AI: Dialog Antarane Vatikan lan Donya Ilmiah babagan Perkembangan lan Aplikasi Teknologi Cerdas," rapat sing diatur bebarengan dening Akademi Kepausan kanggo Urip lan Masa Depan Institut Urip. Paus ujar manawa para peserta saka macem-macem negara nuduhake "rasa ora kepenak babagan pangembangan intelijen buatan. Kita ngerti arah sing kudu ditindakake, nanging durung cukup kanggo maju."
Mesin iku piranti, dudu wong
Baris alamat sing paling jelas ditargetake ide sing entuk daya tarik ing bagean industri teknologi lan akademi hukum: ngluwihi personel legal - utawa hak - menyang sistem AI sing luwih maju. Paus Leo mbantah sebaliknya. Mesin, ngandika, ora duwe pengalaman, awak, raos utawa sesambetan, lan ora ngerti katresnan, karya utawa tanggung jawab.
Sawetara wis menehi saran supaya menehi hak sistem kasebut utawa keprigelan sing sah, dheweke ngakoni - nanging nindakake risiko kasebut "nyebabake tanggung jawab manungsa lan ninggalake wong-wong sing nandhang cilaka kanggo ngadhepi entitas tanpa pasuryan." Komentar kasebut tiba ing musim sing padha sing ndeleng agen AI kanthi otonom mbukak bisnis, negosiasi kontrak lan tumindak atas jenenge pangguna, nyebabake debat hukum sing asli babagan tanggung jawab nalika sistem otonom nyebabake cilaka. AI Buzz Wire nglacak [iki lan pangembangan kabijakan AI liyane] (https://aibuzzwire.news) nalika kedadeyan kasebut. Framing Paus nempatake pitakon maneh babagan manungsa ing mburi sistem kasebut: yen agen AI nyebabake karusakan, wong sing duwe rai kudu mangsuli.
"Disarming" AI: larangan senjata otonom
Wawasan kaping telune Paus - yen keputusan tartamtu ora kudu didelegasikan menyang mesin - digambarake kanthi conto sing apik: nyelehake wong ing dhaptar target utawa ing basis data kontrol wates nyuda dadi "titik data." Dheweke njaluk pidato Paus Francis ing taun 2024 marang pimpinan G7, ing ngendi Francis nggambarake AI minangka "alat sing nyenengake lan medeni" lan negesake manawa ora ana mesin sing bisa milih kanggo mateni manungsa.
"Kaputusan sing mengaruhi urip manungsa, kamardikan lan panggunaan kekuwatan kudu tansah tundhuk marang pengawasan manungsa sing efektif, informed, lan tanggung jawab," ujare Paus Leo. Pramila AI kudu "dilucuti senjata," ujare - lan dheweke kanthi tegas nyengkuyung rapat-rapat negara ing Jenewa ing wulan Nopember kanggo njupuk langkah-langkah kanggo nglarang senjata otonomi sing bisa nyebabake. Diplomat wis berjuang kanggo taun kanggo setuju aturan naleni ing senjata otonom; mréntahaké papal langsung nambah bobot moral kanggo proses rembugan sing wis mimpin biasane dening kampanye sipil-masyarakat lan blok saka negara ngangap.
Lima pertimbangan saka Magnifica Humanitas
Alamat kasebut ngatur dhewe babagan limang pertimbangan Paus ing ensiklik Magnifica Humanitas:
1. Masa depan AI ora ditemtokake sadurunge. Wiwit manungsa ngembangake AI, masa depane gumantung saka pilihane manungsa. "Kita duwe tanggung jawab kanggo nuntun, ngganti, lan, yen perlu, nolak aplikasi kasebut," ujare Paus. Pitakonan sing bener ora "Apa sing bisa ditindakake AI?" nanging "Apa waé sing kudu ditindakake?"
2. Mesin iku piranti, dudu manungsa. Piweling kapribaden ing dhuwur.
3. Putusan tartamtu ora bisa didelegasikan. Kaputusan sing mengaruhi urip, kamardikan lan panggunaan kekuwatan manungsa mbutuhake pengawasan manungsa sing efektif, ngerti, lan tanggung jawab.
4. Teknologi sing cerdas kudu ngladeni kabecikan umum. Iki "ora bakal dadi tujuane dhewe utawa mung kanggo kepentingan wong sing duwe hak istimewa," lan kudu nyebar keuntungan saka kemajuan kanthi adil.
5. Institusi dibutuhake kanggo nggawe etika operasional. Digambarake minangka tantangan sing paling penting: jagad iki mbutuhake "standar bareng, pengawasan independen, lan mekanisme tanggung jawab sing jelas, supaya keputusan babagan pangembangan lan panggunaan AI bisa ditliti, ditantang yen perlu, lan diiringi obat sing cocog kanggo karusakan apa wae sing disebabake."
Apa iku prakara ngluwihi Vatikan
Vatikan kanthi tenang dadi salah sawijining swara institusi sing luwih konsisten babagan pamrentah AI. Telpon Roma kanggo Etika AI, ditandatangani ing Februari 2020 dening Akademi Kepausan kanggo Urip bebarengan karo Microsoft, IBM, FAO lan pamrentah Italia, tuwuh saka ekosistem iki, lan Akademi Kepausan kanggo Urip wis bola-bali nganakake ahli teknologi babagan bioetika lan nggawe keputusan mesin. Ngorganisir bareng karo Future of Life Institute - organisasi safety AI ing mburi surat terbuka babagan risiko model perbatasan - menehi tandha upaya terus-terusan kanggo nyambungake komunitas etika AI agama lan sekuler.
Kanggo pembuat kabijakan, banding Geneva minangka pilihan konkrit: nalika negosiasi babagan senjata otonomi diterusake, Vatikan pengin larangan sing naleni, dudu pedoman sukarela. Lan kanggo industri AI, pesen babagan kepribadian minangka garis sing jelas ing pasir - nanging dadi agen otonom, tanggung jawab moral lan hukum tetep karo wong sing mbangun lan nyebarake.
