पोप लिओ XIV यांनी शास्त्रज्ञ आणि एआय तज्ञांच्या व्हॅटिकन बैठकीत सांगितले की कृत्रिम बुद्धिमत्ता प्रणाली "साधने आहेत, व्यक्ती नाहीत," एआय एजंटना कायदेशीर अधिकार देण्याविरूद्ध चेतावणी दिली आणि पुढील महिन्यात जिनेव्हा येथे एकत्रित होणाऱ्या सरकारांना प्राणघातक स्वायत्त शस्त्रांवर बंदी घालण्याचे आवाहन केले.
पॉन्टिफिकल अकादमी फॉर लाइफ आणि फ्यूचर ऑफ लाइफ इन्स्टिट्यूट यांनी संयुक्तपणे आयोजित केलेल्या बैठकीत "एआयचे भविष्य: व्हॅटिकन आणि वैज्ञानिक जगामधील विकास आणि बुद्धिमान तंत्रज्ञानाच्या अनुप्रयोगांवरील संवाद" च्या सहभागींना हा पत्ता देण्यात आला. पोप म्हणाले की विविध देशांतील सहभागी "कृत्रिम बुद्धिमत्तेच्या विकासाबाबत अस्वस्थतेची भावना सामायिक करतात. आम्ही कोणती दिशा घेतली पाहिजे हे आम्ही ओळखतो, तरीही पुढे जाण्यासाठी पुरेसे केले जात नाही."
यंत्रे ही साधने आहेत, व्यक्ती नाहीत
पत्त्याची स्पष्ट ओळ टेक उद्योग आणि कायदेशीर अकादमीच्या काही भागांमध्ये आकर्षण मिळवणारी कल्पना लक्ष्यित करते: प्रगत AI प्रणालींपर्यंत कायदेशीर व्यक्तिमत्व — किंवा अधिकार — विस्तारित करणे. पोप लिओ यांनी उलट युक्तिवाद केला. तो म्हणाला, यंत्रांना अनुभव, शरीर, भावना किंवा नाते नसते आणि प्रेम, काम किंवा जबाबदारी समजत नाही.
काहींनी या प्रणालींना अधिकार किंवा कायदेशीर व्यक्तिमत्व देण्याचे सुचवले आहे, त्यांनी कबूल केले - परंतु असे केल्याने "मानवी जबाबदारी अस्पष्ट होण्याचा आणि ज्यांना हानी सहन करावी लागते त्यांना चेहरा नसलेल्या अस्तित्वाचा सामना करण्यासाठी सोडणे" जोखीम आहे. टिप्पणी त्याच सीझनमध्ये येते ज्यामध्ये एआय एजंट स्वायत्तपणे व्यवसाय चालवतात, करारावर वाटाघाटी करतात आणि वापरकर्त्यांच्या वतीने कार्य करतात, स्वायत्त प्रणालींना हानी पोहोचवते तेव्हा दायित्वाबद्दल वास्तविक कायदेशीर वादविवाद करण्यास प्रवृत्त करतात. AI Buzz Wire या आणि इतर AI धोरणातील घडामोडींचा मागोवा घेत आहे. पोपचे फ्रेमिंग सिस्टमच्या मागे असलेल्या मानवांवर प्रश्न पुन्हा ठेवते: जर एआय एजंटने नुकसान केले, तर चेहऱ्याच्या व्यक्तीने त्याचे उत्तर दिले पाहिजे.
"नि:शस्त्रीकरण" AI: स्वायत्त शस्त्रांवर बंदी
पोपचा तिसरा विचार - की काही निर्णय कधीही मशीन्सवर सोपवले जाऊ नयेत - अगदी स्पष्ट उदाहरणांसह स्पष्ट केले गेले: एखाद्या व्यक्तीला लक्ष्य सूचीवर किंवा सीमा नियंत्रण डेटाबेसमध्ये ठेवणे त्यांना "डेटा पॉईंट" पर्यंत कमी करते. त्यांनी त्यांचे पूर्ववर्ती पोप फ्रान्सिस यांच्या 2024 च्या भाषणात G7 नेत्यांना बोलावले, जिथे फ्रान्सिसने AI चे वर्णन "एक रोमांचक आणि भयावह साधन" म्हणून केले आणि आग्रह धरला की कोणतीही मशीन कधीही मानवी जीवन घेण्यास सक्षम नसावी.
"मानवी जीवन, स्वातंत्र्य आणि बळाचा वापर प्रभावित करणारे निर्णय नेहमीच प्रभावी, माहितीपूर्ण आणि जबाबदार मानवी निरीक्षणाच्या अधीन असले पाहिजेत," पोप लिओ म्हणाले. म्हणूनच AI ला "निःशस्त्र" केले पाहिजे, असा युक्तिवाद त्यांनी केला - आणि त्यांनी नोव्हेंबरमध्ये जिनेव्हा येथे झालेल्या राज्यांना घातक स्वायत्त शस्त्रांवर बंदी घालण्यासाठी पावले उचलण्यासाठी स्पष्टपणे प्रोत्साहित केले. स्वायत्त शस्त्रास्त्रांवर बंधनकारक नियम मान्य करण्यासाठी मुत्सद्दींनी अनेक वर्षांपासून संघर्ष केला आहे; थेट पोपचे आवाहन, वाटाघाटी प्रक्रियेला नैतिक वजन वाढवते जी मुख्यतः नागरी-समाज मोहिमेद्वारे आणि संबंधित राज्यांच्या गटाद्वारे चालविली जाते.
Magnifica Humanita कडून पाच विचार
पोपने त्याच्या एनसायक्लीकल मॅग्निफिका ह्युमॅनिटासमध्ये मांडलेल्या पाच बाबींच्या आसपास हे संबोधन आयोजित केले आहे:
1. AI चे भविष्य पूर्व-निर्धारित नाही. मानवाने AI विकसित केल्यामुळे, त्याचे भविष्य मानवतेच्या निवडीवर अवलंबून आहे. "आमच्याकडे मार्गदर्शन करण्याची, बदलण्याची आणि आवश्यक असेल तेव्हा त्याचे अर्ज नाकारण्याची जबाबदारी आहे," पोप म्हणाले. योग्य प्रश्न "AI काय करू शकतो?" पण "त्याचा उद्देश काय असावा?"
2. मशीन ही साधने आहेत, माणसे नाहीत. वरील व्यक्तित्व चेतावणी.
3. विशिष्ट निर्णय कधीच सोपवले जाऊ शकत नाहीत. मानवी जीवन, स्वातंत्र्य आणि बळाचा वापर प्रभावित करणाऱ्या निर्णयांसाठी प्रभावी, माहितीपूर्ण, जबाबदार मानवी निरीक्षण आवश्यक आहे.
4. बुद्धिमान तंत्रज्ञानाने सर्वसामान्यांच्या हिताची सेवा केली पाहिजे. त्यांनी "कधीही स्वत:चे टोक बनू नये किंवा केवळ काही विशेषाधिकारप्राप्त लोकांच्या हिताची सेवा करू नये," आणि प्रगतीचे फायदे समानतेने पसरवले पाहिजेत.
5. संस्थांना नैतिकता कार्यान्वित करण्यासाठी आवश्यक आहे. संभाव्यत: सर्वात तातडीचे आव्हान म्हणून वर्णन केले आहे: जगाला "सामायिक मानके, स्वतंत्र निरीक्षण आणि उत्तरदायित्वाची स्पष्ट यंत्रणा आवश्यक आहे, जेणेकरून AI च्या विकास आणि वापरासंबंधीचे निर्णय तपासले जाऊ शकतात, आवश्यक तेव्हा आव्हान दिले जाऊ शकते आणि कोणत्याही हानीसाठी योग्य उपायांसह."
हे व्हॅटिकनच्या पलीकडे का महत्त्वाचे आहे
व्हॅटिकन शांतपणे एआय गव्हर्नन्सवरील अधिक सुसंगत संस्थात्मक आवाजांपैकी एक बनला आहे. मायक्रोसॉफ्ट, IBM, FAO आणि इटालियन सरकार सोबत पोन्टिफिकल अकादमी फॉर लाइफने फेब्रुवारी 2020 मध्ये स्वाक्षरी केलेली एआय एथिक्ससाठी रोम कॉल, या इकोसिस्टममधून विकसित झाली आहे आणि पॉन्टिफिकल ॲकॅडमी फॉर लाइफने बायोएथिक्स आणि मशीन निर्णय घेण्यावर तंत्रज्ञांना वारंवार बोलावले आहे. फ्युचर ऑफ लाइफ इन्स्टिट्यूट - फ्रंटियर-मॉडेल जोखमीवर ओपन लेटर्समागील AI सुरक्षा संस्था - सह-आयोजित करणे धार्मिक आणि धर्मनिरपेक्ष AI नैतिकता समुदायांना जोडण्यासाठी सतत प्रयत्न करण्याचे संकेत देते.
धोरणकर्त्यांसाठी, जिनिव्हा अपील हे ठोस मार्ग आहे: स्वायत्त शस्त्रांवरील वाटाघाटी पुन्हा सुरू झाल्यामुळे, व्हॅटिकनला बंधनकारक बंदी हवी आहे, ऐच्छिक मार्गदर्शक तत्त्वे नव्हे. आणि AI उद्योगासाठी, व्यक्तिमत्वावरील संदेश वाळूमध्ये एक स्पष्ट रेषा आहे — जरी स्वायत्त एजंट बनले तरी, नैतिक आणि कायदेशीर जबाबदारी त्या लोकांवर राहते जे त्यांना तयार करतात आणि तैनात करतात.
