पोप लियो XIV ने वैज्ञानिकों और एआई विशेषज्ञों की वेटिकन बैठक में कहा कि कृत्रिम बुद्धिमत्ता प्रणाली "उपकरण हैं, व्यक्ति नहीं", एआई एजेंटों को कानूनी अधिकार देने के खिलाफ चेतावनी दी और अगले महीने जिनेवा में एकत्रित होने वाली सरकारों से घातक स्वायत्त हथियारों पर प्रतिबंध लगाने का आग्रह किया।
यह संबोधन पोंटिफिकल एकेडमी फॉर लाइफ एंड द फ्यूचर ऑफ लाइफ इंस्टीट्यूट द्वारा संयुक्त रूप से आयोजित एक बैठक "द फ्यूचर ऑफ एआई: ए डायलॉग बिटवीन द वेटिकन एंड द साइंटिफिक वर्ल्ड ऑन द डेवलपमेंट्स एंड एप्लीकेशंस ऑफ इंटेलिजेंट टेक्नोलॉजीज" के प्रतिभागियों को दिया गया था। पोप ने कहा कि विभिन्न देशों के प्रतिभागियों में "कृत्रिम बुद्धिमत्ता के विकास को लेकर एक निश्चित बेचैनी की भावना है। हम समझते हैं कि हमें कौन सी दिशा अपनानी चाहिए, फिर भी आगे बढ़ने के लिए पर्याप्त प्रयास नहीं किए जा रहे हैं।"
मशीनें उपकरण हैं, व्यक्ति नहीं
संबोधन की सबसे स्पष्ट पंक्ति ने तकनीकी उद्योग और कानूनी अकादमी के कुछ हिस्सों में लोकप्रियता हासिल करने वाले विचार को लक्षित किया: कानूनी व्यक्तित्व - या अधिकारों - को उन्नत एआई सिस्टम तक विस्तारित करना। पोप लियो ने इसके विपरीत तर्क दिया। उन्होंने कहा, मशीनों के पास अनुभव, शरीर, भावनाएं या रिश्ते नहीं होते हैं और वे प्यार, काम या जिम्मेदारी को नहीं समझती हैं।
कुछ लोगों ने इन प्रणालियों को अधिकार या कानूनी व्यक्तित्व देने का सुझाव दिया है, उन्होंने स्वीकार किया - लेकिन ऐसा करने से "मानवीय जिम्मेदारी को अस्पष्ट करने और नुकसान उठाने वालों को एक अज्ञात इकाई का सामना करने के लिए छोड़ देने का जोखिम है।" यह टिप्पणी उसी सीज़न में आती है जिसमें एआई एजेंट स्वायत्त रूप से व्यवसाय चलाते हैं, अनुबंधों पर बातचीत करते हैं और उपयोगकर्ताओं की ओर से कार्य करते हैं, जब स्वायत्त सिस्टम नुकसान पहुंचाते हैं तो दायित्व के बारे में वास्तविक कानूनी बहस शुरू हो जाती है। एआई बज़ वायर इस और अन्य एआई नीति विकास पर नज़र रख रहा है। पोप का निर्धारण सिस्टम के पीछे के मनुष्यों पर सवाल खड़ा करता है: यदि कोई एआई एजेंट नुकसान पहुंचाता है, तो किसी चेहरे वाले व्यक्ति को इसका जवाब देना होगा।
"निशस्त्रीकरण" एआई: स्वायत्त हथियारों पर प्रतिबंध
पोप का तीसरा विचार - कि कुछ निर्णय कभी भी मशीनों को नहीं सौंपे जाने चाहिए - स्पष्ट उदाहरणों के साथ चित्रित किया गया था: किसी व्यक्ति को लक्ष्य सूची में या सीमा नियंत्रण डेटाबेस में डालने से वह "डेटा बिंदु" में बदल जाता है। उन्होंने जी7 नेताओं को अपने पूर्ववर्ती पोप फ्रांसिस के 2024 के संबोधन का हवाला दिया, जहां फ्रांसिस ने एआई को "एक रोमांचक और डरावना उपकरण" बताया था और जोर देकर कहा था कि कोई भी मशीन कभी भी मानव जीवन लेने का विकल्प नहीं चुन सकती।
पोप लियो ने कहा, "मानव जीवन, स्वतंत्रता और बल के प्रयोग को प्रभावित करने वाले निर्णय हमेशा प्रभावी, सूचित और जिम्मेदार मानवीय निरीक्षण के अधीन रहने चाहिए।" इसीलिए एआई को "निरस्त्र" किया जाना चाहिए, उन्होंने तर्क दिया - और उन्होंने नवंबर में जिनेवा में राज्यों की बैठक में घातक स्वायत्त हथियारों पर प्रतिबंध लगाने के लिए कदम उठाने के लिए स्पष्ट रूप से प्रोत्साहित किया। राजनयिकों ने स्वायत्त हथियारों पर बाध्यकारी नियमों पर सहमति बनाने के लिए वर्षों तक संघर्ष किया है; पोप की सीधी अपील बातचीत की प्रक्रिया में नैतिक महत्व जोड़ती है जो ज्यादातर नागरिक-समाज अभियानों और संबंधित राज्यों के एक समूह द्वारा संचालित होती है।
मैग्निफिका ह्यूमनिटास से पांच विचार
यह संबोधन पोप द्वारा अपने विश्वपत्र मैग्निफिका ह्यूमनिटास में बताए गए पांच विचारों के आसपास आयोजित किया गया था:
1. एआई का भविष्य पूर्व-निर्धारित नहीं है। चूंकि मनुष्य एआई का विकास करते हैं, इसलिए इसका भविष्य मानवता की पसंद पर निर्भर करता है। पोप ने कहा, "हमारा मार्गदर्शन, बदलाव और जरूरत पड़ने पर इसके आवेदनों को खारिज करने की जिम्मेदारी है।" सही सवाल यह नहीं है कि "एआई क्या कर सकता है?" लेकिन "इससे क्या उद्देश्य पूरा होना चाहिए?"
2. मशीनें उपकरण हैं, लोग नहीं। ऊपर दी गई व्यक्तित्व संबंधी चेतावनी।
3. कुछ निर्णय कभी भी प्रत्यायोजित नहीं किए जा सकते। मानव जीवन, स्वतंत्रता और बल के प्रयोग को प्रभावित करने वाले निर्णयों के लिए प्रभावी, सूचित, जिम्मेदार मानवीय निरीक्षण की आवश्यकता होती है।
4. बुद्धिमान प्रौद्योगिकियों को आम लोगों की भलाई के लिए काम करना चाहिए। उन्हें "कभी भी अपने आप में लक्ष्य नहीं बनना चाहिए या केवल कुछ विशेषाधिकार प्राप्त लोगों के हितों की पूर्ति नहीं करनी चाहिए," और उन्हें प्रगति के लाभों को समान रूप से फैलाना चाहिए।
5. नैतिकता को क्रियाशील बनाने के लिए संस्थानों की आवश्यकता है। इसे संभावित रूप से सबसे जरूरी चुनौती के रूप में वर्णित किया गया है: दुनिया को "साझा मानकों, स्वतंत्र निरीक्षण और जवाबदेही के स्पष्ट तंत्र की आवश्यकता है, ताकि एआई के विकास और उपयोग से संबंधित निर्णयों की जांच की जा सके, आवश्यकता पड़ने पर चुनौती दी जा सके, और किसी भी नुकसान के लिए उचित उपाय किए जा सकें।"
वेटिकन से परे इसका महत्व क्यों है
वेटिकन चुपचाप एआई प्रशासन पर अधिक सुसंगत संस्थागत आवाज़ों में से एक बन गया है। माइक्रोसॉफ्ट, आईबीएम, एफएओ और इतालवी सरकार के साथ पोंटिफिकल एकेडमी फॉर लाइफ द्वारा फरवरी 2020 में हस्ताक्षरित एआई एथिक्स के लिए रोम कॉल इस पारिस्थितिकी तंत्र से विकसित हुआ, और पोंटिफिकल एकेडमी फॉर लाइफ ने बार-बार बायोएथिक्स और मशीन निर्णय लेने पर प्रौद्योगिकीविदों को बुलाया है। फ्यूचर ऑफ लाइफ इंस्टीट्यूट के साथ सह-संगठन - फ्रंटियर-मॉडल जोखिम पर खुले पत्रों के पीछे एआई सुरक्षा संगठन - धार्मिक और धर्मनिरपेक्ष एआई नैतिकता समुदायों को जोड़ने के निरंतर प्रयास का संकेत देता है।
नीति निर्माताओं के लिए, जिनेवा अपील ठोस निष्कर्ष है: जैसे ही स्वायत्त हथियारों पर बातचीत फिर से शुरू होती है, वेटिकन एक बाध्यकारी प्रतिबंध चाहता है, स्वैच्छिक दिशानिर्देश नहीं। और एआई उद्योग के लिए, व्यक्तित्व पर संदेश रेत में एक स्पष्ट रेखा है - हालांकि स्वायत्त एजेंट बन जाते हैं, नैतिक और कानूनी जिम्मेदारी उन लोगों के साथ रहती है जो उन्हें बनाते और तैनात करते हैं।
