পোপ লিও চতুর্দশ বিজ্ঞানী এবং এআই বিশেষজ্ঞদের একটি ভ্যাটিকান সভায় বলেছিলেন যে কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলি "সরঞ্জাম, ব্যক্তি নয়," এআই এজেন্টদের আইনি অধিকার দেওয়ার বিরুদ্ধে সতর্ক করে এবং পরের মাসে জেনেভায় জড়ো হওয়া সরকারগুলিকে প্রাণঘাতী স্বায়ত্তশাসিত অস্ত্র নিষিদ্ধ করার জন্য আহ্বান জানায়।
পন্টিফিকাল একাডেমি ফর লাইফ অ্যান্ড দ্য ফিউচার অফ লাইফ ইনস্টিটিউট দ্বারা যৌথভাবে আয়োজিত একটি সভায় "দ্য ফিউচার অফ এআই: অ্যা ডায়ালগ বিটুইন দ্য ভ্যাটিকান অ্যান্ড দ্য সায়েন্টিফিক ওয়ার্ল্ড অন দ্য ডেভেলপমেন্টস অ্যান্ড অ্যাপ্লিকেশানস অফ ইন্টেলিজেন্ট টেকনোলজিস"-এর অংশগ্রহণকারীদের কাছে ভাষণটি দেওয়া হয়েছিল। পোপ বলেছিলেন যে বিভিন্ন দেশের অংশগ্রহণকারীরা "কৃত্রিম বুদ্ধিমত্তার বিকাশের বিষয়ে একটি নির্দিষ্ট অস্বস্তির অনুভূতি ভাগ করে নেয়। আমাদের যে দিকটি নেওয়া উচিত তা আমরা স্বীকার করি, তবুও এগিয়ে যাওয়ার জন্য যথেষ্ট কাজ করা হচ্ছে না।"
মেশিন হল হাতিয়ার, মানুষ নয়
ঠিকানার স্পষ্ট লাইনটি প্রযুক্তি শিল্প এবং আইনি একাডেমির অংশগুলিতে আকর্ষণ অর্জনের একটি ধারণাকে লক্ষ্য করে: উন্নত AI সিস্টেমে আইনি ব্যক্তিত্ব — বা অধিকার — প্রসারিত করা৷ পোপ লিও এর বিপরীত যুক্তি দিয়েছেন। তিনি বলেন, মেশিনের অভিজ্ঞতা, শরীর, অনুভূতি বা সম্পর্ক নেই এবং প্রেম, কাজ বা দায়িত্ব বোঝে না।
কেউ কেউ এই সিস্টেমগুলিকে অধিকার বা আইনী ব্যক্তিত্ব দেওয়ার পরামর্শ দিয়েছেন, তিনি স্বীকার করেছেন - কিন্তু এটি করার ফলে "মানুষের দায়িত্বকে অস্পষ্ট করা এবং যারা ক্ষতির সম্মুখীন হয় তাদের একটি মুখবিহীন সত্তার মুখোমুখি হতে" ঝুঁকিপূর্ণ। মন্তব্যটি একই মরসুমে আসে যেখানে AI এজেন্টরা স্বায়ত্তশাসিতভাবে ব্যবসা চালাতে, চুক্তির আলোচনা এবং ব্যবহারকারীদের পক্ষে কাজ করতে দেখেছে, যখন স্বায়ত্তশাসিত সিস্টেমগুলি ক্ষতি করে তখন দায়বদ্ধতা সম্পর্কে প্রকৃত আইনি বিতর্কের প্ররোচনা দেয়। এআই বাজ ওয়্যার ট্র্যাক করছে এটি এবং অন্যান্য এআই নীতির উন্নয়ন যেমন ঘটে। পোপের ফ্রেমিং সিস্টেমের পিছনে থাকা মানুষের কাছে প্রশ্নটি ফিরিয়ে দেয়: যদি কোনও এআই এজেন্ট ক্ষতি করে, তবে মুখের কাউকে অবশ্যই এর উত্তর দিতে হবে।
"নিরস্ত্রীকরণ" এআই: স্বায়ত্তশাসিত অস্ত্র নিষিদ্ধ
পোপের তৃতীয় বিবেচনা - যে নির্দিষ্ট সিদ্ধান্তগুলি কখনই মেশিনে অর্পণ করা উচিত নয় - কঠোর উদাহরণ দিয়ে চিত্রিত করা হয়েছিল: কোনও ব্যক্তিকে লক্ষ্য তালিকায় বা বর্ডার কন্ট্রোল ডাটাবেসে রাখা তাদের "একটি ডেটা পয়েন্ট" এ হ্রাস করে। তিনি তার পূর্বসূরি পোপ ফ্রান্সিসের 2024 সালের ভাষণকে জি 7 নেতাদের কাছে আহ্বান করেছিলেন, যেখানে ফ্রান্সিস এআইকে "একটি উত্তেজনাপূর্ণ এবং ভয়ঙ্কর হাতিয়ার" হিসাবে বর্ণনা করেছিলেন এবং জোর দিয়েছিলেন যে কোনও মেশিন কখনই মানুষের জীবন নেওয়া বেছে নিতে সক্ষম হবে না।
পোপ লিও বলেছেন, "মানুষের জীবন, স্বাধীনতা এবং শক্তির ব্যবহারকে প্রভাবিত করে এমন সিদ্ধান্তগুলি সর্বদা কার্যকর, অবহিত এবং দায়িত্বশীল মানব তদারকির অধীন থাকতে হবে।" সে কারণেই এআইকে অবশ্যই "নিরস্ত্রীকরণ" করতে হবে, তিনি যুক্তি দিয়েছিলেন - এবং তিনি স্পষ্টভাবে প্রাণঘাতী স্বায়ত্তশাসিত অস্ত্র নিষিদ্ধ করার পদক্ষেপ নিতে নভেম্বর মাসে জেনেভায় রাজ্যগুলির বৈঠকে উত্সাহিত করেছিলেন। কূটনীতিকরা স্বায়ত্তশাসিত অস্ত্রের বাধ্যতামূলক নিয়ম মেনে চলার জন্য বছরের পর বছর ধরে সংগ্রাম করেছেন; একটি সরাসরি পোপ আবেদন একটি আলোচনা প্রক্রিয়ায় নৈতিক ওজন যোগ করে যা বেশিরভাগ নাগরিক-সমাজ প্রচারাভিযান এবং সংশ্লিষ্ট রাজ্যগুলির একটি ব্লক দ্বারা চালিত হয়।
ম্যাগনিফিকা হিউম্যানিটাস থেকে পাঁচটি বিবেচনা
পোপ তার এনসাইকেলিক্যাল ম্যাগনিফিকা হিউম্যানিটাস-এ পাঁচটি বিবেচনার ভিত্তিতে ঠিকানাটি নিজেকে সাজিয়েছে:
1. এআই-এর ভবিষ্যৎ পূর্ব-নির্ধারিত নয়। যেহেতু মানুষ এআই তৈরি করে, তাই এর ভবিষ্যত নির্ভর করে মানবতার পছন্দের উপর। পোপ বলেন, "আমাদের নির্দেশনা দেওয়া, পরিবর্তন করা এবং প্রয়োজনে এর আবেদন প্রত্যাখ্যান করার দায়িত্ব রয়েছে।" সঠিক প্রশ্ন নয় "এআই কি করতে পারে?" কিন্তু "কি উদ্দেশ্য এটি পরিবেশন করা উচিত?"
2. মেশিন হল হাতিয়ার, মানুষ নয়। উপরে ব্যক্তিত্বের সতর্কতা।
3. কিছু সিদ্ধান্ত কখনই অর্পণ করা যায় না। মানব জীবন, স্বাধীনতা এবং বল প্রয়োগকে প্রভাবিত করে এমন সিদ্ধান্তের জন্য কার্যকর, অবহিত, দায়িত্বশীল মানব তদারকির প্রয়োজন।
4. বুদ্ধিমান প্রযুক্তি অবশ্যই সাধারণ ভালোর জন্য পরিবেশন করতে হবে। তারা "কখনও নিজের মধ্যে শেষ হওয়া উচিত নয় বা শুধুমাত্র কিছু সুবিধাপ্রাপ্ত লোকের স্বার্থের সেবা করা উচিত নয়" এবং ন্যায়সঙ্গতভাবে অগ্রগতির সুবিধা ছড়িয়ে দেওয়া উচিত।
5. নৈতিকতাকে কার্যকর করার জন্য প্রতিষ্ঠানের প্রয়োজন। সম্ভাব্য সবচেয়ে জরুরী চ্যালেঞ্জ হিসাবে বর্ণনা করা হয়েছে: বিশ্বের "ভাগ করা মান, স্বাধীন তদারকি, এবং জবাবদিহিতার সুস্পষ্ট প্রক্রিয়া প্রয়োজন, যাতে AI এর বিকাশ এবং ব্যবহার সম্পর্কিত সিদ্ধান্তগুলি পরীক্ষা করা যায়, প্রয়োজনে চ্যালেঞ্জ করা যায় এবং যে কোনও ক্ষতির জন্য উপযুক্ত প্রতিকারের সাথে সাথে করা যায়।"
কেন এটা ভ্যাটিকান ছাড়িয়ে গুরুত্বপূর্ণ
ভ্যাটিকান নিঃশব্দে এআই গভর্নেন্সের উপর আরও ধারাবাহিক প্রাতিষ্ঠানিক কণ্ঠস্বর হয়ে উঠেছে। মাইক্রোসফ্ট, IBM, FAO এবং ইতালীয় সরকারের পাশাপাশি পন্টিফিকাল একাডেমি ফর লাইফ দ্বারা 2020 সালের ফেব্রুয়ারিতে স্বাক্ষরিত AI এথিক্সের জন্য রোম কল, এই ইকোসিস্টেম থেকে বেরিয়ে এসেছে এবং পন্টিফিক্যাল একাডেমি ফর লাইফ বারবার বায়োএথিক্স এবং মেশিনের সিদ্ধান্ত নেওয়ার বিষয়ে প্রযুক্তিবিদদের ডেকেছে। ফিউচার অফ লাইফ ইনস্টিটিউটের সাথে সহ-সংগঠন - ফ্রন্টিয়ার-মডেল ঝুঁকির উপর খোলা চিঠির পিছনে AI সুরক্ষা সংস্থা - ধর্মীয় এবং ধর্মনিরপেক্ষ AI নৈতিকতার সম্প্রদায়গুলিকে সেতু করার জন্য একটি অব্যাহত প্রচেষ্টার ইঙ্গিত দেয়৷
নীতিনির্ধারকদের জন্য, জেনেভা আপিল হল কংক্রিট টেকওয়ে: যেহেতু স্বায়ত্তশাসিত অস্ত্র নিয়ে আলোচনা আবার শুরু হচ্ছে, ভ্যাটিকান একটি বাধ্যতামূলক নিষেধাজ্ঞা চায়, স্বেচ্ছায় নির্দেশিকা নয়। এবং এআই শিল্পের জন্য, ব্যক্তিত্বের বার্তাটি বালির মধ্যে একটি স্পষ্ট রেখা - যদিও স্বায়ত্তশাসিত এজেন্ট হয়ে ওঠে, নৈতিক এবং আইনগত দায়িত্ব সেই লোকেদের সাথে থাকে যারা তাদের তৈরি করে এবং স্থাপন করে।
