پوپ لیو XIV نے سائنسدانوں اور AI ماہرین کی ویٹیکن میٹنگ کو بتایا کہ مصنوعی ذہانت کے نظام "آلات ہیں، افراد نہیں"، AI ایجنٹوں کو قانونی حقوق دینے کے خلاف انتباہ کرتے ہیں اور اگلے ماہ جنیوا میں جمع ہونے والی حکومتوں پر زور دیتے ہیں کہ وہ مہلک خود مختار ہتھیاروں پر پابندی لگائیں۔
یہ خطاب "اے آئی کا مستقبل: ایک ڈائیلاگ بیٹوین دی ویٹیکن اور سائنسی دنیا کے درمیان ذہین ٹیکنالوجیز کی ترقی اور ایپلی کیشنز پر" کے شرکاء کو دیا گیا جس کا اہتمام پونٹیفیکل اکیڈمی فار لائف اور فیوچر آف لائف انسٹی ٹیوٹ نے مشترکہ طور پر کیا تھا۔ پوپ نے کہا کہ مختلف ممالک کے شرکاء "مصنوعی ذہانت کی ترقی کے حوالے سے بے چینی کا ایک خاص احساس رکھتے ہیں۔ ہم اس سمت کو تسلیم کرتے ہیں جو ہمیں اختیار کرنا چاہیے، لیکن آگے بڑھنے کے لیے کافی نہیں کیا جا رہا ہے۔"
مشینیں اوزار ہیں افراد نہیں۔
ایڈریس کی واضح ترین لائن نے ٹیک انڈسٹری اور لیگل اکیڈمی کے کچھ حصوں میں توجہ حاصل کرنے والے آئیڈیا کو نشانہ بنایا: قانونی شخصیت — یا حقوق — کو جدید AI سسٹمز تک بڑھانا۔ پوپ لیو نے اس کے برعکس دلیل دی۔ انہوں نے کہا کہ مشینوں میں تجربات، جسم، احساسات یا رشتے نہیں ہوتے اور وہ محبت، کام یا ذمہ داری کو نہیں سمجھتے۔
کچھ لوگوں نے ان نظاموں کو حقوق یا قانونی شخصیت دینے کا مشورہ دیا ہے، اس نے تسلیم کیا - لیکن ایسا کرنے سے "انسانی ذمہ داری کو چھپانے اور نقصان پہنچانے والوں کو بے چہرہ ہستی کا سامنا کرنے کے لیے چھوڑنے کا خطرہ ہے۔" تبصرہ اسی سیزن میں آتا ہے جس میں دیکھا گیا ہے کہ AI ایجنٹ خود مختار طریقے سے کاروبار چلاتے ہیں، معاہدوں پر گفت و شنید کرتے ہیں اور صارفین کی جانب سے کام کرتے ہیں، جب خود مختار نظام کو نقصان پہنچتا ہے تو ذمہ داری کے بارے میں حقیقی قانونی بحث کا آغاز ہوتا ہے۔ AI Buzz Wire اس اور دیگر AI پالیسی کی پیشرفتوں کو ٹریک کر رہا ہے جیسا کہ وہ ہوتا ہے۔ پوپ کی تشکیل نظام کے پیچھے انسانوں پر سوال واپس ڈالتی ہے: اگر کوئی AI ایجنٹ نقصان کا باعث بنتا ہے، تو چہرے کے ساتھ کسی کو اس کا جواب دینا ہوگا۔
"غیر مسلح" AI: خود مختار ہتھیاروں پر پابندی
پوپ کا تیسرا خیال - کہ بعض فیصلوں کو کبھی بھی مشینوں کے سپرد نہیں کیا جانا چاہئے - کو واضح مثالوں کے ساتھ واضح کیا گیا تھا: کسی شخص کو ہدف کی فہرست میں یا بارڈر کنٹرول ڈیٹا بیس میں رکھنا انہیں "ڈیٹا پوائنٹ" تک کم کر دیتا ہے۔ انہوں نے اپنے پیشرو پوپ فرانسس کے 2024 کے خطاب کو جی 7 لیڈروں سے طلب کیا، جہاں فرانسس نے اے آئی کو "ایک دلچسپ اور خوفناک ٹول" قرار دیا اور اصرار کیا کہ کوئی بھی مشین کبھی بھی انسانی جان لینے کا انتخاب نہیں کر سکتی۔
پوپ لیو نے کہا کہ "انسانی زندگی، آزادی اور طاقت کے استعمال کو متاثر کرنے والے فیصلوں کو ہمیشہ موثر، باخبر اور ذمہ دار انسانی نگرانی کے تابع رہنا چاہیے۔" اس لیے AI کو "غیر مسلح" ہونا چاہیے، اس نے دلیل دی - اور اس نے واضح طور پر نومبر میں جنیوا میں ہونے والی ریاستوں کی میٹنگ میں مہلک خود مختار ہتھیاروں پر پابندی کے لیے اقدامات کرنے کی حوصلہ افزائی کی۔ سفارت کاروں نے خود مختار ہتھیاروں کے پابند قوانین پر اتفاق کرنے کے لیے برسوں سے جدوجہد کی ہے۔ پوپ کی براہ راست اپیل مذاکراتی عمل میں اخلاقی وزن بڑھاتی ہے جو زیادہ تر سول سوسائٹی مہمات اور متعلقہ ریاستوں کے ایک گروپ کے ذریعے چلائی جاتی ہے۔
میگنیفیکا ہیومینیٹاس سے پانچ تحفظات
خطاب نے اپنے آپ کو پانچ خیالات کے ارد گرد منظم کیا جو پوپ نے اپنے انسائیکلیکل میگنیفیکا ہیومینیٹاس میں پیش کیا:
1. AI کا مستقبل پہلے سے طے شدہ نہیں ہے۔ چونکہ انسان AI تیار کرتا ہے، اس لیے اس کا مستقبل انسانیت کے انتخاب پر منحصر ہے۔ پوپ نے کہا، "ہماری ذمہ داری ہے کہ ہم رہنمائی کریں، تبدیلی کریں، اور جب ضروری ہو، اس کی درخواستوں کو مسترد کریں۔" صحیح سوال یہ نہیں ہے کہ "AI کیا کر سکتا ہے؟" لیکن "اس کا کیا مقصد ہونا چاہیے؟"
2. مشینیں اوزار ہیں، لوگ نہیں۔ اوپر شخصی انتباہ۔
3. کچھ فیصلے کبھی نہیں سونپے جا سکتے۔ انسانی زندگی، آزادی اور طاقت کے استعمال کو متاثر کرنے والے فیصلوں کے لیے موثر، باخبر، ذمہ دار انسانی نگرانی کی ضرورت ہوتی ہے۔
4. ذہین ٹکنالوجیوں کو عام بھلائی کی خدمت کرنی چاہیے۔ انہیں "کبھی بھی اپنے آپ میں سرفہرست نہیں بننا چاہئے یا محض چند مراعات یافتہ افراد کے مفادات کی خدمت نہیں کرنی چاہئے" اور ترقی کے فوائد کو مساوی طور پر پھیلانا چاہئے۔
5. اخلاقیات کو فعال بنانے کے لیے اداروں کی ضرورت ہے۔ ممکنہ طور پر سب سے فوری چیلنج کے طور پر بیان کیا گیا: دنیا کو "مشترکہ معیارات، آزاد نگرانی، اور جوابدہی کے واضح میکانزم کی ضرورت ہے، تاکہ AI کی ترقی اور استعمال سے متعلق فیصلوں کی جانچ کی جا سکے، جب ضروری ہو چیلنج کیا جا سکے، اور کسی بھی نقصان کے لیے مناسب علاج کے ساتھ۔"
یہ ویٹیکن سے آگے کیوں اہم ہے۔
ویٹیکن خاموشی سے AI گورننس پر زیادہ مستقل ادارہ جاتی آوازوں میں سے ایک بن گیا ہے۔ روم کال فار اے آئی ایتھکس، جس پر فروری 2020 میں پونٹیفیکل اکیڈمی فار لائف نے Microsoft، IBM، FAO اور اطالوی حکومت کے ساتھ دستخط کیے تھے، اس ماحولیاتی نظام سے پروان چڑھا ہے، اور Pontifical Academy for Life نے بار بار بائیو ایتھکس اور مشینی فیصلہ سازی پر تکنیکی ماہرین کو بلایا ہے۔ فیوچر آف لائف انسٹی ٹیوٹ کے ساتھ مل کر منظم کرنا - فرنٹیئر ماڈل کے خطرے پر کھلے خطوط کے پیچھے AI سیفٹی آرگنائزیشن - مذہبی اور سیکولر AI اخلاقیات کی کمیونٹیز کو پلنے کی مسلسل کوششوں کا اشارہ ہے۔
پالیسی سازوں کے لیے، جنیوا کی اپیل ایک ٹھوس راستہ ہے: جیسے ہی خود مختار ہتھیاروں پر مذاکرات دوبارہ شروع ہوں گے، ویٹیکن ایک پابند پابندی چاہتا ہے، رضاکارانہ رہنما خطوط نہیں۔ اور AI صنعت کے لیے، شخصیت پر مبنی پیغام ریت میں ایک واضح لکیر ہے — تاہم خود مختار ایجنٹ بن جاتے ہیں، اخلاقی اور قانونی ذمہ داری ان لوگوں کے ساتھ رہتی ہے جو انہیں بناتے اور تعینات کرتے ہیں۔
