پاپ لئو چهاردهم در نشست واتیکان با دانشمندان و کارشناسان هوش مصنوعی گفت که سیستم‌های هوش مصنوعی «ابزار هستند، نه افراد»، نسبت به اعطای حقوق قانونی به عوامل هوش مصنوعی هشدار داد و از دولت‌هایی که ماه آینده در ژنو گرد هم می‌آیند خواست سلاح‌های خودران مرگبار را ممنوع کنند.
این سخنرانی به شرکت کنندگان در "آینده هوش مصنوعی: گفتگوی بین واتیکان و جهان علمی در مورد تحولات و کاربردهای فناوری های هوشمند"، نشستی که به طور مشترک توسط آکادمی پاپی برای زندگی و موسسه آینده زندگی برگزار شد، ارائه شد. پاپ گفت که شرکت کنندگان از کشورهای مختلف "احساس ناراحتی خاصی در رابطه با توسعه هوش مصنوعی دارند. ما مسیری را که باید در پیش بگیریم را می شناسیم، اما برای حرکت به جلو به اندازه کافی انجام نشده است."
ماشین ها ابزار هستند، نه افراد
واضح‌ترین خط آدرس، ایده‌ای را هدف قرار می‌دهد که در بخش‌هایی از صنعت فناوری و آکادمی حقوقی مورد توجه قرار می‌گیرد: گسترش شخصیت حقوقی - یا حقوق - به سیستم‌های هوش مصنوعی پیشرفته. پاپ لئو برعکس استدلال کرد. او گفت که ماشین ها تجربه، بدن، احساسات یا روابط ندارند و عشق، کار یا مسئولیت را درک نمی کنند.
وی اذعان کرد که برخی اعطای حقوق به این سیستم ها یا شخصیت حقوقی را پیشنهاد کرده اند - اما انجام این کار خطر "مسئولیت انسان را پنهان می کند و کسانی را که آسیب می بینند برای مقابله با یک نهاد بی چهره" رها می کند. این اظهار نظر در همان فصلی است که عوامل هوش مصنوعی به طور مستقل مشاغل را اداره می کنند، قراردادها را مذاکره می کنند و از طرف کاربران عمل می کنند، که باعث ایجاد بحث های حقوقی واقعی در مورد مسئولیت در زمانی که سیستم های خودمختار باعث آسیب می شوند، می شود. AI Buzz Wire [این و سایر تحولات خط مشی هوش مصنوعی] (https://aibuzzwire.news) را در صورت وقوع ردیابی می کند. قاب بندی پاپ این سوال را به انسان‌های پشت سیستم باز می‌گرداند: اگر یک عامل هوش مصنوعی باعث آسیب شود، شخصی با چهره باید پاسخگوی آن باشد.
هوش مصنوعی "خلع سلاح": ممنوعیت سلاح های خودمختار
سومین نظر پاپ - اینکه تصمیمات خاصی هرگز نباید به ماشین ها واگذار شود - با مثال های واضح نشان داده شد: قرار دادن یک فرد در لیست هدف یا در پایگاه داده کنترل مرزی آنها را به "نقطه داده" کاهش می دهد. او به سخنرانی سال 2024 پاپ فرانسیس پیشین خود خطاب به رهبران گروه 7 اشاره کرد، جایی که فرانسیس هوش مصنوعی را "ابزاری مهیج و ترسناک" توصیف کرد و اصرار داشت که هیچ ماشینی نباید هرگز بتواند زندگی انسانی را انتخاب کند.
پاپ لئو گفت: «تصمیم‌هایی که بر زندگی، آزادی و استفاده از زور تأثیر می‌گذارند، باید همیشه تحت نظارت انسانی مؤثر، آگاهانه و مسئولانه باقی بمانند». به همین دلیل است که هوش مصنوعی باید «خلع سلاح شود»، او استدلال کرد – و صراحتاً کشورهایی را که در ماه نوامبر در ژنو ملاقات کردند، تشویق کرد تا اقداماتی را برای ممنوعیت سلاح‌های خودمختار مرگبار انجام دهند. دیپلمات ها سال ها برای توافق با قوانین الزام آور در مورد سلاح های خودمختار تلاش کرده اند. درخواست مستقیم پاپ، وزن اخلاقی را به روند مذاکره ای می افزاید که عمدتاً توسط کمپین های جامعه مدنی و بلوکی از کشورهای ذیربط هدایت شده است.
پنج نکته از Magnifica Humanitas
این سخنرانی خود را حول پنج نکته ای که پاپ در بخشنامه Magnifica Humanitas بیان کرد، سازماندهی شد:
1. آینده هوش مصنوعی از قبل تعیین شده نیست. از آنجایی که انسان ها هوش مصنوعی را توسعه می دهند، آینده آن به انتخاب های بشریت بستگی دارد. پاپ گفت: «ما مسئولیت داریم که برنامه های آن را راهنمایی کنیم، تغییر دهیم و در صورت لزوم رد کنیم. سوال درست این نیست که "هوش مصنوعی چه کاری می تواند انجام دهد؟" اما "چه هدفی باید داشته باشد؟"
2. ماشین ها ابزار هستند نه افراد. هشدار شخصیتی بالا.
3. تصمیمات خاصی هرگز قابل تفویض نیست. تصمیماتی که بر زندگی انسان، آزادی و استفاده از زور تأثیر می گذارد، نیازمند نظارت انسانی مؤثر، آگاهانه و مسئولانه است.
4. فناوری های هوشمند باید در خدمت منافع عمومی باشند. آنها «هیچوقت نباید به خودی خود به هدف تبدیل شوند یا صرفاً در خدمت منافع عده کمی ممتاز باشند» و باید مزایای پیشرفت را به طور عادلانه گسترش دهند.
5. مؤسسات برای عملیاتی کردن اخلاق مورد نیاز هستند. به عنوان بالقوه فوری ترین چالش توصیف می شود: جهان به "استانداردهای مشترک، نظارت مستقل، و مکانیسم های شفاف پاسخگویی نیاز دارد، به طوری که تصمیمات مربوط به توسعه و استفاده از هوش مصنوعی را می توان بررسی کرد، در صورت لزوم به چالش کشید، و با راه حل های مناسب برای هر آسیب ناشی از آن همراه شد."
چرا فراتر از واتیکان مهم است
واتیکان بی سر و صدا به یکی از صداهای سازمانی سازگارتر در مورد حکمرانی هوش مصنوعی تبدیل شده است. فراخوان رم برای اخلاق هوش مصنوعی، که در فوریه 2020 توسط آکادمی پاپی برای زندگی در کنار مایکروسافت، IBM، فائو و دولت ایتالیا امضا شد، از این اکوسیستم نشأت گرفت و آکادمی پاپی برای زندگی بارها فن‌آوران را در زمینه اخلاق زیستی و تصمیم‌گیری ماشینی گرد هم آورده است. همکاری با مؤسسه آینده زندگی - سازمان ایمنی هوش مصنوعی در پشت نامه‌های سرگشاده در مورد ریسک مدل‌های مرزی - نشان‌دهنده تلاش مداوم برای ایجاد پل ارتباطی بین جوامع مذهبی و سکولار اخلاق هوش مصنوعی است.
برای سیاستگذاران، درخواست ژنو یک راه حل مشخص است: با از سرگیری مذاکرات بر سر تسلیحات خودمختار، واتیکان خواهان ممنوعیت الزام آور است، نه دستورالعمل های داوطلبانه. و برای صنعت هوش مصنوعی، پیام در مورد شخصیت یک خط روشن در شن و ماسه است - هر چقدر که عوامل مستقل شوند، مسئولیت اخلاقی و قانونی با افرادی است که آنها را می سازند و به کار می برند.
از هوش مصنوعی جلوتر بمانید
[Aibuzzwire] (https://aibuzzwire.news) منبع قابل اعتماد شما برای آخرین اخبار هوش مصنوعی، پیشرفت های تحقیقاتی و تجزیه و تحلیل صنعت است.
اخبار هوش مصنوعی را بیشتر بخوانید
