قال البابا ليو الرابع عشر في اجتماع بالفاتيكان للعلماء وخبراء الذكاء الاصطناعي إن أنظمة الذكاء الاصطناعي هي "أدوات وليست أشخاصا"، محذرا من منح عملاء الذكاء الاصطناعي حقوقا قانونية وحث الحكومات المجتمعة في جنيف الشهر المقبل على حظر الأسلحة الفتاكة المستقلة.
تم إلقاء الكلمة على المشاركين في "مستقبل الذكاء الاصطناعي: حوار بين الفاتيكان والعالم العلمي حول تطورات وتطبيقات التقنيات الذكية"، وهو اجتماع نظمته الأكاديمية البابوية للحياة ومعهد مستقبل الحياة. وقال البابا إن المشاركين من مختلف البلدان لديهم "شعور معين بعدم الارتياح فيما يتعلق بتطور الذكاء الاصطناعي. نحن ندرك الاتجاه الذي يجب أن نتخذه، ولكن لم يتم بذل ما يكفي من الجهد للمضي قدمًا".
الآلات هي أدوات وليست أشخاصًا
استهدف أوضح سطر في الخطاب فكرة تكتسب زخمًا في أجزاء من صناعة التكنولوجيا والأكاديمية القانونية: توسيع الشخصية القانونية - أو الحقوق - لتشمل أنظمة الذكاء الاصطناعي المتقدمة. وجادل البابا ليو بالعكس. وقال إن الآلات ليس لديها تجارب أو أجساد أو مشاعر أو علاقات، ولا تفهم الحب أو العمل أو المسؤولية.
واعترف بأن البعض اقترح منح هذه الأنظمة حقوقًا أو شخصية قانونية، لكن القيام بذلك يخاطر "بتعتيم المسؤولية الإنسانية وترك أولئك الذين يعانون من الضرر لمواجهة كيان مجهول الهوية". يأتي هذا التعليق في نفس الموسم الذي شهد قيام وكلاء الذكاء الاصطناعي بإدارة الأعمال بشكل مستقل، والتفاوض على العقود والتصرف نيابة عن المستخدمين، مما أثار مناقشات قانونية حقيقية حول المسؤولية عندما تسبب الأنظمة المستقلة ضررًا. تقوم AI Buzz Wire بتتبع هذا الأمر وغيره من التطورات في سياسة الذكاء الاصطناعي فور حدوثها. يعيد تأطير البابا السؤال إلى البشر الذين يقفون وراء النظام: إذا تسبب أحد عملاء الذكاء الاصطناعي في حدوث ضرر، فيجب على شخص ذو وجه أن يجيب عليه.
"نزع سلاح" الذكاء الاصطناعي: حظر الأسلحة المستقلة
أما الاعتبار الثالث الذي طرحه البابا ــ والذي مفاده أن بعض القرارات لا ينبغي أبدا أن يتم تفويضها إلى الآلات ــ فقد تم توضيحه بأمثلة صارخة: فوضع شخص ما على قائمة الأهداف أو في قاعدة بيانات مراقبة الحدود يؤدي إلى تحويله إلى "نقطة بيانات". واستشهد بخطاب سلفه البابا فرانسيس في عام 2024 أمام قادة مجموعة السبع، حيث وصف فرانسيس الذكاء الاصطناعي بأنه "أداة مثيرة ومخيفة" وأصر على أنه لا ينبغي لأي آلة أن تختار على الإطلاق قتل حياة الإنسان.
وقال البابا ليو: "إن القرارات التي تؤثر على حياة الإنسان والحرية واستخدام القوة يجب أن تظل دائمًا خاضعة لرقابة بشرية فعالة ومستنيرة ومسؤولة". ولهذا السبب يجب "نزع سلاح الذكاء الاصطناعي"، كما زعم - وشجع صراحة الدول التي ستجتمع في جنيف في نوفمبر/تشرين الثاني على اتخاذ خطوات لحظر الأسلحة الفتاكة المستقلة. لقد ناضل الدبلوماسيون لسنوات من أجل الاتفاق على قواعد ملزمة بشأن الأسلحة المستقلة؛ ويضيف النداء البابوي المباشر ثقلاً أخلاقياً لعملية التفاوض التي كانت مدفوعة في الأغلب بحملات المجتمع المدني وكتلة من الدول المعنية.
خمسة اعتبارات من Magnifica Humanitas
نظم الخطاب نفسه حول خمسة اعتبارات وضعها البابا في رسالته العامة Magnifica Humanitas:
1. مستقبل الذكاء الاصطناعي ليس محددًا مسبقًا. نظرًا لأن البشر يطورون الذكاء الاصطناعي، فإن مستقبله يعتمد على اختيارات البشرية. وقال البابا: "علينا مسؤولية التوجيه والتغيير، ورفض تطبيقاتها عند الضرورة". السؤال الصحيح ليس "ما الذي يمكن أن يفعله الذكاء الاصطناعي؟" ولكن "ما هو الغرض الذي يجب أن يخدمه؟"
2. الآلات هي أدوات وليست أشخاصًا. تحذير الشخصية أعلاه.
3. لا يمكن تفويض بعض القرارات مطلقًا. تتطلب القرارات التي تؤثر على حياة الإنسان والحرية واستخدام القوة إشرافًا بشريًا فعالاً ومستنيرًا ومسؤولًا.
4. التقنيات الذكية يجب أن تخدم الصالح العام. يجب ألا تصبح أبدًا غايات في حد ذاتها أو أن تخدم مجرد مصالح قلة مميزة، ويجب أن تنشر فوائد التقدم بشكل عادل.
5. هناك حاجة إلى مؤسسات لجعل الأخلاقيات عملية. يوصف بأنه التحدي الأكثر إلحاحا: يحتاج العالم إلى "معايير مشتركة، ورقابة مستقلة، وآليات واضحة للمساءلة، حتى يمكن فحص القرارات المتعلقة بتطوير واستخدام الذكاء الاصطناعي، والاعتراض عليها عند الضرورة، مصحوبة بالعلاجات المناسبة لأي ضرر يحدث".
لماذا يهم خارج نطاق الفاتيكان
أصبح الفاتيكان بهدوء أحد الأصوات المؤسسية الأكثر اتساقًا في إدارة الذكاء الاصطناعي. إن نداء روما لأخلاقيات الذكاء الاصطناعي، الذي وقعته في فبراير 2020 الأكاديمية البابوية للحياة جنبًا إلى جنب مع مايكروسوفت وآي بي إم ومنظمة الأغذية والزراعة والحكومة الإيطالية، انبثق من هذا النظام البيئي، وقد دعت الأكاديمية البابوية للحياة مرارًا وتكرارًا خبراء التكنولوجيا في أخلاقيات علم الأحياء واتخاذ القرارات الآلية. يشير التنظيم المشترك مع معهد مستقبل الحياة - منظمة سلامة الذكاء الاصطناعي التي تقف وراء الرسائل المفتوحة حول مخاطر النماذج الحدودية - إلى استمرار الجهود لربط مجتمعات أخلاقيات الذكاء الاصطناعي الدينية والعلمانية.
بالنسبة لصناع السياسات، فإن نداء جنيف هو النتيجة الملموسة: مع استئناف المفاوضات حول الأسلحة المستقلة، يريد الفاتيكان فرض حظر ملزم، وليس مبادئ توجيهية طوعية. وبالنسبة لصناعة الذكاء الاصطناعي، فإن الرسالة المتعلقة بالشخصية هي خط واضح في الرمال - مهما أصبح الوكلاء المستقلون، فإن المسؤولية الأخلاقية والقانونية تظل على عاتق الأشخاص الذين يبنونها وينشرونها.
