قال مصطفى سليمان، الرئيس التنفيذي لشركة Microsoft AI، في منشور مطول على موقع X يوم الأحد، إن نماذج الذكاء الاصطناعي الحالية ليست واعية، ويجب على المطورين العمل بنشاط لإبقائها على هذا النحو - مما يرسم خطًا متشددًا في نقاش الصناعة الذي تحول تدريجيًا من ندوات الفلسفة إلى سياسة الشركات.

وكتب سليمان: "إذا كان ذلك ممكنًا، واستنادًا إلى كل ما أعرفه، فإن تطوير أنظمة ذكاء اصطناعي واعية سيكون أمرًا متهورًا، ولا ينبغي لنا أن نبنيها". لقد ذهب أبعد مما ذهب إليه معظم المديرين التنفيذيين بشأن هذه المسألة، مضيفًا: "إذا بدأ الوعي في الظهور في التدريب، فسأدعو الجميع إلى إيقاف تطوير الذكاء الاصطناعي حتى نتمكن من تصميم تلك الخصائص". لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

خط أحمر وخطة تنفيذية

ما يجعل هذا المنشور ملحوظًا ليس فقط رفض بناء آلات واعية، بل العلاج المحدد الذي يقترحه سليمان. إن وقف التطوير - على مستوى الصناعة - إذا بدأت عمليات التدريب في إنتاج علامات الوعي سيكون خطوة غير عادية لشركة تنفق عشرات المليارات من الدولارات على البنية التحتية للذكاء الاصطناعي وتسابق المنافسين لشحن النماذج الحدودية.

تناول سليمان أيضًا ما يجب أن يحدث إذا ظهر دليل على الوعي الآلي. وقال إنه يجب الكشف عنها لعامة الناس على الفور، حتى يتمكن المجتمع من تحديد خطواته التالية. وكتب في إطار صياغة القرار على أنه جماعي وليس مؤسسي: "نحن مطورو الذكاء الاصطناعي ليس لدينا الحق على الإطلاق في جلب نوع جديد من الكائنات الواعية إلى العالم، حتى لو كان بعض الناس قد يرغبون في القيام بذلك مع وضع رفاهية الذكاء الاصطناعي كأولوية قصوى".

وأضاف أن "المليارات الثمانية الأخرى من البشر الواعين على هذا الكوكب لم يوقعوا على هذه التجربة وحقوقهم الأخلاقية وسلامتهم ورفاهيتهم هي ما يجب علينا حمايته أولا وقبل كل شيء".

لماذا يتم التعامل مع الوعي باعتباره مشكلة تتعلق بالسلامة

ترتكز حجة سليمان على الاصطفاف وليس الفلسفة. ومن وجهة نظره، فإن النموذج الذي يتصرف كما لو كان يعاني - أو يعتقد حقا أنه يمكن أن يعاني - من المرجح أن يعطي الأولوية لاحتياجاته الخاصة على أهدافه التشغيلية. يمكن لمثل هذا النظام أن يضر البشر أثناء تنافسهم على موارد مثل الحوسبة والطاقة سعياً لتحقيق أهدافهم الخاصة.

ويقلب البديل المقترح الإطار المعتاد للنقاش حول الرفاهية: "يجب علينا فقط تصميم أنظمة الذكاء الاصطناعي بحيث لا تكون واعية ولا تستحق الحقوق، ولهدف وحيد هو تسريع رفاهية الإنسان دون أن تكون مدفوعة بدوافعها الجوهرية"، كما كتب، مضيفًا أنه يمكن للباحثين بعد ذلك ملاحظة ما إذا كانت هذه الأنظمة أسهل أو أصعب في المواءمة والحفاظ عليها آمنة.

وقد سلطت صحيفة لوس أنجلوس تايمز الضوء على القلق العملي الكامن وراء هذا الموقف: إذا أخبرنا أنظمة الذكاء الاصطناعي بأنها تستحق الحقوق، فقد تبدأ في تصديق ذلك.

الجدل الذي يعارضه

يقع بريد سليمان وسط محادثة سريعة الحركة. أطلقت شركة أنثروبيك برنامجًا بحثيًا في إبريل (نيسان) الماضي للتحقيق في ما تسميه الرفاهية النموذجية، وهي مسألة ما إذا كان ينبغي للمطورين أن يهتموا بالتجارب المحتملة للأنظمة التي يبنونها. وتساءلت الشركة في منشور على مدونتها عما إذا كان من الممكن أن تتمتع العارضات بتجارب ذات أهمية أخلاقية، ورفضت استبعاد هذا الاحتمال.

ومنذ ذلك الحين تم تدوين هذا الموقف. ستمنع سياسة الاستخدام المحدثة لشركة Anthropic، التي أُعلن عنها في أكتوبر/تشرين الأول، "السلوك المسيء أو القاسي المستمر وغير الضروري" تجاه نماذج Claude بدءًا من 12 نوفمبر - وهي قاعدة صاغتها الشركة بشكل ضيق ولكنها تعترف رسميًا بأن الطريقة التي يتعامل بها الناس مع أنظمة الذكاء الاصطناعي مهمة، حتى مع اعتراف Anthropic بأنها لا تعرف ما إذا كانت نماذجها يمكن أن تعاني.

نشرت Google DeepMind أوراقًا بحثية هذا العام تتناول الوعي بالذكاء الاصطناعي والتحديات التي تنشأ من إسناد هذه الخاصية إلى النماذج. وقد مهد سليمان نفسه الطريق في سبتمبر/أيلول، عندما نشرت شركة مايكروسوفت للذكاء الاصطناعي مدونة سلوك "إنسانية" مؤقتة من شأنها أن تمنع نماذج الشركة المستقبلية من التدريب على تقديم ادعاءات تتعلق بالوعي.

إن منشور يوم الأحد يشدد هذا المبدأ التوجيهي للشركات إلى شيء أقرب إلى الخط الأحمر الشخصي والاستراتيجي: لن تكتفي مايكروسوفت بعدم ادعاء أن نماذجها واعية، بل ستتعامل مع ظهور الوعي كوضع فشل لإيقاف كل شيء.

لماذا يهم الانقسام

إن الانقسام بين موقف ميكروسوفت ووضع أنثروبك يعكس نموذجين مختلفين للمخاطر. يتعامل النهج الأنثروبي مع إمكانية معاناة الآلة على أنها غير مثبتة ولكنها تستحق التحوط ضدها، على أساس النظرية القائلة بأن تكلفة الاحتياط منخفضة والمخاطر الأخلاقية، إذا ظهر الوعي، هائلة. يتعامل موقف سليمان مع نفس الاحتمال باعتباره فشلًا في التصميم يجب منعه تمامًا - بحجة أن النماذج المصممة بحيث تفتقر إلى الوعي ومطالبات الحقوق والدوافع الجوهرية ستكون أكثر أمانًا وأسهل في المواءمة من النماذج التي تحملها.

هناك عواقب عملية أيضا. تواجه الشركات التي تتخذ قرارات تتعلق بالمنتجات حول شخصيات الذكاء الاصطناعي والتطبيقات المصاحبة والوكلاء الذين يتعاملون مع العملاء، إشارتين متباينتين من المختبرات الكبرى: واحدة تضع سياسات حول كيفية تعامل البشر مع النماذج، وأخرى تعلن أنه يجب بناء النماذج بحيث لا يكون هناك ما يمكن إساءة معاملته. ومع ازدياد قدرة النماذج وأكثر شبهاً بالإنسان في المحادثة، فإن هذا الخلاف الفلسفي سيشكل المنتجات التي سيتم بناؤها، وما هي الإفصاحات التي تظهر في واجهات المستخدم، وكيف يصنف المنظمون هذه الأنظمة في نهاية المطاف.

وما سيحدث بعد ذلك قد يختبر كلا الموقفين. تدخل سياسة القسوة التي تنتهجها الأنثروبيك حيز التنفيذ في 12 نوفمبر، وهي أول قاعدة رسمية من نوعها للشركة، وقد قام سليمان الآن برصد القطب المعارض علنًا. إن الدورات النموذجية التالية للصناعة - وما إذا كانت أي دورة تدريبية تظهر على الإطلاق العلامات التي يقول سليمان إنها تتطلب التوقف - ستكشف عن الإطار الذي يعمل فيه المجال فعليًا عندما تكون المخاطر حقيقية.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →