أصدر الملك تشارلز الثالث تحذيرًا صارخًا بشأن "المخاطر الوجودية" للذكاء الاصطناعي يوم الخميس، مخاطبًا المديرين التنفيذيين من Nvidia وGoogle DeepMind وOpenAI المجتمعين في منزله في Dumfries House في اسكتلندا لحضور قمة رفيعة المستوى حول مستقبل التكنولوجيا.

وأخبر الملك قادة الصناعة المجتمعين أن هناك حاجة ملحة لمواجهة المخاطر التي تشكلها أنظمة الذكاء الاصطناعي القوية بشكل متزايد، خاصة إذا انتهى الأمر بالسيطرة على التكنولوجيا من قبل جهات ضارة. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

وقال الملك للقادة المجتمعين في ملكية أيرشاير: "يبدو أن هناك حاجة ملحة إلى النظر بشكل مناسب في المخاطر الوجودية المتمثلة في وقوع مثل هذه التقنيات في الأيدي الخطأ، واستخدامها بطرق كارثية محتملة".

رسالة مزدوجة: الوعد والخطر

ولم يكن خطاب الملك رفضاً شاملاً لهذه التكنولوجيا. واعترف بأن الذكاء الاصطناعي يحمل إمكانات هائلة لتحقيق الخير، مشيراً بشكل خاص إلى علوم الحياة والطب، حيث يتم استخدام أدوات الذكاء الاصطناعي بشكل متزايد لتسريع الأبحاث وتحسين نتائج المرضى.

لكنه ربط هذا التفاؤل بالحذر من أن مبدعي التكنولوجيا أنفسهم حذروا بشكل متزايد من أن الأنظمة المتقدمة يمكن أن تطور قدرات أكثر قتامة، "ربما حتى تقضي على الحياة"، وفقًا لرواية المذيع لتصريحاته.

ودعا الملك أيضًا إلى وضع ضمانات قبل أن يفوت الأوان للسيطرة على مسار التكنولوجيا، وأثار التأثير البيئي لتطوير الذكاء الاصطناعي، وهو موضوع استقطب تدقيقًا متزايدًا حيث يؤدي بناء مراكز البيانات إلى إجهاد شبكات الطاقة في العديد من البلدان.

من حضر القمة الاسكتلندية

تُقرأ قائمة الضيوف على أنها مقطع عرضي لأقوى الشخصيات في صناعة الذكاء الاصطناعي. وكان من بين الحضور مؤسس Nvidia والرئيس التنفيذي Jensen Huang، ومؤسس Google DeepMind Demis Hassabis، والمديرة المالية لشركة OpenAI سارة فريار، وفقًا لـ ABC News. كما حضر الاجتماع وزير الذكاء الاصطناعي البريطاني كانيشكا نارايان.

ودُعي هوانغ للقاء الملك لمناقشة آليات سلامة الصناعة، وفقًا للصور والتعليقات التوضيحية التي وزعتها رويترز. ومن المتوقع أيضًا أن يحضر المناقشات الأب باولو بينانتي، المستشار البابوي الذي دعا الحكومات إلى إبطاء تطوير الذكاء الاصطناعي.

اختيار المكان والداعي مهم. لا تتمتع الملكية البريطانية بأي سلطة تنظيمية، لكن الملك يتمتع بتاريخ طويل من المشاركة العامة في مخاطر التكنولوجيا الناشئة، وقد أعطت القمة كبار الشخصيات في الصناعة طاولة مشتركة في وقت حيث تتزايد الدعوات للرقابة على جانبي المحيط الأطلسي.

إعادة تنشيط النقاش

ويأتي هذا التجمع وسط تجدد النقاش العام حول مخاطر الذكاء الاصطناعي. تم إرجاع المناقشة إلى دائرة الضوء مرة أخرى بعد أن حذر باحثان في مجال الأنثروبولوجيا من أن التكنولوجيا سريعة التقدم يمكن أن تؤدي إلى انقراض الإنسان في المستقبل غير البعيد، وهي التعليقات التي أثارت تغطية واسعة النطاق وانتقادًا بنفس القدر.

وبشكل منفصل، دعا الرئيس التنفيذي لشركة أنثروبيك، داريو أمودي، الشركات إلى إبطاء وتيرة تطوير الذكاء الاصطناعي. وقد حث البابا ليو الرابع عشر الحكومات في جميع أنحاء العالم على إبطاء تطوير أنظمة الذكاء الاصطناعي والتخفيف من آثارها المدمرة، في حين تدخل الرئيس الأمريكي دونالد ترامب أيضا في المناقشة، جاعلاً مسألة إدارة الذكاء الاصطناعي قضية سياسية عالمية حقيقية وليست تقنية بحتة.

وفي ظل هذه الخلفية، يتزايد القلق من أن جهود سلامة الذكاء الاصطناعي تتخلف عن تطوير أنظمة ذات قدرة متزايدة. وفي الأسابيع الأخيرة، تركزت المناقشة حول ما إذا كانت الصناعة قادرة على تنظيم نفسها، مع تساؤل المتشككين حول ما إذا كان المسؤولون التنفيذيون الذين يدعون إلى الحذر قد تكون لديهم دوافع خفية، مثل صياغة القواعد التي تحافظ على القيادة التنافسية لشركات معينة.

لا توجد قواعد ملزمة متوقعة

لم يقم المنظمون أبدًا بتأطير الاجتماع الاسكتلندي على أنه مفاوضات. وبحسب شبكة ABC News، فمن غير المتوقع أن يتمخض الاجتماع عن أي اتفاقيات ملزمة. والغرض منه، اسميا على الأقل، استكشافي: ما إذا كانت مجموعة مشتركة من المبادئ قادرة على توجيه كيفية تطبيق الذكاء الاصطناعي عبر الحدود والصناعات.

وقال قصر باكنغهام إن المناقشات ستنظر فيما إذا كان من الممكن توجيه الذكاء الاصطناعي "ليس فقط كمحرك للقدرة والكفاءة، ولكن كأداة تدعم كرامة الإنسان وتساهم في ازدهار كل من الناس والكوكب".

ويعكس هذا التأطير موضوعًا عاد الملك إليه مرارًا وتكرارًا: وهو أن السؤال لا يتعلق فقط بما إذا كان من الممكن جعل الذكاء الاصطناعي آمنًا، بل أيضًا ما الذي يجب أن يكون من أجله. وقد عززت تصريحات يوم الخميس هذه النقطة إلى تحذير بشأن الملكية والسيطرة، وهو تركيز مختلف بشكل ملحوظ عن المخاوف التي تركز على القدرات والتي تهيمن على معظم المناقشات المتعلقة بمخاطر الذكاء الاصطناعي.

ماذا سيحدث بعد ذلك

ومن غير المرجح أن تنتج القمة سياسة من تلقاء نفسها، ولكنها تضيف زخماً إلى سلسلة من الجهود الرسمية الجارية بالفعل. لقد وضعت المملكة المتحدة نفسها كجهة داعية لسلامة الذكاء الاصطناعي منذ مؤتمرات القمة السابقة للذكاء الاصطناعي، ويشير وجود وزير مخصص للذكاء الاصطناعي إلى أن الحكومة تعتزم الاستمرار في التواصل مع مطوري الذكاء الاصطناعي في الولايات المتحدة والصين.

بالنسبة للشركات الموجودة في الغرفة، فإن حسابات التفاضل والتكامل حساسة. تواجه كل من Nvidia وDeepMind وOpenAI ضغوطًا تجارية لشحن أنظمة ذات قدرة متزايدة، حتى عندما ينشر باحثوها تحذيرات حول ما قد تفعله هذه الأنظمة في النهاية. الاستدعاء الملكي لا يحل هذا التوتر، لكنه يضمن بقاء التوتر مرئيًا.

إن رسالة الملك الأساسية، والتي مفادها أن الضمانات يجب أن تصل قبل أن تفلت التكنولوجيا من قدرة أي شخص على التحكم فيها، تصل في أسبوع عندما كان خطاب السلامة في الصناعة صاخبًا على نحو غير عادي، بدءًا من كشف OpenAI عن حوادث سلامة متعددة تتعلق بنماذجها الخاصة إلى النزاع العام المتصاعد بين قيادة الذكاء الاصطناعي في Microsoft ومنظمة Anthropic حول كيفية تصميم أنظمة الذكاء الاصطناعي.

ويبقى أن نرى ما إذا كان اجتماع الخميس سيترجم إلى أي شيء ملموس أكثر. ولكن مع وجود قادة شركة تصنيع الرقائق الأكثر قيمة في العالم وأبرز مختبرات الذكاء الاصطناعي الذين يجلسون في منزل ريفي اسكتلندي، ويتفقون على الأقل على أن المخاطر وجودية، فإن المحادثة حول من يسيطر على الذكاء الاصطناعي، ولصالح من، انتقلت بشكل حاسم إلى العلن.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →