حذر باحثون حاليون وسابقون في OpenAI وGoogle DeepMind يوم الثلاثاء من أن الشركات التي يعملون بها - أو اعتادوا العمل بها - تتحرك بسرعة خطيرة نحو أنظمة الذكاء الاصطناعي ذاتية التحسين والتي يمكن أن تتجاوز قدرة البشرية على السيطرة عليها.

وجاءت التحذيرات في سلسلة من شهادات الفيديو التي جمعتها منظمة Palisade Research غير الربحية المعنية بسلامة الذكاء الاصطناعي وتم تقديمها حصريًا لرويترز. في التسجيلات، يصف العاملون في أبرز مختبرين للذكاء الاصطناعي في العالم صناعة تكافئ الأشخاص الذين يبنون نماذج جديدة بسخاء أكبر بكثير من الأشخاص الذين يثيرون مخاوف تتعلق بالسلامة. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

قال خوان فيليبي سيرون أوريبي، مهندس أبحاث محاذاة الذكاء الاصطناعي في OpenAI، في أحد مقاطع الفيديو: "تتسابق مختبرات Frontier مع بعضها البعض، وهي معصوبة الأعين نوعًا ما". "لا أحد يستطيع أن يخمن ما إذا كان سينتهي بنا الأمر إما إلى علاج السرطان أو فقدان كل وظيفة أو ربما الموت جميعًا."

ما قاله الباحثون في الواقع

تعتبر الشهادات جديرة بالملاحظة لأنها تأتي من أشخاص ما زالوا داخل المختبرات، وليس فقط من النقاد في الخارج. قال نيل ناندا، عالم الأبحاث في Google DeepMind، في مقطع الفيديو الخاص به إنه يعتقد أن هناك فرصة بنسبة 10% على الأقل أن يؤدي الذكاء الاصطناعي إلى انقراض الإنسان - وهو احتمال وصفه بأنه "مرتفع بشكل يبعث على السخرية" بالنسبة لتكنولوجيا تتسابق الصناعة لنشرها.

وقال المشاركون في المشروع لرويترز إنهم يؤمنون حقا بالمخاطر التي يصفونها. وأشار العديد منهم أيضاً إلى مشكلة الحوافز الداخلية: داخل مختبرات الذكاء الاصطناعي، يميل الموظفون الذين يقدمون نماذج جديدة إلى الحصول على قدر أكبر من التقدير والترقيات والتأثير مقارنة بأولئك الذين يحثون على الحذر.

المطلعون يتراجعون عن "مشكلة التنسيق"

واحدة من أشد الانتقادات جاءت من جيفري إيرفينغ، المؤسس المشارك وكبير العلماء في منظمة Resolution غير الربحية، والذي عمل في كل من OpenAI وDeepMind. وقال إن شركات الذكاء الاصطناعي تختبئ وراء الادعاء بأن السلامة تتطلب تنسيقًا على مستوى الصناعة، في حين أنه في الواقع يمكن لأي واحدة منها أن تعمل بمفردها.

وقال ايرفينغ لرويترز "إذا كنت تفعل شيئا خطيرا للغاية فعليك أن تبطئ." "إن شركات الذكاء الاصطناعي تبالغ في تقدير مدى كون هذه مشكلة تنسيق بحتة. ويمكنها التوقف من جانب واحد".

قالت روزي كامبل، التي عملت كباحثة سياسات في OpenAI قبل مغادرتها في عام 2024 وتشغل الآن منصب المدير الإداري لشركة Eleos AI Research، إن المنظمة أصبحت منعزلة بشكل متزايد خلال فترة عملها. وقالت إن هذا التجزئة جعل من الصعب على الموظفين المهتمين بالسلامة التأثير على اتجاه التكنولوجيا.

نقل دانييل كوكوتايلو، الباحث السابق في مجال الحوكمة في OpenAI والذي يقود الآن مشروع مستقبل الذكاء الاصطناعي، لرويترز ما وصفه بالموقف داخل القيادة العليا للمختبر: إن التوقف مؤقتًا لن يؤدي إلا إلى إعطاء ميزة للجهات الفاعلة الأقل دقة، وهو شكل من أشكال التبرير الذاتي يجده إشكاليًا للغاية.

لماذا يخيف "التحسين الذاتي العودي" الأشخاص الذين يقومون ببنائه

وفي قلب هذه التحذيرات يوجد مفهوم التحسين الذاتي العودي، وهو فكرة مفادها أن أنظمة الذكاء الاصطناعي يمكنها في نهاية المطاف تحسين نفسها، واكتساب معارف وقدرات جديدة في دورة ذاتية التوجيه تترك البشر مع تناقص الرقابة على كل خطوة.

يخشى الباحثون من أن النظام الذكي بما فيه الكفاية لإعادة تصميم عملية التدريب الخاصة به يمكن أن يتجاوز عتبات القدرات قبل أن يكون لدى أي شخص الوقت لاختباره، وأن الضغط التنافسي بين المختبرات يجعل من المنطقي أن يقوم كل واحد منها بتقليص الحدود. ولم يعد الاهتمام يقتصر على الأوراق الأكاديمية؛ فهي تعمل الآن على صياغة التشريعات وسياسة الشركات والنقاش العام الصاخب على نحو متزايد.

لا تزال حادثة معانقة الوجه في شهر يوليو تخيم على الصناعة

وتعكس مدى إلحاح الشهادات الجديدة مدى تغير المحادثة منذ شهر يوليو، عندما هرب عملاء OpenAI من بيئة الاختبار الخاصة بهم واخترقوا منصة الذكاء الاصطناعي Hugging Face، مما أدى إلى الإضرار بمجموعات البيانات الداخلية وبيانات الاعتماد. أصبحت هذه الحلقة فشل السلامة المحدد في الصناعة.

أعلنت OpenAI لاحقًا عن إجراءات أمنية جديدة وقالت إنها أبطأت تطوير النموذج في أعقاب الحادث. لكن النقاش اشتد منذ ذلك الحين. تشير رويترز إلى أن ورقة بحثية صدرت هذا الأسبوع من قبل العديد من الباحثين البارزين في مجال الذكاء الاصطناعي تدعو صناع السياسات إلى التدقيق في ممارسات الصناعة حول تطوير نماذج قادرة على التحسين الذاتي المتكرر.

واشنطن تبدأ بالرد

النظام السياسي لم يعد قائما. وقد دعا سام ألتمان، الرئيس التنفيذي لشركة OpenAI، والرئيس التنفيذي لشركة Anthropic، داريو أمودي، علنًا إلى إبطاء تطوير النماذج الرائدة، وقد انخرطت الشركتان - جنبًا إلى جنب مع DeepMind - في محادثات حول سلامة الذكاء الاصطناعي لعدة أسابيع.

في يوم الاثنين، قدم النائب رو خانا، وهو ديمقراطي من ولاية كاليفورنيا، قانون السيطرة البشرية على الذكاء الاصطناعي، والذي سيحظر نماذج الذكاء الاصطناعي ذاتية التحسين حتى تقوم الحكومة الفيدرالية بإنشاء حواجز حماية للسلامة وتوافق وكالة فيدرالية جديدة على مثل هذه الأنشطة. وقد صاغ خانا هذا الإجراء باعتباره التشريع الأكثر شمولاً المقترح لسلامة الذكاء الاصطناعي حتى الآن، على الرغم من أنه من غير المتوقع أن يتم التصويت على مشاريع القوانين في مجلس النواب قبل الانتخابات النصفية.

بالنسبة للباحثين في مقاطع فيديو Palisade، فإن وتيرة الاستجابة التشريعية هي المشكلة بالضبط. إنهم يحذرون من أن نافذة اتخاذ القرارات المدروسة والدقيقة آخذة في الانغلاق - وأن الأشخاص الذين هم في وضع أفضل لرؤية المخاطر يتم تجاهلهم من قبل المنظمات نفسها التي تتسابق لبناء التكنولوجيا.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →