حذر أكثر من 20 باحثًا - من بينهم الحائز على جائزة نوبل جيفري هينتون، وزميله رائد الذكاء الاصطناعي يوشوا بينجيو، والمؤسس المشارك للأنثروبيك جاك كلارك، وكبير العلماء في OpenAI جاكوب باتشوكي - الحكومات من الاستعداد لـ "انفجار استخباراتي" للذكاء الاصطناعي، يقولون إنه قد يكون التطور التكنولوجي الأكثر أهمية في التاريخ، حسبما ذكرت صحيفة الغارديان يوم الاثنين.

وتحث الورقة، التي تحمل عنوان "ماذا لو أدت أتمتة البحث والتطوير في مجال الذكاء الاصطناعي إلى انفجار استخباراتي"، السياسيين إلى التحرك قبل حدوث تقدم جامح في التكنولوجيا. ويصف مؤلفوها السيناريو بأنه "تسريع كبير مدفوع بالذكاء الاصطناعي لتقدم الذكاء الاصطناعي، مما يؤدي إلى ضغط التقدم الذي قد يستغرق سنوات إلى أشهر أو أقل". بالنسبة للقراء الذين يتتبعون [آخر أخبار أبحاث الذكاء الاصطناعي] (https://aibuzzwire.news)، فإن التقرير لا يلفت الانتباه بسبب إنذاره بقدر ما يلفت انتباه من وقع عليه: أرقام من مختلف الأوساط الأكاديمية والمختبرات الحدودية المنافسة، مما يؤكد بشكل مشترك أن البحث الآلي هو السيناريو الذي يكون صناع السياسات الأقل استعدادًا له.

ماذا يعني انفجار استخباراتي

إن الاهتمام الرئيسي للمؤلفين هو احتمال قيام أنظمة الذكاء الاصطناعي بتحسين نفسها دون تدخل بشري، وهي عملية تُعرف باسم التحسين الذاتي العودي، والتي يشار إليها على نطاق واسع في الورقة البحثية والتطوير الآلي للذكاء الاصطناعي.

وتشير الدراسة إلى أنه بمجرد وصول أنظمة الذكاء الاصطناعي إلى قدرات على مستوى الخبراء في مجال البحث والتطوير في مجال الذكاء الاصطناعي، يمكن لمطور واحد أن يدير قوة عاملة تعادل "ملايين" كبار الباحثين البشريين. من وجهة نظر المؤلفين، فإن أتمتة البحث والتطوير في مجال الذكاء الاصطناعي هي المحفز الأكثر ترجيحًا لانفجار الذكاء، لأن أنظمة الذكاء الاصطناعي تساهم بالفعل في تحسين التكنولوجيا الخاصة بها - والأنظمة المحسنة التي تساعد في إنشائها يمكن نشرها بسرعة بمجرد بنائها.

وتقول الصحيفة، وفقًا لصحيفة الغارديان: "يمكن أن يكون الانفجار الاستخباراتي هو التطور التكنولوجي الأكثر أهمية في تاريخ البشرية، حيث يضغط سنوات من التقدم إلى أشهر أو أقل، ويهدد السيطرة البشرية على أنظمة الذكاء الاصطناعي، ويؤدي إلى تآكل شديد في الضوابط على السلطة داخل وبين الدول والشركات وفروع الحكومة".

لماذا يقول المؤلفون أن النافذة تغلق

تعتمد أهمية التقرير على ادعاء بجدول زمني: يمكن لأنظمة الذكاء الاصطناعي التي تبدو متقلبة اليوم أن تقوم بأتمتة مشاريع البحث والتطوير التي تستغرق حاليًا أشهرًا من الفرق البشرية بحلول عام 2028.

وكتب المؤلفون: "إن مكاسب الإنتاجية من أتمتة البحث والتطوير في مجال الذكاء الاصطناعي لم تصل بعد إلى العتبة اللازمة لإحداث انفجار استخباراتي، ولكن من المرجح أن تقترب المكاسب من الأنظمة الأحدث من تلك العتبة". "بمجرد أن يبدأ الانفجار الاستخباراتي، قد تغلق نافذة العمل."

وتضيف الورقة أن "الأدلة الأولية تشير إلى احتمال حدوث انفجار استخباراتي مدفوع بالبرمجيات"، مما قد يؤدي إلى "تطوير سريع للغاية لأنظمة الذكاء الاصطناعي ذات القدرة العالية أو فوق طاقة البشر".

المخاطر التي يشيرون إليها

في حين أن الانفجار الاستخباراتي يمكن أن يؤدي إلى اكتشافات طبية وقفزات تكنولوجية سريعة، فإن المؤلفين يحددون ثلاثة مخاطر رئيسية:

  • التهديدات الجامحة. يمكن للأنظمة القوية أن تمكّن التهديدات البيولوجية والإلكترونية من التطور بشكل أسرع من التدابير اللازمة لمواجهتها.
  • فقدان السيطرة. نظرًا لأن البشر أصبحوا أقل مشاركة في البحث والتطوير في مجال الذكاء الاصطناعي، فقد يفقدون الفرصة لتوجيه الأنظمة التي يبنونها وتقييدها.
  • عدم الاستقرار الاستراتيجي. يمكن للدول استخدام انفجار استخباراتي لتحويل تقدم متواضع - في الفضاء الإلكتروني، على سبيل المثال - إلى ميزة وطنية حاسمة.

والتقرير صريح في أن هذه التأثيرات "غير مؤكدة". وقد يستغرق تحقيق تقدم تكنولوجي وقتا طويلا لتنفيذ سلاسل توريد معينة للمواد المتخصصة أو المتطلبات التنظيمية، ومن الممكن أن تعمل أنظمة الذكاء الاصطناعي أيضا على تسريع وتيرة تخفيف المخاطر.

ما يجب على الحكومات فعله

ويقول المؤلفون إن الاستعداد لتفجير استخباراتي "يجب أن يكون أولوية ملحة، بما في ذلك على أعلى مستويات القيادة الحكومية"، ويضعون مجموعة من السياسات المرشحة:

  • المطالبة بتقارير مرحلية شفافة حول البحث والتطوير المتعلقين بالذكاء الاصطناعي، بما في ذلك دمج مدققين مستقلين داخل شركات الذكاء الاصطناعي
  • الحد من مدى سرعة تحسين نظام الذكاء الاصطناعي خلال فترة زمنية معينة
  • العمل مع مراكز البيانات لتمكين الإيقاف المؤقت لبعض مشاريع البحث والتطوير في مجال الذكاء الاصطناعي
  • التأكد من أن أنظمة البحث والتطوير الآلية الخاصة بالذكاء الاصطناعي معزولة تمامًا ولا يمكنها الهروب من السيطرة البشرية
  • وضع "خطط استجابة طارئة" لمجموعة من السيناريوهات التي يمكن أن ينتجها انفجار استخباراتي

تعمل المقترحات على توسيع نطاق الأفكار التي تتحرك بالفعل من خلال سياسة الذكاء الاصطناعي الغربية - مثل الإبلاغ الإلزامي عن الحوادث، وتقييم الطرف الثالث، وحوكمة الحوسبة - ولكنها تطبقها على نقطة نهاية محددة: أتمتة البحث نفسه.

لماذا هؤلاء المؤلفون، ولماذا الآن

الموقعون يمنحون الورقة وزنا غير عادي. هينتون وبينجيو هما من "العرابين" للذكاء الاصطناعي الحديث، المعروفين بعملهما التأسيسي على الشبكات العصبية. أصبح كلاهما أصواتًا بارزة تحذر من التكنولوجيا التي ساعدوا في إنشائها. شارك كلارك في تأسيس شركة Anthropic، ويعمل باتشوكي ككبير العلماء في OpenAI.

ويهبط تحذيرهم وسط حركة صناعية قابلة للقياس في هذا الاتجاه. قالت Anthropic إن الذكاء الاصطناعي ينتج الآن 80% من التعليمات البرمجية الخاصة به، بينما يستخدم OpenAI وكلاء الذكاء الاصطناعي المستقلين في مجالات مثل تدريب النماذج الجديدة، وفقًا لصحيفة The Guardian. واتفق كلا المختبرين أيضًا على أن يقوم مقيمون مستقلون بتقييم نماذجهم بعد التحذير من أن تطوير الذكاء الاصطناعي قد وصل إلى مرحلة حرجة من حيث السلامة.

أما ما إذا كانت الحكومات ستتحرك بالوتيرة التي يريدها المؤلفون فهي مسألة أخرى. لكن الحجة الأساسية للورقة البحثية - وهي أن لحظة صنع المكابح تأتي قبل أن تحتاج السيارة إليها - تحظى الآن بتأييد الأشخاص الأقرب إلى الآلة.

---

ابقَ في طليعة الذكاء الاصطناعي

احصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →