قال جون شولمان، المؤسس المشارك لشركة OpenAI والذي يشغل الآن منصب كبير العلماء في شركة Thinking Machines، إنه يتوقع التحسين الذاتي المتكرر - أنظمة الذكاء الاصطناعي التي تعمل على تسريع تطورها - في غضون ثلاث إلى أربع سنوات تقريبًا، وهو جدول زمني يضعه بين المتنبئين الأكثر جرأة في هذا المجال. أعطى شولمان هذا التقدير خلال حلقة مائدة مستديرة من Dwarkesh Podcast نُشرت يوم الجمعة، حيث ناقش ثلاثة باحثين من مختبرات الحدود بشكل علني مدى اقتراب الصناعة فعليًا من سقفها.
قدمت المحادثة نظرة نادرة دون حراسة حول كيفية تفكير الباحثين القريبين من الحدود في التقدم، ووصلت وسط أسبوع صاخب شهد إعلان الرئيس التنفيذي لشركة Nvidia، جنسن هوانغ، أن "الذكاء الاصطناعي العام قد وصل" وحذرت مجموعة من 25 ميدالية فيلدز من أن مطاردة معايير الذكاء الاصطناعي تلحق الضرر بالرياضيات. بالنسبة للقراء الذين يتتبعون [أحدث تطورات الذكاء الاصطناعي] (https://aibuzzwire.news)، فإن هذه الحلقة تمثل ثقلًا موازنًا مفيدًا: فهؤلاء هم الأشخاص الذين يبنون الأنظمة، وهم يختلفون مع بعضهم البعض بشكل حاد.
من كان على الطاولة
قال المضيف دواركيش باتيل إنه قام بتجميع اللجنة لأن الضيوف يعملون في ما أسماه "مختبرات وشركات مفتوحة إلى حد ما"، مما يعني أنه يمكنهم التحدث بشكل رسمي. وانضم إلى شولمان بيرين ميليدج، كبير مسؤولي التكنولوجيا في Zyphra، وهي شركة ناشئة تعمل على تطوير نماذج مفتوحة المصدر، وتشارلي أونيل، رئيس التدريب النموذجي في Baseten.
تمنح أوراق اعتماد شولمان وزنًا خاصًا لخطابه الزمني. شارك في تأسيس OpenAI وقاد التعلم المعزز من أبحاث ردود الفعل البشرية التي أنتجت التقنيات الكامنة وراء ChatGPT، قبل مغادرته إلى Thinking Machines، حيث يشغل الآن منصب كبير العلماء.
القضية ضد التفرد، رجل فولاذي
افتتح باتيل بسؤال محدد: إذا جاء عام 2036 دون أن تقوم مليارات الأنظمة فائقة الذكاء بتغيير العالم، فما هو السبب التقني؟ قدم ميليدج أقوى حجة للتشكيك، واصفًا ما أسماه نمط مورافيك شبه المتناقض، حيث تتفوق النماذج على أي معايير يضعها الباحثون أمامها، ومع ذلك فإن التأثير في العالم الحقيقي مخيب للآمال.
وقال ميليدج: "لا تزال هناك فجوة مستمرة بين المحاكاة والواقع والتي تعيق كل شيء بطريقة أو بأخرى"، واصفًا عالمًا يصبح فيه الذكاء الاصطناعي "جيدًا للغاية في كل شيء يضعه الناس ضمن المعايير" دون التعميم أكثر. وأضاف أنه يعتبر هذه النتيجة غير محتملة، مشيرًا إلى الأدلة التي تشير إلى أن التعلم المعزز معمم بالفعل في الممارسة العملية.
ويوافق شولمان إلى حد كبير على أن التقدم ليس تلقائياً. وقال إن البشر يتمتعون بمزايا حقيقية مقارنة بالنماذج الحالية، وكل إصدار جديد للنموذج يلحق بالركب في بعض المناطق بينما يظل عنق الزجاجة في مناطق أخرى - وهو النمط الذي حدد دورات المنتج العديدة الأخيرة.
الجداول الزمنية للانطلاق السريع: سنتان، ثلاثة إلى أربعة، خمسة إلى عشرة
عندما ضغط باتيل للحصول على الأرقام، انقسمت اللوحة. عندما سُئل شولمان عن الوقت الذي يمكن أن يحقق فيه الذكاء الاصطناعي زيادة في الإنتاجية بمقدار عشرة أضعاف للعمال ذوي الياقات البيضاء المؤهلين، رفض شولمان في البداية إعطاء رقم واحد، ثم قال "سأقول عامين". وقال ميليدج إنه يستطيع "رؤية ذلك نوعًا ما، في الواقع"، مجادلًا بأن المكاسب تتجاوز بالفعل 10 أضعاف لبعض فئات العمل. كان أونيل هو الأكثر تحفظًا، حيث أجاب بـ "5 إلى 10" سنوات.
ثم دفع باتيل إلى أبعد من ذلك، واصفًا السيناريو بأنه "مجرد ASI في الأساس". رد شولمان: "أود أن أقول 3-4 سنوات"، مضيفًا أن أتمتة أبحاث الذكاء الاصطناعي في حد ذاتها "ليست من أصعب الأشياء بالنسبة للذكاء الاصطناعي، لأنها تتضمن الكثير من" العمل الذي يمكن للتقنيات الحالية القيام به بالفعل. كان التبادل ملحوظًا بسبب ضآلة المعارضة التي تلقاها التقدير من الباحثين الآخرين.
كيف سيتم تدريب الباحثين الآليين فعليًا
تناول جزء كبير من الحلقة آليات السيناريو الذي كان شولمان يسعره. وعندما سُئل عن كيفية تدريب أنظمة الذكاء الاصطناعي القادرة على أتمتة أبحاث الذكاء الاصطناعي، وصف شولمان "مزيجًا من التعلم من ردود الفعل البشرية لاستيعاب ذوق الباحثين، وإنشاء الكثير من بيئات التدريب التي تتضمن إجراء بحث متعدد الخطوات."
ترتبط هذه الإجابة بالمكان الذي تذهب إليه أموال الصناعة. إن صفقة جوجل التي أبرمت مؤخراً لشركة Mechanize، وهي شركة ناشئة تعمل على بناء بيئات عمل محاكاة لوكلاء التدريب، تعكس بالضبط هذا الرهان على أن أسس التدريب الأفضل - وليس فقط النماذج الأكبر - ستقود الجولة التالية من مكاسب القدرات. أشار شولمان أيضًا إلى صعوبة أساسية: من الصعب تحديد وظائف المكافأة المبنية على البيانات الطبيعية، والإشارات السطحية، مثل قبول المستخدم لتعديل التعليمات البرمجية، يمكن أن تؤدي إلى تضليل التدريب.
التقطير مقابل المركزية
تتعلق إحدى تنبؤات شولمان الأكثر واقعية ببنية الصناعة. وقال: "أعتقد أن التقطير هو الشيء الرئيسي الذي يحارب القوة المركزية"، بحجة أن القدرات المكتسبة من خلال التعلم المعزز يمكن نقلها إلى نماذج أصغر بسهولة نسبيًا، مما يؤدي إلى نشر الكفاءة المتاخمة للحدود إلى ما هو أبعد من الشركات القليلة التي يمكنها تحمل تكاليف التدريب على الحدود.
وفيما يتعلق بمسألة ما يبقى للبشر، كان شولمان قاطعا. وقال: "أود أن أقول إن الوظيفة الأخيرة للبشر، أو الدور الذي سيستمر للبشر لفترة أطول، هو تحديد الهدف وتحديد ما نريده بالفعل". عندما لخص باتل عبارة "الاصطفاف هو المهمة النهائية"، وافق شولمان على أن "الانسجام هو نوع من الإجابة"، في حين أشار إلى أنه يتحلل إلى معرفة الهدف الصحيح ومن ثم تحقيقه فعليًا.
أين تتناسب الحلقة مع نقاش الجدول الزمني
يجسد العنوان الفرعي للحلقة - "نحن لسنا قريبًا من السقف" - فحوى الحلقة الشاملة: الباحثون الذين يرون مدرجًا كبيرًا أمامهم، حتى وهم يتشككون في مدى وعورة المسار. تراوحت المناقشة بين ما يدفع تقدم المختبرات الصينية، وما إذا كان التعلم المعزز طويل المدى يمكن أن يثير ذكاءً عامًا، ولماذا بدأ مختبر RL العمل بشكل جيد كما بدأ بالفعل.
وقد اشتد النقاش العام حول الجداول الزمنية من جميع الأطراف هذا الشهر. أثار إعلان هوانغ "لقد وصل الذكاء الاصطناعي العام" شكوكًا من المحللين الذين قرأوه على أنه حالة تجارية وليس ادعاءً علميًا، في حين أخبر سام ألتمان، الرئيس التنفيذي لشركة OpenAI، الموظفين أن الشركة منفتحة على إبطاء التطوير المتطور مع تزايد المخاوف المتعلقة بالسلامة، وفقًا لبلومبرج. إن فترة شولمان الممتدة من ثلاث إلى أربع سنوات للتحسين الذاتي المتكرر تقع في مكان ما بين التسويق والوقف الاختياري - وهو تقدير عملي من شخص لديه سجل حافل في بناء التقنيات التي تقود هذا المجال الآن.
وسواء كان على حق أم لا، فسوف يعتمد على الأسئلة التي تناولتها اللجنة فقط: ما إذا كان التعلم المعزز يستمر في التعميم خارج بيئات التدريب، وما إذا كانت الفجوة بين الأداء المعياري والقيمة الاقتصادية الحقيقية مستمرة في التضييق.
ابق في صدارة الذكاء الاصطناعي
يناقش الباحثون في Frontier حدود الذكاء الاصطناعي علنًا – تابع القصة أثناء تطورها.
اقرأ المزيد من أخبار الذكاء الاصطناعي على AI Buzz Wire
