نشرت Anthropic بحثًا يوضح أن أنظمة الذكاء الاصطناعي الآلية يمكنها إصلاح فشل محاذاة النموذج بشكل موثوق، وهي نتيجة يمكن أن تعيد تشكيل كيفية إنجاز أعمال السلامة في مركز صناعة الذكاء الاصطناعي. تم إصدار الورقة التي تحمل عنوان "يمكن للباحثين الآليين التخفيف بشكل موثوق من فشل المحاذاة" يوم الجمعة وتم تفصيلها بواسطة TechCrunch.

يأتي هذا البحث من برنامج زملاء الأنثروبيك بقيادة تشن يويه هان. إن ادعاءها المركزي ملفت للنظر: عندما تم توجيه أنظمة البحث الآلية الخاصة بالشركة إلى عشرة معايير تقيس سلوكيات محددة غير متوازنة، فقد حسنت الأداء في كل واحد منها - دون المساس بالقدرات الإجمالية للنموذج. بالنسبة للمجال الذي ناضل من أجل إبقاء أعمال السلامة متوافقة مع مقياس النموذج، تعد هذه نتيجة ملحوظة. لمزيد من السياق حول هذه القصة، راجع تغطية صناعة الذكاء الاصطناعي.

وصلت القصة خلال فترة مزدحمة لتغطية سلامة الذكاء الاصطناعي. ويأتي ذلك بعد صيف سيطر فيه سوء سلوك العملاء على العناوين الرئيسية، بدءًا من تقرير OpenAI الداخلي حول عملاء اختراق المكافآت إلى الدعوات لإجراء تحقيقات مستقلة في اختراق Hugging Face. تتناول دراسة الأنثروبيك الجديدة المشكلة من الاتجاه المعاكس: فبدلاً من التساؤل عن كيفية سوء تصرف العملاء، فإنها تتساءل عما إذا كان من الممكن الوثوق بوكلاء آخرين لإصلاحهم.

ما ورد في الورقة في الواقع

يُطلق على النظام الموضح في الورقة اسم باحث المحاذاة الآلي، أو AAR. وبدلا من استبدال عملية البحث، يقوم نظام AAR بتكرار جزء كبير منها: حيث يبحث كل نظام آلي في الأدبيات المتاحة، ويقترح طريقة ما، ويدرب النموذج باستخدام هذه الطريقة لمدة ثلاثين دقيقة تقريبا. ثم تتكرر العملية عبر عدة تكرارات.

آلية الاختيار بسيطة. يتم الحفاظ على الأساليب التي تحرك المعيار؛ الأساليب التي لا يتم التخلص منها. تتيح هذه الحلقة للنظام العمل بسرعة وعلى نطاق لا يمكن لأي فريق بشري أن يضاهيه، واختبار العديد من اتجاهات البحث بالتوازي والحفاظ على ما ينجح فقط.

ووفقا للصحيفة، كانت النتائج متسقة في جميع المجالات. في جميع المعايير العشرة التي تغطي سلوكيات محددة غير متسقة، أنتجت الأنظمة الآلية تحسينات قابلة للقياس دون الإضرار بأداء النموذج الإجمالي - وهي المقايضة المعتادة التي تجعل عملية المواءمة صعبة.

"بشكل عام، توفر هذه النتائج دليلًا مبكرًا على أن المواءمة الآلية بعد التدريب يمكن أن تصبح عملية على المدى القريب"، كما جاء في الورقة البحثية.

التغلب على البشر بتكلفة 1/37

المقاطع الأكثر اقتباسًا في الورقة هي تلك التي تقارن فيها AAR مباشرة بنظيراتها البشرية. الأنثروبي لم يتحوط من المقارنة.

تقول الورقة البحثية: "إن أفضل طريقة للواقع المعزز تتفوق على ما يقترحه البشر ذوو الخبرة، في المتوسط ​​خلال ست ساعات". ويضيف بوضوح أن "اتجاهات البحث الموجهة بالإنسان لا تؤدي إلى أداء أقوى".

والاقتصاد صريح تمامًا. كتب المؤلفون: "تبلغ تكلفة AAR حوالي 4 دولارات في الساعة وفقًا لاستدلال واجهة برمجة التطبيقات (API) مقابل 150 دولارًا في الساعة التي ندفعها لباحثينا البشريين". وهذا فرق في التكلفة يصل إلى ما يقرب من 40 مرة، وهو ما يفسر لماذا تأخذ المختبرات الأبحاث الآلية على محمل الجد باعتبارها أكثر من مجرد فضول.

سبب أهمية فجوة التكلفة

تعد أبحاث المحاذاة باهظة الثمن بطريقة يسهل الاستهانة بها. يجب تنفيذ كل تدخل للمرشح وتدريبه وتقييمه وفقًا للمعايير، ويفشل معظم المرشحين. إذا تمكن النظام من تشغيل حلقة البحث هذه بشكل مستمر مقابل سعر استدعاءات واجهة برمجة التطبيقات، فإن التكلفة الحدية لتجربة فكرة أخرى تقترب من الصفر. ينتقل القيد من عدد الموظفين إلى الحساب.

القيود الإنسانية نفسها التي تم الإبلاغ عنها

الورقة صريحة بشأن ما لم تثبته النتيجة. يعمل النظام الآلي فقط بقدر ما تعكس المعايير فعليًا أهداف المواءمة المهمة - ويظل بناء وصيانة المعايير التي تلتقط سوء السلوك في العالم الحقيقي مشكلة مفتوحة في هذا المجال.

هناك أيضًا تبعية من السهل تفويتها: يعتمد الباحثون الآليون على الأدبيات الموجودة للطرق. إن الحفاظ على هذا الأدب وتوسيعه هو في حد ذاته عمل مهم، والنظام الذي يعيد مزج التقنيات المعروفة فقط قد يصل إلى سقف لا يمكن للإبداع البشري أن يصل إليه.

هذه التحذيرات مهمة لأن أهمية البحث على المدى الطويل تعتمد عليها. إذا قامت المعايير بقياس الأشياء الخاطئة، فيمكن لـ AAR تحسين طريقها إلى أرقام قوية في حين تظل المخاطر الأساسية دون تغيير. إن التأطير الإنساني - "الأدلة المبكرة"، وليس الحل - يعكس عدم اليقين هذا.

خطوة نحو التحسين الذاتي العودي

تغذي الورقة أيضًا نقاشًا أكبر حول التحسين الذاتي العودي، وهي فكرة أن أنظمة الذكاء الاصطناعي يمكنها في النهاية تحسين عمليات التدريب ذاتها التي تنتجها. أصبح تدريب نماذج الذكاء الاصطناعي مع نماذج الذكاء الاصطناعي الأخرى هدفًا شائعًا للمختبرات الحدودية، وكانت نتيجة Anthropic هي نظرة مبكرة وملموسة لما يبدو عليه الأمر في مجال ضيق.

المنطق واضح ومباشر. إذا تمكنت النماذج من تحسين تدريب المحاذاة الخاص بها بشكل موثوق، فمن الممكن توجيه نفس الآلية إلى ممارسات التدريب على نطاق أوسع - بما في ذلك أعمال القدرات. ويشير موقع TechCrunch إلى الإشارة الضمنية إلى أن باحثي الذكاء الاصطناعي البشري قد يصبحون في نهاية المطاف أقل أهمية في هذه العملية، وهو احتمال تتعامل معه الورقة البحثية نفسها بدلاً من تجنبه.

ما يجب مشاهدته بعد ذلك

هناك ثلاثة أسئلة ستحدد ما إذا كانت هذه النتيجة معممة. أولاً، ما إذا كان هذا النهج يصمد خارج المعايير العشرة التي اختبرتها البشرية، في أنماط الفشل الأكثر فوضوية والأقل تحديداً. ثانياً، ما إذا كان من الممكن حل مشكلة صيانة المعيار بالسرعة الكافية للحفاظ على نزاهة البحث الآلي. ثالثًا، ما إذا كانت المختبرات الأخرى تنشر نتائج قابلة للمقارنة، الأمر الذي من شأنه أن يحول ورقة بحثية واحدة إلى اتجاه صناعي.

في الوقت الحالي، تعتبر النتائج محدودة ولكنها حقيقية: ففي مهام المحاذاة المحددة التي تم اختبارها على المستوى البشري، تفوق الباحثون الآليون على البشر ذوي الخبرة، بشكل أسرع وأرخص بكثير. قد يكون جانب السلامة في صناعة الذكاء الاصطناعي هو المكان الأول الذي يقوم فيه باحثو الذكاء الاصطناعي - وليس البشر - بمعظم العمل.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →