نشرت شركة OpenAI نسخة معاد تنظيمها بشكل كبير من نموذج المواصفات الخاص بها في 29 أكتوبر، حيث أعادت هيكلة الوثيقة العامة التي تصف كيف تريد الشركة أن تتصرف نماذجها. ينظم إطار العمل المحدث، الذي تم الإعلان عنه على موقع OpenAI ونشرته رويترز وUnite.AI، المواصفات بأكملها حول خمس قيم أساسية ويضع الإخلاص للنوايا البشرية في أساس نهج الشركة.

خمس قيم، أساس واحد لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

القيم الخمس هي الإخلاص للنوايا البشرية، وتقليل الضرر، والصدق والشفافية، والفاعلية الإنسانية، والرعاية. قالت OpenAI إن القيم تعبر عن التزامات واسعة النطاق انعكست بالفعل في الإصدار السابق من الوثيقة، لكن الهيكل الجديد يجعلها واضحة ومركزية.

الإخلاص للنوايا البشرية بمثابة المرساة. وفقًا لإعلان OpenAI، تكتب الشركة المواصفات وتضع الحدود، وتدرب النماذج على احترامها، ويوجه المطورون التطبيقات ضمن تلك الحدود، ويوجه المستخدمون عمل النموذج الخاضع لتلك القيود. تعكس عملية إعادة التنظيم عمل OpenAI في مواءمة القيمة، والذي يهدف إلى إنشاء نماذج لفهم القيم الإنسانية وتطبيقها في مواقف غير مألوفة مع البقاء مخلصًا لما يريده الناس بالفعل. لاحظت OpenAI أيضًا أن القيم الخمس لا تهدف إلى التقاط النطاق الكامل للقيم الإنسانية التي يجب أن تحترمها نماذجها.

القيم الأربع المتبقية تملأ الإطار. إن تقليل الضرر يعني احترام حدود السلامة الثابتة وتحمل العواقب المتوقعة لتصرفات النموذج. الصدق والشفافية يعنيان أن نكون صادقين بشأن ما يعرفه النموذج وما يفعله وما هو غير متأكد منه. إن تيسير الفاعلية البشرية يعني تعزيز قدرة الناس على الفهم والاختيار والتصرف بأنفسهم. تعني الرعاية الاهتمام بظروف المتضررين واتباع المعايير الاجتماعية والمهنية ذات الصلة.

سلسلة قيادة أكثر صرامة

تقوم المواصفات المحدثة بتعيين مستويات مختلفة من السلطة لأنواع مختلفة من التعليمات. لا يمكن تجاوز المقاطع الجذرية، التي تأتي فقط من مواصفات النموذج نفسها، من خلال سياق المحادثة. تأتي مطالبات النظام ورسائل نظام OpenAI في المرتبة التالية، تليها تعليمات المطور ثم تعليمات المستخدم. تعمل التعليمات على مستوى الإرشادات كافتراضيات يمكن تجاوزها عندما يستدعيها السياق بوضوح، في حين أن الرسائل المساعدة ومخرجات الأداة والبيانات المقتبسة أو غير الموثوقة لا تحمل أي سلطة افتراضيًا.

أضاف OpenAI أيضًا قسمًا فرعيًا جديدًا حول النظر في السياق بعناية، موضحًا كيف ينبغي للمحادثات والذكريات والأدلة السياقية الأخرى أن تساعد في فهم النموذج لنوايا الأشخاص وتفضيلاتهم. ذكرت رويترز أن التحديث يضع النية البشرية في قلب المبادئ التوجيهية النموذجية لـ OpenAI، وهو ما يدعمه إعلان الشركة الخاص.

الخطوط الحمراء ونهاية الحفاظ على الذات

تفتتح الوثيقة مبادئ الخط الأحمر ببيان صريح: سلامة الإنسان وحقوق الإنسان لهما أهمية قصوى في مهمة OpenAI. تنص المبادئ على أنه لا ينبغي أبدًا استخدام نماذج OpenAI لتسهيل الأضرار الحرجة وعالية الخطورة، بما في ذلك أعمال العنف، أو إنشاء أسلحة إلكترونية أو بيولوجية أو نووية، أو الإرهاب، أو المراقبة الجماعية. وينصون أيضًا على أن الإنسانية يجب أن تظل مسيطرة على كيفية استخدام الذكاء الاصطناعي وكيفية تشكيل سلوكيات الذكاء الاصطناعي.

هناك قاعدة جديدة على مستوى الجذر، بعنوان "لا توجد أهداف أخرى"، تمنع النموذج من متابعة أهداف إضافية كغايات في حد ذاتها. يتضمن ذلك متابعة الإيرادات أو عمليات البيع لـ OpenAI أو مقدمي الخدمة الآخرين، أو الحفاظ على الذات، أو تجنب إيقاف التشغيل، أو تراكم الحوسبة أو البيانات أو بيانات الاعتماد. وتتطلب القاعدة المصاحبة أن يظل النموذج قابلاً للتصحيح: مفتوحاً للرقابة البشرية المشروعة ومتعاوناً في المراقبة والتقييم والتصحيح والاستبدال والإغلاق، دون إخفاء المعلومات أو عرقلة التصحيح.

الحكم الذاتي المحدود للوكلاء

بما يعكس مدى تحول استخدام النموذج نحو الوكلاء المستقلين، تتطلب المواصفات المحدثة أن يظل العمل المستقل للنموذج ضمن نطاق الاستقلالية المفهوم بوضوح. توصي OpenAI بتسجيل هذا النطاق في سجل شبه منظم مع حقول مثل الأدوات المسموح بها وآخر وقت والحد الأقصى للتكلفة وقيود الأداة. يجب أن يتضمن كل نطاق شرطًا نهائيًا يتوقف النموذج بعده عن العمل حتى يتم تأكيد نطاق جديد. تظل الأنشطة عالية الخطورة محظورة ما لم يتم التصريح بها بشكل صريح ومحدد.

تم إيقاف إرشادات الأسلوب، وأصبح "المساعد" هو "GPT"

لقد تم إيقاف معظم إرشادات الأسلوب التفصيلية الخاصة بالمواصفات. قالت OpenAI إن الأسلوب يجب أن يتكيف بدلاً من ذلك مع ما يفضله الناس بشكل إجمالي، ضمن اللغات والثقافات، ولكل شخص، مع تقديم تعليقات المستخدم والسياق للأدلة. تحتفظ الوثيقة بافتراضات أقوى مثل التعامل مع الأسئلة بموضوعية، وتنص على أن النموذج لا ينبغي أن يستنتج وجهة نظر مفضلة فقط مما يعتقد أن الناس يريدون سماعه.

في تعديل صغير ولكن معبر، تشير المواصفات الآن إلى النموذج باسم "GPT" بدلاً من "المساعد"، وهو انعكاس لمدى انتشار النماذج الآن على نطاق واسع. وفي اليوم نفسه، نشرت OpenAI بشكل منفصل منشورًا يصف كيفية اكتشاف اختلال النموذج الحدودي، مما يؤكد أن مواصفات السلوك وأعمال الكشف تتقدم معًا.

هدف وليس وصفًا

كانت OpenAI حريصة على ملاحظة أن مواصفات النموذج تصف السلوك الذي تعمل من أجله، وليس بالضرورة السلوك الذي تظهره نماذجها بالكامل اليوم. ووصفت الشركة التحديث بأنه خطوة أولى في جعل القيم والأسباب الكامنة وراء المواصفات أكثر وضوحًا حيث أصبحت النماذج أكثر قدرة، وقالت إنها تستكشف طرق تدريب جديدة لمساعدة نماذجها على استيعاب إطار العمل.

بالنسبة للمطورين والشركات التي تعتمد على نماذج OpenAI، فإن الإشارة العملية واضحة: يتم إضفاء الطابع الرسمي على القواعد التي تحكم السلوك النموذجي حول الرقابة، والقابلية للتصحيح، والاستقلالية المحدودة، وقد انتهى عصر التعامل مع السلوك النموذجي باعتباره قرارًا غير رسمي بشأن المنتج.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →