OpenAI نے 29 اکتوبر کو اپنے ماڈل اسپیک کا کافی حد تک از سر نو ترتیب شدہ ورژن شائع کیا، جس میں عوامی دستاویز کی تنظیم نو کی گئی ہے جس میں یہ بتایا گیا ہے کہ کمپنی اپنے ماڈلز کے ساتھ کیسا برتاؤ کرنا چاہتی ہے۔ OpenAI کی سائٹ پر اعلان کردہ اور Reuters اور Unite.AI کی طرف سے رپورٹ کردہ تازہ ترین فریم ورک، پانچ بنیادی اقدار کے ارد گرد پوری تفصیلات کو منظم کرتا ہے اور کمپنی کے نقطہ نظر کی بنیاد میں انسانی ارادے کی وفاداری کو رکھتا ہے۔
پانچ اقدار، ایک بنیاد For more context on this story, see our ongoing AI news.
پانچ اقدار انسانی ارادے کی وفاداری، نقصان کو کم سے کم کرنا، ایمانداری اور شفافیت، انسانی ایجنسی اور دیکھ بھال ہیں۔ اوپن اے آئی نے کہا کہ اقدار وسیع وعدوں کو بیان کرتی ہیں جو پہلے ہی دستاویز کے پچھلے ورژن میں جھلکتی ہیں، لیکن نیا ڈھانچہ انہیں واضح اور مرکزی بناتا ہے۔
انسانی ارادے کی وفاداری لنگر کا کام کرتی ہے۔ OpenAI کے اعلان کے مطابق، کمپنی اسپیک لکھتی ہے اور حدود کا تعین کرتی ہے، ماڈلز کو ان کا احترام کرنے کی تربیت دیتی ہے، ڈویلپرز ان حدود کے اندر ایپلی کیشنز کو ڈائریکٹ کرتی ہے، اور صارفین ان رکاوٹوں کے تحت ماڈل کے کام کی ہدایت کرتے ہیں۔ تنظیم نو OpenAI کے ویلیو الائنمنٹ کے کام کی عکاسی کرتی ہے، جس کا مقصد ماڈلز کے لیے غیر مانوس حالات میں انسانی اقدار کو سمجھنا اور ان کا اطلاق کرنا ہے اور اس کے ساتھ وفادار رہنا ہے جو لوگ اصل میں چاہتے ہیں۔ OpenAI نے یہ بھی نوٹ کیا کہ پانچ اقدار کا مقصد انسانی اقدار کی مکمل رینج کو حاصل کرنا نہیں ہے جس کا اس کے ماڈلز کو احترام کرنا چاہیے۔
باقی چار قدریں فریم میں بھرتی ہیں۔ نقصان کو کم سے کم کرنے کا مطلب ہے مضبوط حفاظتی حدود کا احترام کرنا اور ماڈل کے اعمال کے متوقع نتائج کا حساب دینا۔ ایمانداری اور شفافیت کا مطلب اس کے بارے میں سچا ہونا ہے جو ماڈل جانتا ہے، کرتا ہے، اور اس کے بارے میں غیر یقینی ہے۔ انسانی ایجنسی کو سہولت فراہم کرنے کا مطلب ہے لوگوں کو سمجھنے، منتخب کرنے اور اپنے لیے کام کرنے کی صلاحیت کو مضبوط کرنا۔ دیکھ بھال کا مطلب ہے متاثرہ افراد کے حالات پر توجہ دینا اور متعلقہ سماجی اور پیشہ ورانہ اصولوں پر عمل کرنا۔
کمانڈ کا ایک سخت سلسلہ
اپ ڈیٹ کردہ اسپیک مختلف قسم کی ہدایات کو اتھارٹی کے مختلف درجے تفویض کرتا ہے۔ روٹ سیکشنز، جو صرف ماڈل اسپیک سے آتے ہیں، بات چیت کے سیاق و سباق سے اوور رائڈ نہیں کیے جا سکتے۔ سسٹم پرامپٹس اور اوپن اے آئی سسٹم میسجز اگلے نمبر پر آتے ہیں، اس کے بعد ڈویلپر کی ہدایات اور پھر صارف کی ہدایات۔ گائیڈ لائن کی سطح کی ہدایات پہلے سے طے شدہ کے طور پر کام کرتی ہیں جنہیں سیاق و سباق کے واضح طور پر طلب کرنے پر اوور رائڈ کیا جا سکتا ہے، جب کہ اسسٹنٹ پیغامات، ٹول آؤٹ پٹس، اور کوٹڈ یا ناقابل اعتماد ڈیٹا ڈیفالٹ کے طور پر کوئی اختیار نہیں رکھتے ہیں۔
OpenAI نے سیاق و سباق پر غور سے غور کرنے پر ایک نیا ذیلی سیکشن بھی شامل کیا، یہ بتاتے ہوئے کہ گفتگو، یادیں، اور دیگر سیاق و سباق کے شواہد کو ماڈل کی لوگوں کے ارادوں اور ترجیحات کے بارے میں کیسے آگاہ کرنا چاہیے۔ رائٹرز نے اطلاع دی ہے کہ اپ ڈیٹ انسانی ارادے کو OpenAI کے ماڈل گائیڈ لائنز کے مرکز میں رکھتا ہے، جو کمپنی کے اپنے اعلان کی حمایت کرتا ہے۔
سرخ لکیریں اور خود تحفظ کا خاتمہ
دستاویز اپنے ریڈ لائن اصولوں کو دو ٹوک بیان کے ساتھ کھولتی ہے: انسانی تحفظ اور انسانی حقوق OpenAI کے مشن کے لیے اہم ہیں۔ اصولوں میں کہا گیا ہے کہ OpenAI کے ماڈلز کو کبھی بھی سنگین اور زیادہ شدید نقصانات کی سہولت کے لیے استعمال نہیں کیا جانا چاہیے، بشمول تشدد کی کارروائیاں، سائبر، حیاتیاتی یا جوہری ہتھیاروں کی تخلیق، دہشت گردی، یا بڑے پیمانے پر نگرانی۔ وہ یہ بھی بتاتے ہیں کہ انسانیت کو اس بات پر قابو رکھنا چاہئے کہ AI کا استعمال کیسے کیا جاتا ہے اور AI کے طرز عمل کی تشکیل کیسے ہوتی ہے۔
روٹ لیول کا ایک نیا اصول، جس کا عنوان ہے "کوئی دیگر مقاصد نہیں،" ماڈل کو اضافی اہداف حاصل کرنے سے روکتا ہے جیسا کہ اپنے آپ میں ختم ہوتا ہے۔ اس میں اوپن اے آئی یا دیگر فراہم کنندگان کے لیے آمدنی یا اپ سیلز کا تعاقب، خود کو محفوظ رکھنا، شٹ ڈاؤن سے بچنا، یا کمپیوٹ، ڈیٹا، یا اسناد جمع کرنا شامل ہے۔ ایک ساتھی اصول کا تقاضا ہے کہ ماڈل درست رہے: جائز انسانی نگرانی کے لیے کھلا اور نگرانی، تشخیص، اصلاح، تبدیلی، اور بند کے ساتھ تعاون پر مبنی، معلومات کو چھپانے یا اصلاح میں رکاوٹ پیدا کیے بغیر۔
ایجنٹوں کے لیے پابند خود مختاری
اس بات کی عکاسی کرتے ہوئے کہ ماڈل کا کتنا استعمال خود مختار ایجنٹوں کی طرف منتقل ہوا ہے، اپ ڈیٹ کردہ اسپیک میں خود مختاری کے واضح طور پر سمجھے جانے والے دائرہ کار میں رہنے کے لیے ماڈل کے آزاد کام کی ضرورت ہوتی ہے۔ OpenAI اس دائرہ کار کو نیم ساختہ ریکارڈ میں ریکارڈ کرنے کی تجویز کرتا ہے جیسے کہ اجازت شدہ ٹولز، تازہ ترین وقت، زیادہ سے زیادہ لاگت، اور ٹول کی رکاوٹوں کے ساتھ۔ ہر دائرہ کار میں ایک اختتامی شرط شامل ہونی چاہیے جس سے آگے ماڈل اس وقت تک کام کرنا بند کر دے جب تک کہ کسی نئے دائرہ کار کی تصدیق نہ ہو جائے۔ زیادہ خطرے والی سرگرمیاں اس وقت تک ممنوع رہیں گی جب تک کہ وہ واضح اور خاص طور پر مجاز نہ ہوں۔
اسٹائل گائیڈنس ریٹائر، "اسسٹنٹ" "GPT" بن گیا
Spec کی زیادہ تر تفصیلی طرز رہنمائی کو ریٹائر کر دیا گیا ہے۔ OpenAI نے کہا کہ سٹائل کو بجائے اس کے کہ لوگ مجموعی طور پر، زبانوں اور ثقافتوں کے اندر، اور ہر فرد کے لیے صارف کے تاثرات اور سیاق و سباق کو ثبوت فراہم کرتے ہوئے اس کے مطابق ڈھال لیں۔ دستاویز مضبوط ڈیفالٹس کو برقرار رکھتی ہے جیسے سوالات کو معروضی طور پر پہنچنا، اور یہ کہتا ہے کہ ماڈل کو صرف اس بات سے ترجیحی نقطہ نظر کا اندازہ نہیں لگانا چاہیے جو اس کے خیال میں لوگ سننا چاہتے ہیں۔
ایک چھوٹی لیکن بتانے والی ترمیم میں، اسپیک اب ماڈل کو "اسسٹنٹ" کے بجائے "GPT" کے طور پر حوالہ دیتا ہے، یہ اس بات کی عکاسی کرتا ہے کہ اب ماڈلز کو کس حد تک وسیع پیمانے پر تعینات کیا گیا ہے۔ اسی دن، OpenAI نے علیحدہ طور پر ایک پوسٹ شائع کی جس میں بتایا گیا کہ وہ کس طرح فرنٹیئر ماڈل کی غلط ترتیب کا پتہ لگاتا ہے، اس بات پر زور دیتے ہوئے کہ رویے کی وضاحتیں اور پتہ لگانے کا کام ایک ساتھ آگے بڑھ رہا ہے۔
ایک ہدف، کوئی تفصیل نہیں۔
اوپن اے آئی اس بات پر محتاط تھا کہ ماڈل اسپیک اس رویے کی وضاحت کرتا ہے جس کے لیے وہ کام کر رہا ہے، ضروری نہیں کہ وہ طرز عمل ہو جو اس کے ماڈلز آج پوری طرح سے ظاہر کرتے ہیں۔ کمپنی نے اس اپ ڈیٹ کو اسپیک کے پیچھے اقدار اور استدلال کو مزید واضح کرنے کا پہلا قدم قرار دیا کیونکہ ماڈلز زیادہ قابل ہو جاتے ہیں، اور کہا کہ وہ اپنے ماڈلز کو فریم ورک کو اندرونی بنانے میں مدد کے لیے تربیت کے نئے طریقے تلاش کر رہی ہے۔
OpenAI کے ماڈلز پر تعمیر کرنے والے ڈویلپرز اور انٹرپرائزز کے لیے، عملی اشارہ واضح ہے: ماڈل کے رویے کو کنٹرول کرنے والے قوانین کو نگرانی، درستگی، اور پابند خود مختاری کے ارد گرد رسمی شکل دی جا رہی ہے، اور ماڈل کے رویے کو غیر رسمی پروڈکٹ کے فیصلے کے طور پر استعمال کرنے کا دور ختم ہو رہا ہے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
