اوپن اے آئی نے جمعرات کو اپنا سب سے تفصیلی اکاؤنٹ شائع کیا کہ وہ کس طرح "مخالف کشید" کا پتہ لگاتا ہے اور اس میں خلل ڈالتا ہے - ایک مسابقتی نظام کو تربیت دینے کے لیے فرنٹیئر ماڈل کے آؤٹ پٹس کا غیر مجاز استعمال - اور متعدد رپورٹس کے مطابق، اس کے ماڈل تک براہ راست رسائی کی پیشکش کرنے سے پہلے تیسرے فریق کے گیٹ ویز اور ری سیلرز کو اس کی منظوری حاصل کرنے کی ضرورت پڑنے لگی ہے۔

اوپن اے آئی بلاگ پوسٹ میں بیان کردہ یہ حرکتیں، جس کا عنوان "مخالفانہ کشید کا مقابلہ کرنا" ہے اور سیمافور اور ای ویک کی کوریج میں، اس بات کی ایک اہم سختی کی نشاندہی کرتی ہے کہ کمپنی کس طرح کنٹرول کرتی ہے کہ کون اپنے ماڈلز کی صلاحیتوں کو دوبارہ تقسیم کر سکتا ہے - ایک تبدیلی جس کے حقیقی نتائج ڈویلپرز، اسٹارٹ اپس اور انٹرپرائزز کے لیے ہیں جو OpenAI سسٹم تک رسائی حاصل کرتے ہیں۔

کیوں اوپن اے آئی ڈسٹلیشن کو حفاظتی مسئلہ سمجھتا ہے۔

ڈسٹلیشن مشین لرننگ کی ایک معیاری تکنیک ہے جس میں ایک ماڈل دوسرے کے نتائج سے سیکھتا ہے۔ اپنے آپ میں، OpenAI نوٹ کرتا ہے، یہ نہ تو غیر قانونی ہے اور نہ ہی غیر معمولی۔ کمپنی کی تشویش وہ ہے جسے وہ مخالف کشید کہتے ہیں: ایک اداکار جس کی اجازت کے بغیر فرنٹیئر ماڈل کے آؤٹ پٹس کا استعمال کرتے ہوئے اسی طرح کی صلاحیتوں کے ساتھ دوسرے ماڈل کو تربیت دینے کے لیے، پھر موازنہ حفاظتی اقدامات کے بغیر اسے تعینات کرنا۔

اپنی بلاگ پوسٹ میں، OpenAI کا استدلال ہے کہ سائبرسیکیوریٹی اور بیالوجی جیسے دوہری استعمال والے ڈومینز میں خطرہ واضح ہے۔ ایک ایسا ماڈل جو محافظوں کو سافٹ ویئر کی کمزوریوں کو تلاش کرنے میں مدد کرتا ہے، ایک بار جب اس کی مہارتیں کمزور محافظوں والے سسٹم میں منتقل ہو جاتی ہیں، تو حملہ آور کو ان کا استحصال کرنے میں مدد مل سکتی ہے۔ کمپنی نے لکھا، "ایک مخالف ماڈل کی سائبر صلاحیتوں کو کھود سکتا ہے اور اس کے نتیجے میں آنے والے ماڈل کو سائبر حملے کرنے میں مدد کے لیے استعمال کر سکتا ہے جس میں اصل ماڈل مدد کرنے سے انکار کر دیتا،" کمپنی نے لکھا۔

سوچ کی زنجیر کی حفاظت

OpenAI کے دفاع کے مرکز میں وہی ہے جسے یہ محفوظ استدلال کہتے ہیں: درمیانی مراحل — سوچ کا سلسلہ — ایک ماڈل جواب کی طرف کام کرتے ہوئے اندرونی طور پر تیار ہوتا ہے۔ ان نشانات میں، کمپنی بتاتی ہے، حتمی جواب سے نکلنے والی معلومات پر مشتمل ہو سکتی ہے، جو انہیں کسی اور لیب کے ماڈل کے لیے تربیتی ڈیٹا کے طور پر خاص طور پر قیمتی بناتی ہے۔

OpenAI کا کہنا ہے کہ اس نے GPT-6.2 Astra اور GPT-6.2 Sol میں ریجننگ ٹریس نکالنے کے خلاف اپنے دفاع کو مضبوط کیا ہے۔ خودکار ریڈ ٹیمنگ کا استعمال کرتے ہوئے ایک داخلی انکولی تشخیص میں، کمپنی نے اطلاع دی کہ محفوظ استدلال کی بازیابی کے لیے حملے کی کامیابی کی اوسط شرح GPT-6 Astra کے خلاف 54.0% سے اس کے اصل تحفظات کے ساتھ GPT-6.2 Astra کے خلاف اپ ڈیٹ کردہ تحفظات کے ساتھ 0.2% تک گر گئی۔

اس کے اندرونی سائبر اسٹڈی نے کیا پایا

کمپنی نے داخلی مطالعہ کے نتائج بھی شیئر کیے کہ کس طرح سائبر صلاحیتیں کشید کے دوران منتقل ہوتی ہیں۔ طلباء کے ماڈلز کو کوڈنگ اور دفاعی سائبرسیکیوریٹی کاموں پر کام کرنے والے اساتذہ کے ماڈلز کے ذریعہ تیار کردہ ٹریجٹریز پر اچھی طرح سے تیار کیا گیا تھا۔ درست استدلال کے نشانات پر تربیت یافتہ طلباء نے عمومی طور پر صرف استدلال کے خلاصوں پر تربیت یافتہ طلباء سے بہتر کارکردگی کا مظاہرہ کیا، دونوں کی نگرانی کی گئی فائن ٹیوننگ کے بعد اور - سب سے بڑے تخمینے والے بجٹ کی جانچ کے بعد - کمک سیکھنے کے مزید دور کے بعد، OpenAI کے پوسٹ کے ساتھ دکھائے گئے بینچ مارکس کے مطابق۔

اس کا اثر ہر اس شخص کے لیے پریشان کن ہے جو امید کرتا ہے کہ قابلیت کی منتقلی کو سینیٹائزڈ آؤٹ پٹس شائع کرکے شامل کیا جاسکتا ہے: یہاں تک کہ استعمال کی پالیسیوں کے تحت اجازت دی گئی تعاملات، مجموعی طور پر، ایک طالب علم کو ماڈل کی مہارتیں سکھا سکتے ہیں جو استاد کے اصل میں انجام دینے والے کاموں سے آگے بڑھتے ہیں۔

گیٹ ویز اور ری سیلرز کو اب منظوری درکار ہے۔

تکنیکی اقدامات پالیسی میں تبدیلی کے ساتھ آتے ہیں۔ جمعرات سے، OpenAI کو AI ماڈل راؤٹرز اور گیٹ ویز کی ضرورت ہوگی جو تیسرے فریق کو پیشگی منظوری حاصل کرنے کے لیے اپنے ماڈلز تک براہ راست رسائی فراہم کریں، eWeek نے رپورٹ کیا۔ ضرورت اس اعلان پر استوار ہوتی ہے جو کمپنی نے اکتوبر میں کیا تھا جس میں بتایا گیا تھا کہ جب صارفین براہ راست یا ہوسٹنگ پارٹنرز اور ری سیلرز کے ذریعے اس کے ماڈلز تک رسائی حاصل کرتے ہیں تو حفاظتی تحفظات کا اطلاق کیسے ہونا چاہیے۔

اس فریم ورک کے eWeek کے خلاصے کے مطابق، شرکت کرنے والی خدمات سے تقابلی معیارات کو برقرار رکھنے کی توقع کی جاتی ہے تاکہ صارفین پابندیوں سے بچنے کے لیے فراہم کنندگان کو آسانی سے تبدیل نہ کر سکیں۔ یہ اقدامات تین مراحل پر محیط ہیں: تعیناتی سے پہلے خطرے کی تشخیص اور حفاظتی بائی پاس کی کوششوں کے خلاف جانچ؛ استعمال کے دوران نگرانی، شراکت داروں سے مشتبہ سرگرمی کی تحقیقات کی توقع کے ساتھ؛ اور خلاف ورزیاں ہونے کے بعد نفاذ کے اقدامات۔ Semafor نے اس تبدیلی کی خصوصیت کی کیونکہ OpenAI ایک ری سیلر ایکو سسٹم پر اپنی گرفت مضبوط کرتا ہے جو اس کے API کے ارد گرد تیزی سے ترقی کر رہا ہے۔

ڈویلپرز کے لیے اس کا کیا مطلب ہے۔

ڈویلپرز کے لیے، عملی اثر ایک نیا تعمیل سوال ہے جس سے وینڈر کی مستعدی کو شامل کیا جا سکتا ہے: آیا OpenAI ماڈلز کی پیشکش کرنے والا بیچوان ایسا کرنے کا مجاز ہے۔ ای ویک نے مشورہ دیا کہ وہ کاروبار جو ٹریفک کو ایگریگیٹرز کے ذریعے روٹ کرتے ہیں انہیں اپنے فراہم کنندہ کی منظوری کی حیثیت کی تصدیق کرنی چاہیے اور یہ کہ وہ اسناد اور ڈیٹا کو کیسے ہینڈل کرتا ہے۔

وسیع تر صنعت کے لیے، یہ اعلان اس بات کا اشارہ ہے کہ ماڈل فراہم کرنے والے اخذ کردہ صلاحیتوں کے کنٹرول کو تیزی سے دیکھتے ہیں — نہ صرف خود ماڈلز — جو کہ اہمیت رکھتا ہے۔ حالیہ برسوں میں ڈسٹلیشن کے تنازعات پورے میدان میں بھڑک اٹھے ہیں، اور OpenAI اب اپنا ردعمل لائسنسنگ تنازعہ کے طور پر نہیں بلکہ حفاظتی تقاضے کے طور پر تیار کر رہا ہے، جس کا اطلاق حیاتیات اور سائبرسیکیوریٹی کے خطرات پر ہوتا ہے۔

آگے کی سڑک

OpenAI کا کہنا ہے کہ وہ اس بات کا مطالعہ جاری رکھے گا کہ طالب علم کے مختلف ماڈلز اور ڈسٹلیشن ریسیپیز میں کتنی صلاحیت کی منتقلی ہوتی ہے، اور یہ دیگر لیبز کو اس کی کھوج اور نفاذ کے کام کو تیار کرنے کی دعوت دیتا ہے۔ آیا حریف تقابلی گیٹ وے کی منظوری کے نظام کو اپناتے ہیں - اور کیا صارفین اضافی رگڑ کو قبول کرتے ہیں - اس بات کا تعین کرنے میں مدد کرے گا کہ AI سسٹم کی اگلی نسل کیسے بنتی ہے، اور کس کو انہیں بنانے کی اجازت ہے۔

وکر سے آگے رہیں

کیا آپ AI ماڈلز، حفاظت اور پالیسی کے بارے میں تازہ ترین چاہتے ہیں جیسا کہ یہ ہوتا ہے؟ AI Buzz Wire پر بریکنگ AI نیوز کی پیروی کریں۔

مزید AI خبریں پڑھیں →