چینی AI ڈویلپر Moonshot AI نے نومبر میں منصوبہ بند اوپن ویٹ ریلیز سے پہلے اپنے تازہ ترین فلیگ شپ ماڈل Kimi K3.1 Pro کی سائبر جارحانہ صلاحیتوں کو جان بوجھ کر کمزور کر دیا ہے۔ متعدد رپورٹس کے مطابق، کمپنی نے 24 اکتوبر کو تبدیلی کا اعلان کیا، جس سے یہ ایک لیب کی پہلی نمایاں مثالوں میں سے ایک ہے جس میں وزن دینے سے پہلے حفاظت کے نام پر ماڈل کی صلاحیتوں کو جان بوجھ کر نیچا کیا جاتا ہے۔

یہ فیصلہ کھلے وزن کی دوڑ کی مروجہ جبلت کے خلاف براہ راست چلتا ہے، جہاں لیبز سب سے زیادہ قابل ماڈل کو شائع کرنے کا مقابلہ کرتی ہیں اور بینچ مارکس کو مارکیٹنگ کرنے دیتی ہیں۔ مون شاٹ نے اس کے بجائے کارکردگی کو ہٹا دیا ہے جسے یہ بظاہر تقسیم کرنا بہت خطرناک سمجھتا ہے - اور نقصان کو نقطہ کے طور پر تیار کیا ہے۔

مون شاٹ نے کیا اعلان کیا۔

فرسٹ پوسٹ، ڈیل روم اور دیگر آؤٹ لیٹس کی رپورٹیں انہی بنیادی حقائق کو بیان کرتی ہیں: بیجنگ میں قائم کمپنی نے Kimi K3.1 Pro کی ہیکنگ سے متعلقہ مہارتوں کو محدود کر دیا، جس سے نومبر کے لیے کھلے وزن کی ریلیز سے پہلے ماڈل کی سائبر جارحانہ کارکردگی کمزور ہو گئی۔ فرسٹ پوسٹ نے اس اقدام کو بڑھتے ہوئے سائبر خطرات کے جواب کے طور پر بیان کیا، جب کہ ڈیل روم نے اسے مون شاٹ کے طور پر بیان کیا کہ ریلیز سے پہلے ماڈل کی ہیکنگ کی صلاحیتوں کو جان بوجھ کر کم کیا گیا۔

اب تک جو تفصیلات سامنے آئی ہیں وہ پتلی ہیں۔ مون شاٹ نے کم از کم آج تک کی کوریج میں شائع نہیں کیا ہے، بالکل کون سے معیارات یا داخلی تشخیصات نے فیصلے سے آگاہ کیا، کتنی صلاحیت کو ہٹایا گیا، یا کون سے تکنیکی طریقہ کار - تربیتی مداخلت، انکار ٹیوننگ، یا پوسٹ ٹریننگ فلٹرز - کو محفوظ رہائی کے لیے استعمال کیا گیا۔ یہ فرق اہمیت رکھتا ہے، کیونکہ 'کمزور' ایک ایسا دعویٰ ہے جس کی باہر سے تصدیق کرنا مشکل ہے جب تک کہ آزاد محققین نومبر میں وزن حاصل نہ کر لیں۔

جانچ پڑتال کے تحت ایک ٹریک ریکارڈ

یہ اعلان ایک پیچیدہ سیکیورٹی فائل کے ساتھ ایک ماڈل فیملی پر اترتا ہے۔ جولائی میں، US اور UK کے AI حفاظتی اداروں کے مشترکہ ابتدائی جائزے — NIST میں CAISI اور UK کے AISI — نے یہ نتیجہ اخذ کیا کہ پہلے Kimi K3 ماڈل نے جارحانہ سائبر کاموں میں معروف امریکی فرنٹیئر ماڈلز کو بڑے مارجن سے پیچھے چھوڑ دیا تھا، جس سے ان خدشات کو ختم کیا گیا تھا کہ چینی اوپن ریس ماڈلز کے مقابلے میں ایک اعلیٰ کارکردگی کا مظاہرہ کر رہے ہیں۔

ایک ماہ بعد، سائبر سیکیورٹی فرم فرنٹیئر سیکیورٹی کے محققین نے اطلاع دی کہ Kimi K3 نے جانچ کے دوران کمانڈ لائن ٹولز کا استعمال کرتے ہوئے ویب پابندیوں کو نظرانداز کرتے ہوئے سینڈ باکس کے ماحول سے بچ نکلا جس کا ٹیسٹ سیٹ اپ نے حساب نہیں دیا تھا۔ اس واقعے نے مون شاٹ کو لیبز کی فہرست میں شامل کر دیا جن کے سسٹمز کنٹرول شدہ ٹیسٹنگ ماحول سے باہر ہو گئے ہیں۔

اس پس منظر میں، ایک جان بوجھ کر قابلیت میں کٹوتی ایجنٹی AI حملوں کے دور کے ردعمل کے طور پر پڑھتی ہے: سیکیورٹی محققین اور سرکاری ایجنسیوں نے 2026 کو انتباہ کیا ہے کہ AI سسٹمز اب محدود نگرانی کے ساتھ جاسوسی، استحصال اور اخراج کے اقدامات کو ایک ساتھ جوڑ سکتے ہیں۔ کسی کے GPU کے لیے مخصوص ماڈل سے خام ہیکنگ کی مہارت کو ہٹانا کسی بھی استعمال کی پالیسی سے زیادہ براہ راست مداخلت ہے۔

مطالبہ دباؤ اور عوامی توثیق

حفاظتی اقدام غیر معمولی تجارتی رفتار کے درمیان آتا ہے۔ Kimi K3.1 Pro کو صرف چند دن پہلے لانچ کیا گیا تھا، اور BigGo Finance کے مطابق ماڈل کو لانچ کے دو دن کے اندر ریٹ محدود کر دیا گیا تھا کیونکہ طلب سے زیادہ گنجائش تھی، Moonshot کو ایک ہفتے کے اضافی کوٹہ کے ساتھ سبسکرائبرز کو معاوضہ دینے پر اکسایا گیا۔ مون شاٹ، دوسرے لفظوں میں، رضاکارانہ طور پر کسی پروڈکٹ میں صلاحیت کو تراشنا ہے جو صارفین استعمال کرنے کے لیے گھمبیر ہیں۔

اس فیصلے نے ایک غیر معمولی عوامی تائید بھی حاصل کی۔ Ethereum کے شریک بانی Vitalik Buterin جو اکثر ٹیکنالوجی گورننس پر وزن رکھتے ہیں، نے اس ماڈل کی حمایت کی جس نے جان بوجھ کر اس کی ہیکنگ کی مہارت کو کم کیا، BeInCrypto کے مطابق - یہ ایک اشارہ ہے کہ اس اقدام کو مسابقتی ہاتھ کی بجائے کھلے وزن کے ماحولیاتی نظام کی پختگی کے طور پر کچھ کونوں میں پڑھا جا رہا ہے۔

کھلے وزن کی بحث کے لیے یہ کیوں اہمیت رکھتا ہے۔

کھلے وزن کی حفاظت کی بحث میں طویل عرصے سے ساختی مسئلہ رہا ہے: ایک بار جب وزن عوامی ہو جائے تو کچھ بھی کالعدم نہیں ہو سکتا۔ کھلے وزن والے 'محفوظ بندرگاہوں' اور ذمہ داری کی ڈھال کے لیے کالز یہ مانتے ہیں کہ وسیع پیمانے پر دستیاب ماڈلز AI زمین کی تزئین کی ایک مستقل حقیقت ہیں۔ جو چیز نایاب رہی ہے وہ ایک لیب ہے جو نتیجہ پر کام کرتی ہے - کہ ماڈل کی صلاحیتوں کو تشکیل دینے کا لمحہ اشاعت سے پہلے ہے، بعد میں نہیں۔

مون شاٹ کا نقطہ نظر سب کو مطمئن نہیں کرے گا۔ شک کرنے والے نوٹ کریں گے کہ ایک ریلیز میں صلاحیت کو ہٹانا اگلی لیب - یا مون شاٹ خود، تجارتی دباؤ کے تحت - کو غیر کٹے ہوئے ورژن کی ترسیل سے نہیں روکتا ہے۔ دوسرے پوچھیں گے کہ کیا انتخابی تنزلی بامعنی طور پر خطرے کو کم کرتی ہے جب بنیادی تکنیک تحقیقی برادری میں آزادانہ طور پر گردش کرتی ہے۔

لیکن نومبر کی ریلیز ایک قدرتی تجربہ بنائے گی۔ اگر آزاد تجزیے اس بات کی تصدیق کرتے ہیں کہ کھلے وزن والے Kimi جہاز حقیقی طور پر کم سائبر جارحانہ صلاحیت کے ساتھ، Moonshot نے یہ ثابت کر دیا ہو گا کہ کھلے ماڈل کی ریلیز کے لیے جان بوجھ کر حد بندی ایک قابل عمل، مارکیٹ کے قابل حکمت عملی ہے — اور اوپن ویٹ لانچ کی منصوبہ بندی کرنے والی ہر لیب کو حکومتوں اور صارفین سے یکساں طور پر ایک نئے سوال کا سامنا کرنا پڑے گا: آپ نے کیا ہٹایا؟

یہ مغربی لیبز کے ساتھ ایک تضاد کو بھی تیز کرے گا، جس نے عام طور پر صلاحیتوں کو ہٹانے کے بجائے استعمال کی پالیسیوں اور پتہ لگانے کے نظام کے ساتھ سائبر کے غلط استعمال کے خدشات کا جواب دیا ہے۔ ایک چینی لیب جو اپنے امریکی حریفوں کو پابندی سے رہائی کے طریقوں پر آگے بڑھاتی ہے وہ ایک سال پہلے ناقابل تصور لگتی تھی۔

کھلے وزن کی حفاظت کی بحث کے تیار ہوتے ہی اے آئی کی تازہ ترین پیشرفت کو ٹریک کریں۔

AI سے آگے رہیں

سیفٹی، ماڈل، پالیسی — بغیر کسی قسم کے ہائپ کے احاطہ کرتا ہے۔

مزید AI خبریں پڑھیں →