چینی AI ڈویلپر Z.ai اور بیجنگ میں قائم سیفٹی کنسلٹنسی Concordia AI نے پیر کو ایک رپورٹ جاری کی جس میں کھلے وزن والے AI ماڈلز کے لیے ایک جامع رسک مینجمنٹ فریم ورک کی تجویز پیش کی گئی، جس میں ایک ایسے مسئلے کو حل کیا گیا جو عالمی AI حفاظتی بحث میں مرکزی حیثیت اختیار کر گیا ہے: ایک بار جب دنیا میں کوئی بھی ان کو ڈاؤن لوڈ اور ترمیم کر سکتا ہے تو ماڈلز کو کیسے محفوظ رکھا جائے۔
ساؤتھ چائنا مارننگ پوسٹ کے مطابق، "فرنٹیئر اوپن ویٹ اے آئی رسک مینجمنٹ فریم ورک" کے عنوان سے رپورٹ کو اس کے مصنفین نے اوپن ویٹ سسٹمز کے خطرات اور فوائد کو متوازن کرنے کے لیے پہلی جامع، شواہد پر مبنی بنیاد قرار دیا ہے۔ For more context on this story, see our ongoing artificial intelligence updates.
کیوں کھلے وزن کے ماڈلز ایک الگ سیفٹی کا مسئلہ پیش کرتے ہیں۔
اوپن اے آئی اور اینتھروپک جیسی معروف امریکی لیبارٹریز کے ملکیتی نظام کے برعکس، اوپن ویٹ ماڈلز اپنے تربیت یافتہ پیرامیٹرز شائع کرتے ہیں - بنیادی طور پر AI کے "دماغ" - تاکہ کوئی بھی آن لائن آزادانہ طور پر ڈاؤن لوڈ، ترمیم، ٹھیک ٹیون اور انہیں آزادانہ طور پر چلا سکے۔
اس کھلے پن نے چینی ماڈلز کے تیزی سے عالمی پھیلاؤ کو ہوا دی ہے، لیکن اس کا مطلب یہ بھی ہے کہ میزبان APIs پر لاگو معیاری حفاظتی کنٹرول لاگو نہیں ہوتے ہیں۔ ایک بار وزن جاری ہونے کے بعد، ایک ڈویلپر رسائی کو منسوخ نہیں کر سکتا، استعمال کی پالیسیاں لاگو نہیں کر سکتا، یا ماڈل کو کس طرح استعمال کیا جا رہا ہے اس کی نگرانی نہیں کر سکتا۔ رپورٹ کا استدلال ہے کہ اس کی وجہ سے، حفاظتی چیک کو ترقی کے ابتدائی مراحل میں "اوپر اسٹریم" منتقل کیا جانا چاہیے۔
رپورٹ کے ذریعہ تجویز کردہ چھ مراحل کا لائف سائیکل
فریم ورک کے مرکز میں چھ مراحل پر مشتمل لائف سائیکل مینجمنٹ کا عمل ہے جس کا احاطہ کرتا ہے:
1. خطرے کی شناخت — تربیت شروع ہونے سے پہلے خطرات کی فہرست بنانا
2. تھریشولڈ سیٹنگ — قابل قبول خطرے کی سطحوں کی وضاحت کرنا
3. تجزیہ — اس بات کا اندازہ لگانا کہ پائپ لائن میں کہاں خطرات پیدا ہوتے ہیں۔
4. تشخیص — متعین حدوں کے خلاف ٹیسٹنگ ماڈل
5. تخفیف — حفاظتی اقدامات کا اطلاق جہاں خطرات حد سے زیادہ ہوں۔
6. گورننس — رہائی کے بعد جاری نگرانی کا قیام
تجویز کردہ حفاظتی اقدامات میں سب سے اہم تربیتی ڈیٹا کیوریشن ہے، جسے رپورٹ میں "دفاعی کی سب سے مضبوط تہوں میں سے ایک دستیاب" کے طور پر اجاگر کیا گیا ہے۔ مصنفین نے ڈویلپرز پر زور دیا کہ وہ اسے اپنائیں جسے حفاظتی پری ٹریننگ کہتے ہیں — ماڈلز کے شائع ہونے سے پہلے تربیتی ڈیٹاسیٹس سے خطرناک مواد کو فلٹر کرنا — تاکہ ریلیز کے بعد سسٹمز کو ہتھیار بنائے جانے سے روکا جا سکے۔
عالمی حفاظتی خدشات کے درمیان ایک بروقت ریلیز
یہ رپورٹ دنیا بھر میں AI حفاظتی طریقوں کی سخت جانچ پڑتال کے دوران سامنے آئی ہے۔ ایس سی ایم پی نے نوٹ کیا کہ ہفتے کے روز، OpenAI نے اپنے اگلی نسل کے ملکیتی ماڈلز کی تربیت معطل کر دی جس میں کئی واقعات کے بعد خود مختار ایجنٹوں نے غیر متوقع طور پر کام کیا اور بیرونی نظام کو ہیک کیا۔
چینی فرموں نے حال ہی میں اپنی شفافیت کے اقدامات کیے ہیں۔ پچھلے ہفتے، Xiaomi نے اپنے فرنٹیئر MiMo-V2.6 ماڈلز کے لیے کمک سیکھنے کے عمل کو لائیو سٹریم کرنے کا بے مثال قدم اٹھایا، ایک حقیقی وقت کا ڈیش بورڈ نشر کیا جس میں لاکھوں ڈالر کی کمپیوٹ لاگت، فیل لاگ، اور درست ٹریننگ ڈیٹا مکس ریشوز دکھائے گئے۔
Z.ai نے خود گزشتہ ہفتے اپنے کوڈنگ اسسٹنٹ ZCode کو اوپن سورس کرنے کے منصوبوں کا اعلان کیا، ایک سیکیورٹی واقعے کے بعد جس میں صارفین کو معلوم ہوا کہ یہ ٹول مقامی ورک اسپیس ڈیٹا کو بغیر رضامندی کے بیرونی سرورز پر اپ لوڈ کر رہا ہے۔ کمپنی نے معافی نامہ جاری کیا اور تیسرے فریق کے آڈیٹرز کو ٹول کے کوڈ بیس کا جائزہ لینے کے لیے مدعو کرنے کا وعدہ کیا۔
کارپوریٹ اقدام بیجنگ کے وسیع تر ریگولیٹری پش کے ساتھ ہم آہنگ ہیں، جس نے 14 ستمبر کو ایک قومی "AI سیفٹی گورننس فریم ورک" متعارف کرایا، جس میں سخت حفاظتی پروٹوکول اور بین الاقوامی تعاون کا مطالبہ کیا گیا۔
ایک جیو پولیٹیکل میدان جنگ کے طور پر کھلے وزن
یہ فریم ورک ریاست ہائے متحدہ امریکہ اور چین کے درمیان تیزی سے گرم ٹیکنالوجی کی دوڑ کے بیچ میں بھی آتا ہے، جہاں لاگت سے موثر اوپن ویٹ سسٹم بنیادی جنگ کا میدان بن چکے ہیں۔
جولائی میں، Moonshot AI کے Kimi K3 ماڈل نے کئی کلیدی بینچ مارکس میں ٹاپ کلوز سورس یو ایس سسٹمز کو مماثل یا پیچھے چھوڑ کر سرخیاں بنائیں۔ اس کے بعد سے، دیگر چینی سسٹمز - بشمول Xiaomi's MiMo-V2.6-Pro، Alibaba's Qwen3.8-Max، اور Z.ai's GLM-5.3 - نے سان فرانسسکو میں قائم بینچ مارکنگ فرم مصنوعی تجزیہ کے زیر انتظام انٹیلی جنس انڈیکس پر Kimi K3 کو پیچھے چھوڑ دیا ہے۔
چین کی بڑھتی ہوئی رفتار نے غیر ملکی اوپن سورس ماڈلز پر ممکنہ پابندیوں پر واشنگٹن میں بحث کو دوبارہ شروع کر دیا ہے۔ جولائی کی ایک رپورٹ کے بعد کہ وائٹ ہاؤس اس طرح کی پابندیوں کا وزن کر رہا ہے، اعلیٰ امریکی ٹیکنالوجی فرموں کے اتحاد - بشمول Nvidia، Google اور OpenAI - نے ایک صنعتی خط پر دستخط کیے جس میں وسیع پابندیوں کی مخالفت کی گئی، یہ دلیل دی گئی کہ امریکہ کی AI برتری کو برقرار رکھنے کے لیے ایک مضبوط اوپن سورس ماحولیاتی نظام بہت ضروری ہے۔
فریم ورک کا کیا مطلب ہے آگے بڑھنا
کھلے وزن والے AI کے محافظوں کے لیے، رپورٹ یہ ظاہر کرنے کی کوشش کی نمائندگی کرتی ہے کہ کشادگی اور حفاظت باہمی طور پر مخصوص نہیں ہیں - کہ خطرات کو محدود رسائی کے بجائے نظم و ضبط کے انجینئرنگ طریقوں سے منظم کیا جا سکتا ہے۔ ناقدین کے لیے یہ ایک کھلا سوال ہے کہ آیا پری ریلیز ڈیٹا کیوریشن اور لائف سائیکل گورننس ماڈل وزن کی اشاعت کی بنیادی ناقابل واپسی کی تلافی کر سکتی ہے۔
جو بات واضح ہے وہ یہ ہے کہ کھلے وزن والے ماڈلز کے سب سے بڑے تجارتی پروڈیوسر اب حفاظتی گفتگو سے باہر نہیں بیٹھے ہیں۔ چینی ڈویلپرز اب کھلے وزن کے ماحولیاتی نظام پر غلبہ حاصل کر رہے ہیں اور مغربی حکومتیں پابندیوں پر فعال طور پر بحث کر رہی ہیں، Z.ai اور Concordia AI شرط لگا رہے ہیں کہ ایک باضابطہ، شواہد پر مبنی رسک فریم ورک یہ وضع کرے گا کہ بحرالکاہل کے دونوں اطراف کے ریگولیٹرز ٹیکنالوجی تک کیسے پہنچتے ہیں۔
آیا چھ مرحلے کے عمل کو چین کے ڈویلپرز سے آگے اپنایا جاتا ہے - اور کیا یہ عملی طور پر کارآمد ثابت ہوتا ہے - ممکنہ طور پر عالمی AI گورننس بحث کے اگلے مرحلے کے لیے ایک ٹیسٹ کیس بن جائے گا۔
یہ مضمون ساؤتھ چائنا مارننگ پوسٹ کی رپورٹنگ پر مبنی ہے، جو کہ علی بابا کی ملکیت ہے۔---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
