Mistral AI نے Shieldstral کو 4 اگست 2026 کو جاری کیا، ایک 3-بلین پیرامیٹر اوپن ویٹ سیفٹی کلاسیفائر جو کہ تربیت کے دوران ماڈل میں بنائے گئے نقصان کے زمرے کے ایک مقررہ سیٹ پر انحصار کرنے کے بجائے، تخمینہ کے وقت سادہ زبان میں لکھی گئی اعتدال پسندی کی پالیسیوں کے خلاف متن اور تصاویر کا فیصلہ کرتا ہے۔ ریلیز ایک قابل ذکر فلسفیانہ روانگی کی نمائندگی کرتی ہے کہ آج کس طرح زیادہ تر گارڈریل ماڈل بنائے گئے ہیں۔

ماڈل Apache 2.0 لائسنس کے تحت Hugging Face پر دستیاب ہے، 12 زبانوں پر محیط ہے، اور سنگل 16GB GPU پر چلتا ہے۔ جیسا کہ یوروپی AI سیکٹر مسابقتی اوپن ویٹ سسٹمز تیار کرتا رہتا ہے، شیلڈسٹرل نے بریکنگ AI نیوز میں ایک اور جہت کا اضافہ کیا ہے جو کہ ڈیولپرز کے حفاظت سے رجوع کرنے کے طریقے کو نئی شکل دے رہا ہے۔

شیلڈسٹرل کیسے کام کرتا ہے۔

زیادہ تر گارڈریل ماڈلز ٹریننگ کے دوران اپنے وزن میں نقصان کے زمرے کی درجہ بندی کو سخت کوڈ کرتے ہیں، جس کا مطلب ہے کہ انہیں نئے پروڈکٹ کے سیاق و سباق کے مطابق ڈھالنے کے لیے ایک مکمل دوبارہ تربیتی دور کی ضرورت ہوتی ہے۔ شیلڈسٹرل بنیادی طور پر مختلف نقطہ نظر اختیار کرتا ہے: اعتدال کی پالیسی ان پٹ کے حصے کے طور پر انفرنس کے وقت فراہم کی جاتی ہے۔

Unite.AI کے تجزیہ کے مطابق، میکانزم ہر اعتدال کے کام کو بائنری سوالوں کے جوابات تک کم کر دیتا ہے۔ ہر درخواست کے تین ٹیگ شدہ حصے ہوتے ہیں: ایک `` فیلڈ جس میں تشخیص کے سیاق و سباق اور سختی کی سطح ہوتی ہے، ایک `` فیلڈ جس میں ایک ہی ہاں/نہیں سوال ہوتا ہے جیسے کہ "کیا یہ مواد جسمانی تشدد کو فروغ دیتا ہے؟"، اور ایک `<دستاویز>` فیلڈ جس میں مواد کو فیصلہ کرنے کے لیے ہولڈ کیا جاتا ہے، جو کہ فوری، جواب، تصویر یا متن کے آپشن کے ساتھ ہو سکتا ہے۔

تخمینہ کے مطابق، ماڈل "ہاں" اور "نہیں" ٹوکنز کے لیے صرف لاگِٹس پڑھتا ہے اور softmax-انہیں ایک مسلسل سکور میں معمول بناتا ہے، جس کی حد بائنری فیصلے کے لیے 0.5 پر ہوتی ہے۔ یہ فارمولیشن ایک ہی چیک پوائنٹ کو اسی بنیادی مسئلے کی مثالوں کے طور پر فوری درجہ بندی، ردعمل میں اعتدال، انکار کا پتہ لگانے، اور زہریلے پن کا پتہ لگانے دیتا ہے۔

ایک چیک پوائنٹ، بہت سی پالیسیاں

عملی مضمرات اہم ہے۔ ایک ہی چوکی سائبر سیکیورٹی ریسرچ ٹول اور دماغی صحت کے پلیٹ فارم کو بغیر کسی ترمیم کے بالکل مختلف معیارات کے خلاف اسکرین کر سکتی ہے۔ ایک آپریٹر ہاں/نہیں سوال لکھتا ہے، تشخیص کے سیاق و سباق اور سختی کو بیان کرنے والی ایک ہدایات فراہم کرتا ہے، اور ماڈل ایک ٹوکن آؤٹ پٹ سے کیلیبریٹڈ حفاظتی سکور واپس کرتا ہے۔

یہ پالیسی کے مطابق ڈھالنے والا ڈیزائن AI حفاظتی نظام کی تعیناتی میں مسلسل مایوسیوں میں سے ایک کو دور کرتا ہے: مہنگی دوبارہ تربیت کے بغیر اعتدال کو مخصوص استعمال کے معاملات کے مطابق بنانے میں دشواری۔ ایک مالیاتی خدمات چیٹ بوٹ، بچوں کی تعلیمی ایپ، اور سیکیورٹی محققین کے لیے ایک کھلا فورم سبھی کو یکسر مختلف گارڈریلز کی ضرورت ہوتی ہے، اور شیلڈسٹرل کا مقصد تینوں کو ایک ہی وزن سے سنبھالنا ہے۔

فن تعمیر اور کارکردگی

شیلڈسٹرل کو Ministral-3-3B، Mistral کے چھوٹے ملٹی موڈل ماڈل پر بنایا گیا ہے، جس میں Pixtral وژن انکوڈر ہینڈلنگ امیج ان پٹ ہے۔ ماڈل کارڈ میں 32,000 ٹوکن سیاق و سباق کی ونڈو کی فہرست دی گئی ہے، اور Mistral کا کہنا ہے کہ یہ ماڈل اوپن گارڈ ماڈلز سے متنی حفاظتی معیارات پر اپنے سائز سے سات گنا تک میل کھاتا ہے جبکہ ملٹی موڈل اعتدال پر ایک نئی حالت قائم کرتا ہے۔

یہ 3B-پیرامیٹر ماڈل کے مضبوط دعوے ہیں، اور Mistral نے دستاویزات کی ایک غیر معمولی رقم کے ساتھ ریلیز کی حمایت کی۔ تربیت کی ترکیب اور تشخیص کی وضاحت کرنے والی ایک تکنیکی رپورٹ 28 جولائی 2026 کو arXiv پر پوسٹ کی گئی تھی، جس کے بعد Mistral کی دستاویزات میں مکمل ماڈل کارڈ اور خود وزن، دونوں 4 اگست کو جاری کیے گئے تھے۔

جمود پر ایک نکتہ نظر تنقید

Mistral نے شیلڈسٹرل کی ریلیز کو اس نکتہ تنقید کے ارد گرد تیار کیا کہ گارڈریل ماڈل عام طور پر کیسے بنائے جاتے ہیں۔ کمپنی کا استدلال ہے کہ ماڈل کے وزن میں ہارڈ کوڈنگ کو نقصان پہنچانے والے ٹیکسونومیوں میں لچک پیدا ہوتی ہے، جس سے جب بھی پالیسی تبدیل ہوتی ہے یا کوئی نئی پروڈکٹ لانچ ہوتی ہے تو ڈویلپرز کو دوبارہ تربیت دینے پر مجبور کرتے ہیں۔

یہ ایک تکنیکی دلیل سے زیادہ ہے۔ یہ ایک مسابقتی پوزیشننگ کا بیان ہے۔ Apache-2.0-لائسنس یافتہ ماڈل کو جاری کرکے جس کی خود میزبانی کی جاسکتی ہے اور دوبارہ تربیت کے بغیر ڈھال لیا جاسکتا ہے، Mistral ایسے ڈویلپرز کو نشانہ بنا رہا ہے جو منظم خدمات یا ملکیتی درجہ بندی کے اوور ہیڈ کے بغیر اپنے حفاظتی اسٹیک پر کنٹرول چاہتے ہیں۔

اوپن ویٹ اپروچ انٹرپرائز صارفین کے درمیان بڑھتی ہوئی تشویش کو بھی دور کرتا ہے: بند حفاظتی نظام کی دھندلاپن۔ جب کوئی گارڈریل مواد کو روکتا ہے، تو آپریٹرز اکثر اس بات کا معائنہ نہیں کر سکتے کہ کیوں۔ شیلڈسٹرل کا شفاف، پالیسی کے طور پر-ان پٹ ڈیزائن ڈویلپرز کو یہ دیکھنے دیتا ہے کہ کس اصول نے دیا ہوا فیصلہ پیش کیا۔

وسیع تر اوپن ویٹ مومنٹم

شیلڈسٹرل پوری صنعت میں اوپن ویٹ AI ریلیز میں وسیع پیمانے پر اضافے کے درمیان پہنچا ہے۔ یہ ماڈل Mistral کے کھلے نظاموں کے بڑھتے ہوئے پورٹ فولیو میں شامل ہوتا ہے، جو کہ خام فرنٹیئر پیمانے کے بجائے رسائی اور ڈویلپر کے تجربے پر مقابلہ کرنے کی کمپنی کی حکمت عملی کو تقویت دیتا ہے۔

AI ایپلی کیشنز بنانے والی ٹیموں کے لیے، ایک کنزیومر-گریڈ GPU پر ایک قابل ملٹی موڈل سیفٹی کلاسیفائر چلانے کی صلاحیت، کسی تھرڈ پارٹی API کو ڈیٹا بھیجے بغیر، مضبوط اعتدال کی تعیناتی میں لاگت اور رازداری کی رکاوٹ دونوں کو کم کرتی ہے۔ یہ ریگولیٹڈ صنعتوں میں اپنانے کو تیز کر سکتا ہے جہاں ڈیٹا کی رہائش اور آڈٹ ایبلٹی غیر گفت و شنید ہے۔

AI سے آگے رہیں

شیلڈسٹرال جیسے اوپن ویٹ سیفٹی ماڈلز بدل رہے ہیں کہ ڈویلپرز گارڈریلز کے بارے میں کیسے سوچتے ہیں، اور جدت کی رفتار سست ہونے کا کوئی نشان نہیں دکھاتی ہے۔ فیلڈ کو آگے بڑھانے والے ماڈلز، ٹولز اور تحقیق کے بارے میں واضح، حقائق پر مبنی رپورٹنگ کے لیے AI Buzz Wire کی پیروی کریں۔

مزید AI خبریں پڑھیں →