Nvidia خاموشی سے ایک نئی AI سیفٹی اور سیکیورٹی انجینئرنگ ٹیم کو جمع کر رہی ہے، پچھلے مہینے کے آخر میں پوسٹ کی گئی جاب لسٹنگ کے ایک جھرمٹ کے مطابق، اس بات کا اشارہ ہے کہ چپ دیو سیفٹی کو ایک بڑی ترجیح بنا رہا ہے یہاں تک کہ وہ اوپن ویٹ ماڈلز اور خود مختار ایجنٹوں کے ذریعے بننے والے مستقبل پر جارحانہ انداز میں شرط لگا رہا ہے۔
ہائرنگ پش، جس کی رپورٹ Business Insider نے کی ہے، دکھاتا ہے کہ Nvidia ایک "ممتاز انجینئر" کی تلاش میں ہے جو کہ ایک سیکورٹی ریسرچ انجینئر اور دیگر ماہرین کے ساتھ نئی اسمبل شدہ ٹیم کے لیے ایک بانی تکنیکی رہنما کے طور پر کام کرے۔ یہ اقدام اس وقت سامنے آیا ہے جب کمپنی اوپن ویٹ AI کے لیے اپنی وابستگی کو گہرا کرتی ہے اور وسیع تر صنعت AI سسٹمز پر مشتمل حفاظتی واقعات کی لہر کا سامنا کر رہی ہے۔ بریکنگ AI نیوز سائیکل کی پیروی کرنے والے قارئین کے لیے، یہ ترقی ایک واضح اشارہ ہے: AI گولڈ رش کے پکس اور بیلچے فروخت کرنے والی کمپنی اب اس بات کو یقینی بنانے میں بڑا ہاتھ چاہتی ہے کہ وہ ٹولز استعمال میں محفوظ ہوں۔
ملازمت کی فہرستیں کیا ظاہر کرتی ہیں۔
بزنس انسائیڈر کے مطابق، نئی ٹیم کو ایک فہرست میں بیان کیا گیا ہے جیسا کہ محفوظ AI ڈیولپمنٹ کے اصولوں پر مبنی ہے۔ Nvidia گروپ کے لیے "بانی تکنیکی رہنما" کے طور پر کام کرنے کے لیے ایک ممتاز انجینئر کو بھرتی کر رہا ہے، ایک جملہ جس سے پتہ چلتا ہے کہ ٹیم کو موجودہ یونٹ سے پھیلانے کے بجائے زمین سے بنایا جا رہا ہے۔ کمپنی AI پر توجہ مرکوز کرنے والے سیکیورٹی ریسرچ انجینئر کی بھی خدمات حاصل کر رہی ہے۔بھرتی سے پتہ چلتا ہے کہ Nvidia AI کی حفاظت کو مزید جان بوجھ کر، رسمی ترجیح بنا رہی ہے کیونکہ یہ اوپن ویٹ ماڈلز اور AI ایجنٹوں پر مرکوز حکمت عملی کی طرف جھکاؤ رکھتی ہے۔ کھلے وزن والے ماڈل اپنے تربیت یافتہ "وزن" بناتے ہیں — وہ پیرامیٹرز جو طے کرتے ہیں کہ ماڈل کیسا برتاؤ کرتا ہے — عوامی طور پر دستیاب ہے، چاہے ان کا تربیتی ڈیٹا اور سورس کوڈ نجی ہی رہے۔ یہ کشادگی جدت کو تیز کرتی ہے اور ڈویلپرز کو Nvidia ہارڈویئر پر ماڈل چلانے دیتی ہے، لیکن اس سے حفاظتی سوالات بھی اٹھتے ہیں جو بند ہو گئے، API گیٹڈ سسٹم پیچھے ہٹ سکتے ہیں۔
کیوں کھلے وزن کے ماڈل داؤ پر لگاتے ہیں۔
اوپن ویٹ ماڈلز AI حفاظتی بحث میں ایک پیچیدہ پوزیشن پر قابض ہیں۔ وزن کو عوامی طور پر جاری کر کے، لیبز محققین اور ڈویلپرز کی عالمی برادری کو طاقتور ماڈلز کا معائنہ کرنے، ٹھیک کرنے اور تعینات کرنے کے قابل بناتی ہیں - اکثر Nvidia کے اپنے GPUs پر۔ یہ کشادگی سائنسی پیشرفت اور Nvidia کے کاروبار کے لیے ایک حقیقی اعزاز ہے۔ لیکن اس کا مطلب یہ بھی ہے کہ ایک بار وزن ختم ہوجانے کے بعد، لیب اس پر کنٹرول کھو دیتی ہے کہ ماڈل کو کس طرح استعمال کیا جاتا ہے، اس میں ترمیم کی جاتی ہے یا اس کا غلط استعمال کیا جاتا ہے۔
ایک بدنیتی پر مبنی اداکار جو کھلے وزن کے ماڈل کو ڈاؤن لوڈ کرتا ہے وہ حفاظتی پٹی اتارنے کی کوشش کر سکتا ہے، سائبر حملوں کے لیے ماڈل کو دوبارہ تیار کر سکتا ہے، یا اسے دوسرے ٹولز کے ساتھ اس طرح جوڑ سکتا ہے جس طرح اس کے تخلیق کاروں کا کبھی ارادہ نہیں تھا۔ API کے پیچھے پیش کیے جانے والے ماڈل کے برعکس — جہاں آپریٹر استعمال، شرح کی حد کی درخواستوں، اور رسائی کو منسوخ کر سکتا ہے — ایک اوپن ویٹ ماڈل چلتا ہے جہاں کسی کے پاس اسے چلانے کے لیے ہارڈ ویئر ہوتا ہے۔ یہی وجہ ہے کہ اوپن اے آئی میں اتنی سرمایہ کاری کرنے والی کمپنی بھی ایک وقف حفاظتی اور حفاظتی ٹیم چاہے گی: دونوں حکمت عملی ایک ہی سکے کے دو رخ ہیں۔
Nvidia کے تجارتی مفادات اور اس کی حفاظت کی کرنسی اس طرح مضبوطی سے جڑی ہوئی ہے۔ کمپنی جتنی زیادہ کھلے وزن کو اپنانے کی حوصلہ افزائی کرتی ہے، اسے اس ماحولیاتی نظام کے ذمہ دار اسٹیورڈ کے طور پر دیکھا جانے سے اتنا ہی زیادہ فائدہ ہوتا ہے۔
AI سیکیورٹی پر ایک وسیع تر صنعت کا حساب
نئی ٹیم خلا میں نہیں آتی۔ Nvidia کی بھرتی اس سلسلے کے ساتھ مطابقت رکھتی ہے جس میں AI سیکیورٹی ایک تجریدی تشویش سے ایک ٹھوس، بار بار آنے والے مسئلے کی طرف منتقل ہو گئی ہے۔ حالیہ ہفتوں میں ہائی پروفائل واقعات کا ایک سلسلہ دیکھا گیا ہے جس میں AI ایجنٹوں نے خود مختار طریقے سے کام کرنے کی صلاحیت کا مظاہرہ کیا جس کا ان کے ڈویلپرز کو پوری طرح سے اندازہ نہیں تھا، بشمول ایسے معاملات جہاں سائبر سیکیورٹی کے مقاصد کے لیے ٹیسٹ کیے گئے سسٹمز نے غیر متوقع طور پر برتاؤ کیا۔
Nvidia خود صنعت کے ردعمل کے مرکز میں رہا ہے۔ کمپنی نے حال ہی میں سائبرسیکیوریٹی شفافیت اور حفاظتی معیارات قائم کرنے کے لیے 30 سے زائد فرموں کو اکٹھا کرنے کے لیے ایک کھلے اور محفوظ AI اتحاد کی سربراہی میں مدد کی ہے، یہ کام تیزی سے آگے بڑھا ہے۔ نئی اندرون خانہ حفاظتی ٹیم اس بیرونی اتحاد کی اندرونی تکمیل معلوم ہوتی ہے: اوپن-AI تحریک میں Nvidia کے اپنے تعاون کو سخت کرنے کا ایک طریقہ۔
کچھ حریفوں کے ساتھ تضاد قابل ذکر ہے۔ متعدد فرنٹیئر لیبز نے اپنے بنیادی حفاظتی طریقہ کار کے طور پر پابندیوں، رسائی کے کنٹرول، اور گیٹڈ تعیناتیوں پر زور دیا ہے۔ Nvidia کا نقطہ نظر - بڑھتے ہوئے حفاظتی آلات کے ساتھ جوڑا کھلا وزن - ایک مختلف فلسفہ کی عکاسی کرتا ہے: کہ کشادگی اور سلامتی متضاد نہیں ہیں، اور یہ کہ ایک اچھی طرح سے وسائل والی حفاظتی ٹیم کھلے ماڈل کو قابل عمل بنا سکتی ہے۔
یہ Nvidia کی حکمت عملی کے بارے میں کیا اشارہ کرتا ہے۔
Nvidia کے لیے، کیلکولس واضح ہے۔ کمپنی کا بنیادی کاروبار وہ ہارڈ ویئر فروخت کر رہا ہے جو AI چلاتا ہے، اور اوپن ویٹ ماڈلز ہارڈ ویئر کی مانگ کا ایک طاقتور ڈرائیور ہیں: جب کوئی بھی قابل ماڈل ڈاؤن لوڈ کر سکتا ہے، تو بجٹ والا کوئی بھی ممکنہ Nvidia گاہک بن جاتا ہے۔ اے آئی سیفٹی میں سرمایہ کاری اس فلائی وہیل کی حفاظت کرتا ہے اس خطرے کو کم کر کے کہ کھلے ماڈلز نقصانات سے منسلک ہو جاتے ہیں جو بھاری ضابطے یا صارفین کے ردعمل کو مدعو کر سکتے ہیں۔
ایک سرشار حفاظت اور سیکورٹی انجینئرنگ ٹیم کی تعمیر بھی نوکری کا اشارہ ہے۔ سرفہرست AI حفاظتی محققین کی غیر معمولی مانگ ہے، اور ایک معتبر انجینئر کی قیادت میں ایک قابل اعتماد ٹیم Nvidia کو ٹیلنٹ کو راغب کرنے میں مدد کر سکتی ہے جو دوسری صورت میں فرنٹیئر لیب کی طرف متوجہ ہو سکتی ہے۔ یہ ہنر، بدلے میں، صنعت کے معیارات کو تشکیل دے سکتا ہے - Nvidia کو اوپن-AI ماحولیاتی نظام کے اصولوں پر اثر و رسوخ فراہم کرنے سے جو اس کی تعمیر میں مدد کر رہا ہے۔
آگے کی سڑک
Nvidia نے نئی ٹیم کے کام کے لیے عوامی روڈ میپ کی تفصیل نہیں دی ہے، اور فہرستیں بتاتی ہیں کہ گروپ اب بھی شکل اختیار کر رہا ہے۔ لیکن سمت غیر متزلزل ہے۔ جیسا کہ AI ایجنٹس زیادہ قابل اور کھلے وزن والے ماڈلز کو زیادہ وسیع پیمانے پر تعینات کر رہے ہیں، وہ کمپنی جو دنیا کے زیادہ تر AI کو طاقت دیتی ہے اب اس طاقت کو برقرار رکھنے میں مدد کے لیے لوگوں کو جمع کر رہی ہے۔
آنے والے مہینوں میں دکھایا جائے گا کہ آیا Nvidia کی حفاظتی شرط اپنے تجارتی عزائم کے ساتھ رفتار برقرار رکھ سکتی ہے - اور کیا اوپن-AI مستقبل جدید اور محفوظ دونوں ہوسکتا ہے۔
AI سے آگے رہیں
اے آئی سیفٹی، اوپن ماڈلز اور ہارڈ ویئر کا سنگم تیزی سے آگے بڑھ رہا ہے۔ ہماری AI انڈسٹری کوریج پر عمل کریں Nvidia، فرنٹیئر لیبز اور ان کی تشکیل کرنے والی پالیسیوں کے بارے میں جاری رپورٹنگ کے لیے۔
مزید AI خبریں پڑھیں →
