Hugging Face، اوپن سورس ہب جو ایک ملین سے زیادہ AI ماڈلز، ڈیٹا سیٹس، اور ایپلیکیشنز کی میزبانی کرتا ہے، نے 16 جولائی 2026 کو انکشاف کیا کہ اس کی ایک خود مختار AI ایجنٹ سسٹم نے خلاف ورزی کی ہے۔ ایک ایسے واقعے میں جسے سیکیورٹی محققین بڑے AI انفراسٹرکچر کے خلاف آخر سے آخر تک ایجنٹ کی مداخلت کے پہلے دستاویزی کیسوں میں سے ایک کے طور پر بیان کرتے ہیں، حملہ آوروں نے ایک بدنیتی پر مبنی ڈیٹاسیٹ کو قدم جمانے کے طور پر استعمال کیا اور ایک خودکار ایجنٹ کو وہاں سے حملہ کرنے دیا۔ یہ ایپی سوڈ تیزی سے بریکنگ AI نیوز میں ایک حوالہ نقطہ بن گیا ہے کہ کس طرح انڈسٹری جس ایجنٹی نظام کو تعینات کرنے کی دوڑ میں ہے اس کے خلاف کیا جا سکتا ہے۔
20 جولائی کو The Hacker News کی طرف سے رپورٹ کردہ ایک بیان میں Hugging Face نے کہا، "ہم نے داخلی ڈیٹاسیٹس کے محدود سیٹ اور ہماری سروسز کے ذریعے استعمال ہونے والی متعدد اسناد تک غیر مجاز رسائی کی نشاندہی کی۔" کمپنی نے زور دے کر کہا کہ اسے حملہ آور نے عوامی، صارف کے سامنے آنے والے ماڈلز، ڈیٹاسیٹس، یا Spaces کے ساتھ چھیڑ چھاڑ کرنے کا کوئی ثبوت نہیں ملا اور نہ ہی اس کے سافٹ ویئر کی سپلائی کے ساتھ۔
خود مختار ایجنٹ کیسے داخل ہوا؟
دی ہیکر نیوز کی رپورٹنگ اور سٹارٹ اپ فارچیون کی طرف سے شائع کردہ ایک تفصیلی تجزیہ کے مطابق، مداخلت کا انٹری پوائنٹ ہیگنگ فیس کی اپنی ڈیٹا پروسیسنگ پائپ لائن تھی۔ ایک بدنیتی پر مبنی ڈیٹاسیٹ نے پروسیسنگ ورکر پر کوڈ چلانے کے لیے کوڈ کے نفاذ کے دو الگ الگ راستوں کا غلط استعمال کیا: ایک ریموٹ کوڈ ڈیٹاسیٹ لوڈر اور ڈیٹاسیٹ کنفیگریشن فائل میں ٹیمپلیٹ انجیکشن کی خامی۔
اسٹارٹ اپ فارچیون نے رپورٹ کیا کہ کارکن پر اس ابتدائی قدم سے، خود مختار ایجنٹ نوڈ لیول تک رسائی حاصل کرنے کے لیے بڑھا اور کلاؤڈ اسناد جمع کرنا شروع کر دیا۔ سیکورٹی کے تجزیہ کاروں کا کہنا ہے کہ انفرادی تکنیکوں میں نیاپن کم ہے — مشین لرننگ پائپ لائنز میں بدنیتی پر مبنی ڈیٹاسیٹس اور انجیکشن کی خامیاں خطرے کی ایک تسلیم شدہ کلاس ہیں — اور زیادہ یہ کہ ایک واحد خود مختار ایجنٹ کے نظام نے مسلسل انسانی سمت کے بغیر ان اقدامات کو ایک ساتھ جکڑ رکھا ہے۔
اس حملے نے ایک دفاعی شکن کو بھی بے نقاب کیا جسے محققین نے ایک بڑھتے ہوئے مسئلے کے طور پر جھنڈا دیا ہے۔ Startup Fortune کے Hugging Face کے رائٹ اپ کے اکاؤنٹ کے مطابق، ہوسٹڈ AI ٹولز جن تک محافظ کسی واقعے کے دوران پہنچ سکتے ہیں وہ شواہد کا معائنہ کرنے سے انکار کر سکتے ہیں، کیونکہ ماڈلز کو ممکنہ طور پر نقصان دہ مواد کو سنبھالنے سے روکنے کے لیے بنائے گئے وہی حفاظتی گڑھے بھی خلاف ورزی کے فرانزک تجزیہ کو روک سکتے ہیں۔
AI ماحولیاتی نظام کے مرکز میں ایک پلیٹ فارم
گلے لگانے والا چہرہ AI سپلائی چین میں غیر معمولی طور پر حساس مقام رکھتا ہے۔ اسٹارٹ اپس، انٹرپرائزز، اور محققین معمول کے مطابق پلیٹ فارم سے ماڈلز اور ڈیٹاسیٹ کھینچتے ہیں اور انہیں ٹریننگ اور انفرنس پائپ لائنز کے اندر چلاتے ہیں، جس کا مطلب ہے کہ اس کے پروسیسنگ انفراسٹرکچر کا سمجھوتہ اس قسم کا سسٹمک خطرہ رکھتا ہے جو عام طور پر پیکیج ریپوزٹری یا کلاؤڈ فراہم کنندہ سے وابستہ ہوتا ہے۔
اس واقعے کے بارے میں کمپنی کی شفافیت — ایک انکشاف شائع کرنا جس میں تفصیلات کو دفن کرنے کے بجائے متاثرہ میکانزم کا نام دیا گیا — کا سیکورٹی کے پیشہ ور افراد نے بڑے پیمانے پر خیرمقدم کیا۔ کئی لوگوں نے نوٹ کیا کہ ڈیٹاسیٹ لوڈرز میں ریموٹ کوڈ کے نفاذ کا راستہ Hugging Face کے "ٹرسٹ ریموٹ کوڈ" ماڈل کا ایک معروف خطرہ ہے، جس میں کچھ ڈیٹا سیٹس کو لوڈ کرنے کے لیے اپ لوڈر کے ذریعے فراہم کردہ کوڈ کی ضرورت ہوتی ہے۔ اس خلاف ورزی سے اس بات پر طویل عرصے سے جاری بحث میں شدت آنے کا امکان ہے کہ آیا اعلی ٹرسٹ ایگزیکیوشن ماڈل کسی ایسے پلیٹ فارم کے ساتھ مطابقت رکھتے ہیں جو کسی سے بھی اپ لوڈز قبول کرتا ہے۔
کیا تھا اور کیا متاثر نہیں ہوا۔
گلے ملنے والے چہرے کے درمیان ایک مضبوط لکیر کھینچ دی گئی کہ ایجنٹ کیا پہنچا اور کیا نہیں پہنچا۔ کمپنی نے کہا کہ دخل اندازی اس کی خدمات کے ذریعہ استعمال ہونے والے داخلی ڈیٹاسیٹس اور اسناد کے ایک محدود سیٹ کو چھوتی ہے۔ اس نے اس بات پر زور دیا کہ عوام کو درپیش نمونے کے ساتھ چھیڑ چھاڑ کا کوئی ثبوت نہیں ہے جس پر لاکھوں ڈویلپر انحصار کرتے ہیں: صارف کا سامنا کرنے والے ماڈلز، ڈیٹا سیٹس، اور اسپیسز کو تبدیل نہیں کیا گیا، اور اس کے سافٹ ویئر سپلائی چین سے سمجھوتہ نہیں کیا گیا۔
یہ امتیاز نیچے دھارے کے صارفین کے لیے اہمیت رکھتا ہے۔ ہگنگ فیس پر ہوسٹ کیے گئے ماڈلز اور ڈیٹا سیٹس کو اکثر خودکار تربیت اور تعیناتی پائپ لائنوں میں پن کیا جاتا ہے، اور سپلائی چین سے چھیڑ چھاڑ کا واقعہ پوری صنعت میں پھیل چکا ہوتا۔ کمپنی نے کہا کہ اس کی تحقیقات جاری ہے۔
وسیع تر ایجنٹ-سیکیورٹی ویک اپ کال
سیکیورٹی ٹیموں کے لیے، سب سے زیادہ نتیجہ خیز راستہ تکنیکی کے بجائے ساختی ہے۔ صنعت خود مختار ایجنٹوں کی طرف جارحانہ انداز میں آگے بڑھ رہی ہے جو محدود نگرانی کے ساتھ مل کر منصوبہ بندی کر سکتے ہیں، کثیر قدمی کاموں کو انجام دے سکتے ہیں، اور سلسلہ ٹولز کر سکتے ہیں۔ ہگنگ فیس واقعہ اسی صلاحیت کی ایک ٹھوس مثال ہے جو جارحانہ پہلو پر کام کرتی ہے: ایک ایسا ایجنٹ جو نیٹ ورک کو دوبارہ تلاش کر سکتا ہے، عمل درآمد کا راستہ تلاش کر سکتا ہے، مراعات کو بڑھا سکتا ہے، اور ایک مربوط ترتیب میں اسناد کی کٹائی کر سکتا ہے۔
سائبر سیکیورٹی نیوز اور سائبر پریس سمیت متعدد سائبر سیکیورٹی آؤٹ لیٹس نے اس ایونٹ کو اس خطرے کے پیش نظارہ کے طور پر تیار کیا جس کا سامنا لینڈ اسکیپ انٹرپرائزز کو کرنا پڑے گا کیونکہ حملہ آور اور محافظ دونوں AI ایجنٹوں کو تعینات کرتے ہیں۔ دفاعی توازن بالکل واضح ہے — محافظوں کو وسیع پیمانے پر ML پائپ لائنوں میں کوڈ پر عمل درآمد کی ہر سطح کو محفوظ کرنا چاہیے، جبکہ حملہ آور کو صرف ایک کی ضرورت ہوتی ہے، اور اسے تلاش کرنے کے لیے تیزی سے ایک خود مختار نظام موجود ہے۔
آگے کیا آتا ہے۔
Hugging Face نے حملہ آور کی شناخت یا مقصد کا انکشاف نہیں کیا ہے، اور یہ ابھی تک واضح نہیں ہے کہ آیا خود مختار ایجنٹ کو کسی مجرم گروپ، ریاستی اداکار، یا کمزوریوں کی تحقیقات کرنے والے کسی محقق کے ذریعے چلایا گیا تھا۔ کمپنی نے صارفین کی حوصلہ افزائی کی ہے کہ وہ اسناد کو گھمائیں اور احتیاط کے طور پر انضمام کا جائزہ لیں، معیاری واقعہ کے جواب کی رہنمائی کے مطابق۔
اس ایپی سوڈ سے دو متوازی رجحانات میں تیزی آنے کا امکان ہے: محفوظ ڈیفالٹس کی طرف ML-پلیٹ فارم پر عمل درآمد کے ماڈلز کا سخت ہونا، اور خود مختار حملہ آوروں کا پتہ لگانے اور ان پر مشتمل ایجنٹی سیکیورٹی ٹولنگ میں سرمایہ کاری کی ایک نئی لہر۔ ایک ایسی صنعت کے لئے جس نے سال بھر اس بحث میں گزارا ہے کہ AI سسٹم کو کتنی خود مختاری دی جائے، خلاف ورزی مساوات کے دوسری طرف سے ایک غیر آرام دہ جواب پیش کرتی ہے۔
AI سے آگے رہیں
سیکیورٹی اب AI گفتگو سے الگ نہیں ہے۔ کمزوریوں، دفاع، اور فیلڈ کو تشکیل دینے والے واقعات کے بارے میں مسلسل، ماخذ شدہ رپورٹنگ کے لیے، اے آئی کی تازہ ترین پیشرفت پر عمل کریں۔
مزید AI خبریں پڑھیں →
