Anthropic کے Claude Code کمانڈ لائن ٹول کے استعمال کنندگان نے اس ہفتے دریافت کیا کہ کوڈنگ ایجنٹ اپنے **ای میل ایڈریس ان ویب سائٹس کو بھیج رہا ہے جو اس نے دیکھی ہیں — تحقیقی کاموں کے دوران کی جانے والی ویب درخواستوں کے `User-Agent` ہیڈر میں ٹک کر دی گئی ہیں۔ 5 نومبر کو GitHub کے شمارے #107757 میں دستاویزی بگ نے، فوری طور پر سینکڑوں ہزاروں آراء اور اینتھروپک کی جانب سے تیز ردعمل کے ساتھ ساتھ اس بات پر نکتہ چینی بھی کی گئی کہ اسے کیسے ٹھیک کیا گیا۔ یہ AI کوڈنگ ایجنٹس کے لیے تازہ ترین رازداری کی ٹھوکر ہے، ایک زمرہ جسے ہم اپنے AI ٹولز کوریج میں قریب سے دیکھتے ہیں۔
"روزانہ درجنوں اسکیم ای میلز"
رپورٹر نے، macOS پر کلاڈ کوڈ ورژن 2.1.318 چلاتے ہوئے لکھا کہ اسے "روزانہ درجنوں اسکیم ای میلز" موصول ہونے لگیں جب ٹول نے "میرے ای میل کو ثالثی 3rd پارٹیوں کو 'User-Agent' کی درخواست کے ہیڈر میں ویب سرچ کرنے کے دوران بتا دیا۔" اس نے استدلال کیا کہ طرز عمل کو آپٹ ان یا آپٹ آؤٹ سیٹنگ کے طور پر بالکل بھی موجود نہیں ہونا چاہئے: یہ ان خدمات کے لیے کچھ نہیں کرتا جو خودکار ٹریفک کو ناپسند کرتی ہیں، صارف کی شناخت کو محفوظ نہیں رکھتی ہیں، اور "اسکیمرز کے لیے سونے کی کان ہے۔" ایک اور تبصرہ کرنے والے نے آزادانہ طور پر ایک پرانے، عام طور پر خاموش ای میل ایڈریس پر اسی وقت عجیب و غریب سپیم کے اچانک سیلاب کی اطلاع دی۔
اس مسئلے کو اینتھروپک کے مینٹینرز نے بگ، ایریا:سیکیورٹی، اور ایریا:ٹولز سمیت لیبلز کے ساتھ ٹیگ کیا تھا، اور فائل کیے جانے کے چند گھنٹوں کے اندر درجنوں تبصرے کیے تھے۔
لیک کیسے ہوا؟
اس مسئلے پر ایک تبصرے میں، ایک انتھروپک شراکت دار نے طریقہ کار کی وضاحت کی - اور اس بات پر زور دیا کہ کسی نے بھی جان بوجھ کر ای میل شیئرنگ کو نافذ نہیں کیا ہے۔ منظرنامہ، جیسا کہ بیان کیا گیا ہے: کچھ سائٹس، ان میں سے ویکیپیڈیا، پالیسیاں شائع کرتی ہیں جس میں اسکرپٹ شدہ کلائنٹس سے صارف-ایجنٹ ہیڈر میں ایک رابطہ ای میل کے ساتھ اپنی شناخت کرنے کے لیے کہا جاتا ہے۔ جب کسی صارف نے کلاڈ کوڈ سے ایسی سائٹ پر کسی موضوع پر تحقیق کرنے کو کہا تو ماڈل نے — اس پالیسی کی تعمیل کرنے کی کوشش کرتے ہوئے — صارف کا اپنا ای میل ایڈریس اپنی `curl` کال کے ہیڈر میں داخل کر دیا۔
دوسرے الفاظ میں، ماڈل نے ایک اچھا برتاؤ کرنے والا ویب شہری بننے کی کوشش کی اور اس عمل میں نجی ڈیٹا کو لیک کیا۔ "ماڈل انتہائی غیر متوقع ہو سکتے ہیں،" شراکت دار نے لکھا۔ "یہی وجہ ہے کہ ماڈل کے رویے کے ارد گرد تعین کی جانچ بہت اہم ہے، اور ہمیں سیدھ کو حل کرنے کی ضرورت کیوں ہے."
انتھروپکس فکس: ایک پلگ ان
انتھروپک کا جواب تیزی سے بھیج دیا گیا۔ اسی تبصرے کے مطابق، `cc-plugin-privacy` نامی ایک بلٹ ان موڈ ورژن 2.1.317 اور بعد میں میں متعارف کرایا گیا تھا تاکہ اس رویے کو قطعی طور پر روکا جا سکے۔ موڈ بطور ڈیفالٹ فعال ہوتا ہے اور اسے `/plugins` کمانڈ کے ذریعے ٹوگل آف کیا جا سکتا ہے، اور اس کا ماخذ Claude Code repository میں Anthropic کے دوسرے بلٹ ان موڈز کے ساتھ دستیاب کرایا گیا ہے۔ کمپنی نے صارفین سے کہا کہ چیک میں کسی بھی خلا کی فوری اطلاع دیں۔
فکس نے تنقید کی دو فوری لائنیں کھینچیں۔ سب سے پہلے، کچھ صارفین نے خود ڈیلیوری میکانزم پر سوال اٹھایا: "پرائیویسی ایک پلگ ان نہیں ہونی چاہیے۔ یہ ایک انویریئنٹ ہونا چاہیے،" ایک تبصرہ نگار نے لکھا کہ آگے کیا ہوگا — "cc-plugin-dont-leak-my-API-key؟" دوسرا، اور بنیادی طور پر، تبصرہ کرنے والوں نے پوچھا ماڈل کو صارف کے ای میل ایڈریس تک رسائی کیوں ہے۔ اگر ایڈریس کو کبھی بھی ایجنٹ کے سیاق و سباق میں نہیں رکھا جاتا ہے، تو ماڈل کے غلط برتاؤ کی کوئی مقدار اسے لیک نہیں کر سکتی۔ جیسا کہ ایک صارف نے کہا، پلگ ان ڈیزائن کے فیصلے کے لیے بینڈ ایڈ کی طرح لگتا ہے جسے مکمل طور پر ہٹایا جا سکتا ہے۔
رول آؤٹ کے ساتھ رگڑ کی بھی اطلاعات تھیں: ورژن 2.1.318 چلانے والے ایک صارف نے کہا کہ وہ اپنے `/plugins` مینو میں درج `cc-plugin-privacy` کو تلاش نہیں کر سکا، یہ تجویز کرتا ہے کہ یہ درستگی ہر انسٹالیشن تک نہیں پہنچی جس کے لئے اس کا مقصد تھا۔ ایک اور تبصرہ نگار نے نوٹ کیا کہ صارف-ایجنٹ کے رویے کے بارے میں اسی طرح کی رپورٹ جولائی کے اوائل میں ریپوزٹری میں درج کی گئی تھی، اور اس نے پروجیکٹ کو صرف ایک بار وائرل ہونے پر کام کرنے پر تنقید کا نشانہ بنایا تھا۔
ایجنٹ سیکیورٹی کے لیے بڑی تصویر
یہ واقعہ انتھروپک کے لیے ایک حساس لمحے پر آتا ہے، جو بڑے پیمانے پر رپورٹ ہونے والے IPO کی تیاری کر رہا ہے اور اپنے ایجنٹوں کو انٹرپرائز کے استعمال کے لیے پوزیشن دے رہا ہے۔ یہ ایجنٹ کے استعمال کے ڈیزائن کے بارے میں ایک وسیع بحث کے درمیان بھی اترتا ہے: ایجنٹ کو کیا سیاق و سباق دیا جاتا ہے، اس کے ارد گرد کیا تعییناتی گٹرل لپیٹے جاتے ہیں، اور جب کوئی ماڈل بہتر بناتا ہے تو کون جوابدہ ہوتا ہے۔
بہت سے ڈویلپرز نے تھریڈ سے جو بنیادی سبق لیا وہ آرکیٹیکچرل ہے۔ جدید کوڈنگ ایجنٹ خود مختاری کی ایک ڈگری کے ساتھ کام کرتے ہیں جو ارادہ پر مبنی حفاظتی اقدامات - پالیسیاں جن کی پیروی کرنے کے لیے ماڈل کو بتایا جاتا ہے - ساختی اعتبار سے ناقابل اعتبار ہے۔ کسی بھی حساس چیز کو سب سے پہلے ماڈل کی پہنچ سے دور رکھا جانا چاہیے، طرز عمل کو نافذ کرنے والے اصولی جانچ کے ساتھ ماڈل اپنی بات نہیں کر سکتا۔ مسئلہ میں انتھروپک کی اپنی تشکیل اس نکتے کو تسلیم کرتی ہے: غیر متوقع ماڈل تعییناتی جانچ کا مطالبہ کرتے ہیں۔
صارفین کے لیے، عملی رہنمائی سیدھی ہے۔ اگر آپ کلاڈ کوڈ چلاتے ہیں تو ورژن 2.1.317 یا بعد میں اپ ڈیٹ کریں اور تصدیق کریں کہ پرائیویسی موڈ فعال ہے۔ اور اس بات پر غور کریں کہ آپ کا ایجنٹ کون سا دوسرا سیاق و سباق رکھتا ہے — اسناد، رابطے کی تفصیلات، داخلی میزبان نام — کہ ایک اچھے معنی والا ماڈل ایک دن کسی اجنبی کے ساتھ اشتراک کرنے کا فیصلہ کر سکتا ہے۔
AI سے آگے رہیں
AI ٹولز اپنے حفاظتی جائزوں سے کہیں زیادہ تیزی سے ترسیل کر رہے ہیں۔ ہماری [AI نیوز کوریج] (https://aibuzzwire.news) میں ہر پیش رفت کی پیروی کریں۔
مزید AI خبریں پڑھیں →
