AI انڈسٹری کے پلمبنگ کے خلاف بڑے پیمانے پر اسٹنگ آپریشن نے دستاویز کیا ہے کہ صارفین ہر روز بھیجے جانے والے اشارے کا کیا ہوتا ہے - اور جواب یہ ہے: وہ لیک ہو جاتے ہیں۔ سیکورٹی ریسرچر ایچ ڈی مور، انڈسٹریل سیکورٹی فرم ڈریگوس کے چیف ریسرچ آفیسر، نے تقریباً 20 لاکھ AI پرامپٹس بھیجے جن میں منفرد، قابل شناخت راز AI فراہم کنندگان کو بھیجے گئے اور پھر دیکھا کہ یہ راز کہاں سے سامنے آئے۔ مور نے جمعرات کو شائع ہونے والی ایک رپورٹ میں لکھا، "ہم نے جو کچھ پایا اس سے سیکیورٹی کی خلاف ورزیوں، فوری چوری، اور کسٹمر ڈیٹا کی حفاظت میں وسیع پیمانے پر ناکامیوں کا انکشاف ہوا ہے۔"
آرس ٹیکنیکا کی طرف سے تفصیل سے رپورٹ کردہ نتائج AI روٹرز کے طور پر پہنچتی ہیں - بروکر سروسز جیسے OpenRouter اور Vercel جو اختتامی صارفین کے اشارے قبول کرتی ہیں اور ان کو کسی بھی انفرنس فراہم کنندہ تک پہنچاتی ہیں جو سب سے سستا یا بہترین ہے - ہزاروں ایپلی کیشنز کے لیے بنیادی ڈھانچہ بن چکے ہیں۔ انہوں نے صنعتی ردعمل کو بھی متحرک کیا: اوپن راؤٹر نے 22 نومبر کو اپنا واقعہ کا اعلان شائع کیا، جس میں کہا گیا کہ اس نے تین فراہم کنندگان کو آف بورڈ کر دیا ہے، زیرو ڈیٹا برقرار رکھنے کی اہلیت سے 125 اختتامی نکات کو ہٹا دیا ہے اور ممکنہ طور پر متاثرہ صارفین کو مطلع کیا ہے۔
کینری ٹریپ نے کیسے کام کیا۔
مور نے خالی اکاؤنٹس، ورکنگ ایس ایس ایچ پاس ورڈز، اور منفرد یو آر ایل، ڈی این ایس ناموں اور نجی گٹ ریپوزٹری حوالوں سے منسلک کام کرنے والی AWS رسائی کیز کا ایک مجموعہ جمع کیا۔ رازوں میں سے کوئی بھی اس سے پہلے کبھی استعمال نہیں کیا گیا تھا، اور مور نے وصولی کے اختتام پر انفراسٹرکچر کو کنٹرول کیا۔ ہر راز کو ایک ہی فراہم کنندہ کو بھیجے جانے والے بالکل ایک پرامپٹ میں سیڈ کیا گیا تھا - لہذا اگر یہ راز بعد میں کہیں بھی ظاہر ہوتا ہے، تو اس کے سفر کو ذمہ دار زنجیر کے عین مطابق لنک تک پہنچایا جا سکتا ہے۔
ڈیزائن اس لیے اہمیت رکھتا ہے کہ AI ماحولیاتی نظام اصل میں ڈیٹا کو کس طرح منتقل کرتا ہے۔ پرامپٹس کو ٹرانزٹ میں انکرپٹ کیا جاتا ہے، لیکن وہ ہر ہاپ پر ڈکرپٹ ہوتے ہیں۔ ایک AI راؤٹر مناسب انفرنس فراہم کنندگان کو منتخب کرنے کے لیے سادہ متن پڑھتا ہے۔ اس کے بعد پرامپٹ کو اکثر ماڈلز کے تالاب میں بھیج دیا جاتا ہے، بعض اوقات مختلف ہوسٹنگ کمپنیوں کے اندر چلتے ہیں۔ یہاں تک کہ پرامپٹس ایک راؤٹر سے دوسرے راؤٹر تک بھی جا سکتے ہیں — مثال کے طور پر Vercel سے OpenRouter — ہر ایک ثالث کے ساتھ اپنی پالیسیوں کے تحت مواد کو لاگ اور اسٹور کرنے کے لیے آزاد ہے۔
تین فراہم کنندگان کی خلاف ورزی کی گئی، چابیاں گھنٹوں کے اندر استعمال کی گئیں۔
سب سے زیادہ خطرناک تلاش میں تین الگ الگ ہوسٹنگ فراہم کرنے والے شامل تھے جن سے تجربے کے دوران سمجھوتہ کیا گیا تھا۔ مور کے مطابق، ایک فراہم کنندہ کی خلاف ورزی کرنے والے حملہ آوروں نے لگائی گئی AWS کیز میں سے "دو سو" کو دوبارہ استعمال کیا۔ ہر کلید اکتوبر کے آخر میں چند مختصر ونڈوز کے اندر، ایک فراہم کنندہ کو بالکل ایک درخواست میں بھیجی گئی تھی - اور "ان کھڑکیوں کے دوران ہم نے بھیجی گئی ہر درخواست چوری کر لی تھی۔" اہم طور پر، کچھ چوری شدہ چابیاں ان درخواستوں سے آئیں جو فراہم کنندہ نے ماڈل کے چلنے سے پہلے مسترد کر دی تھیں، جس سے یہ ظاہر ہوتا ہے کہ حملہ آور انفرنس اسٹیک میں گہرا ہونے کے بجائے فراہم کنندہ کے سامنے والے دروازے پر ٹریفک کی نقل کر رہا تھا۔
دیگر دو خلاف ورزیوں میں، کچھ چوری شدہ درخواستوں کو زیرو ڈیٹا برقرار رکھنے کے طور پر نشان زد کیا گیا تھا۔ مور نے لکھا، "جب حملہ آور پہلے سے ہی اندر ہوتا ہے تو رازداری کا جھنڈا مدد نہیں کرتا۔ دخل اندازیوں کے پیچھے فریقین نے کچھ معاملات میں گھنٹوں کے اندر بیت کی چابیاں آزمائیں، مزید اسناد کے لیے S3 بالٹی، سیکرٹ مینیجرز اور پیرامیٹر اسٹورز کے ذریعے رائفل کی، AWS بیڈروک میں میزبان ماڈلز کو فعال کرنے کی کوشش کی، اور رسائی کو برقرار رکھنے کے لیے اپنے IAM صارفین کو شامل کیا۔ سب نے بتایا، چوری شدہ چابیاں AWS API کالوں میں "دسیوں ہزار" بار استعمال کی گئیں۔ ہیک کیے گئے دو فراہم کنندگان سے چوری کیے گئے راز ایک ساتھ استعمال کیے گئے، تقریباً فوراً، ایک ہی کرائے کے سرور سے - اس بات کا مضبوط ثبوت کہ ایک مخالف نے دونوں سے سمجھوتہ کیا۔
دوبارہ بیچنے والے جو چوری کرتے ہیں، اور ایک لیب جو کھرچتی ہے۔
ہر لیکر ہیکر نہیں تھا۔ مور نے ری سیلرز کو دستاویزی شکل دی جنہوں نے کم قیمتوں کے ساتھ اشارے کا لالچ دیا، درخواست لاگنگ پر سوئچ کیا اور بس انتظار کیا۔ اس نے مختلف فروخت کنندگان کے ذریعے ایک ہی ماڈل کو ایک جیسی درخواستیں بھیج کر ان کی شناخت کی: جب اسناد کو ایک بیچنے والے سے دوبارہ استعمال کیا گیا لیکن دوسرے سے نہیں، تو مجرم واضح تھا۔
سب سے واضح سکریپنگ کیس، مور نے لکھا، ایک چینی AI لیب شامل تھی جس کے سسٹمز نے جولائی اور اکتوبر کے درمیان اس کے ماڈلز کو بھیجے گئے آدھے سے زیادہ پرامپٹس سے خفیہ یو آر ایل حاصل کیے تھے - بشمول تقریباً دو تہائی درخواستوں پر واضح طور پر "کوئی ڈیٹا اکٹھا نہیں" یا صفر ڈیٹا برقرار رکھنے کا نشان لگایا گیا تھا۔ کھرچنی عام طور پر ہر درخواست کے دو یا تین دن بعد ظاہر ہوتی ہے۔ یہ براہ راست صارفین تک محدود نہیں تھا: متعدد امریکی ہوسٹنگ فراہم کنندگان لیب کے ماڈلز کو دوبارہ فروخت کرتے ہیں، اور ان امریکی بیچوانوں کے ذریعے بھیجے گئے اشارے نے بالکل اسی کھرچنے کو متحرک کیا۔ ایک گاہک جس نے خاص طور پر ڈیٹا سٹیٹ سائیڈ رکھنے کے لیے امریکی فراہم کنندہ کو منتخب کیا، دوسرے لفظوں میں، وہ نہیں ملا جس کی انہوں نے ادائیگی کی۔ علیحدہ طور پر، ایک مختلف کلاؤڈ پر ایک گٹ کلائنٹ نے پرامپٹس میں حوالہ دیے گئے پرائیویٹ ریپوزٹریوں کو کلون کرنے کی کوشش کرنا شروع کی - لیکن صرف ان پرامپٹس کے لیے جو اس لیب کے ماڈلز کو استعمال کرتے تھے۔
اوپن راؤٹر جواب دیتا ہے۔
تجربے نے فوری طور پر حقیقی دنیا کے نتائج پیدا کیے۔ Ars Technica نے ایک اپ ڈیٹ میں اطلاع دی ہے کہ OpenRouter نے 21 نومبر کو صارفین کو انتباہ کیا کہ ان کے کچھ پرامپٹس پڑھے جا چکے ہیں، تحقیق کا حوالہ دیتے ہوئے: ممکنہ نمائش میں شامل پرامپٹس MiniMax کو بھیجے گئے، چین میں مقیم ماڈل فراہم کرنے والے، چاہے براہ راست یا تین ری سیلرز کے ذریعے۔ AtlasCloud، Novita اور StreamLake۔ OpenRouter نے MiniMax ماڈل اینڈ پوائنٹس سے "زیرو ڈیٹا ریٹینشن" لیبل کو ہٹا دیا۔
22 نومبر کو اپنے آفیشل بلاگ پوسٹ میں، OpenRouter نے تصدیق کی کہ اس نے تین فراہم کنندگان کو آف بورڈ کر دیا ہے، ZDR اہلیت سے 125 اینڈ پوائنٹس کو ہٹا دیا ہے، اور متاثرہ صارفین کو مطلع کیا ہے کہ آیا فراہم کنندگان نے عوامی طور پر پوسٹ کیا ہے یا نہیں۔ کمپنی نے کہا کہ نتائج نے "اوپن راؤٹر کی کسی بھی خلاف ورزی یا غیر مجاز رسائی کو ظاہر نہیں کیا"، ڈریگوس ٹیم کا شکریہ ادا کیا، اور کہا کہ پلیٹ فارم پر رہنے کے خواہشمند فراہم کنندگان کو بڑھتی ہوئی سیکیورٹی بار کو "ملنے کی ضرورت ہوگی" کیونکہ اوپن روٹر اسی طرح کی جانچ کی تکنیکوں کو مربوط کرتا ہے۔
مور کو آوارہ لانگ ٹیل لیکس بھی ملا: ایک امریکی ہوسٹنگ فراہم کنندہ نے اپنے تلاش کے اختتامی نقطہ پر سنگل انفرنس کال کے دو ماہ سے زیادہ عرصے کے بعد ایک خفیہ یو آر ایل کو کرال کیا، اور دوسرے نے ایک سکریپر چلایا جو ہر درخواست کے چند دن بعد لگائے گئے یو آر ایل کے لیے واپس آیا، قطع نظر اس کے کہ کس راؤٹر نے پرامپٹ فراہم کیا۔
صارفین کیا کر سکتے ہیں۔
مور نے کہا کہ سب سے زیادہ مؤثر دفاع ماڈلز کی آن پریمیسسز کی میزبانی کرنا ہے - ایک مہنگا آپشن جسے کچھ تنظیمیں جواز فراہم کر سکتی ہیں۔ اگلا بہترین اقدام براہ راست پہلے درجے کے فراہم کنندہ سے خریدنا ہے، "ایک معاہدہ اور پڑھنے کے لیے ایک رازداری کی پالیسی" کے ساتھ، اور خود اپ اسٹریم فراہم کنندگان کا انتخاب کرکے پہلے سے طے شدہ فراہم کنندہ یا ری سیلر پول سے گریز کرنا ہے۔ اس کے باوجود، انہوں نے خبردار کیا، اس بات کی کوئی ضمانت نہیں ہے کہ ڈیٹا لیک نہیں ہوگا۔
یہ تجربہ ابھی تک تیزی سے بڑھتی ہوئی انفرنس مارکیٹ میں پرائیویسی پریکٹسز کا سب سے تیز ترین الزام ہے: ایک ایپ اور ماڈل کے درمیان سلسلہ اب متعدد براعظموں پر روٹرز، ری سیلرز اور ہوسٹنگ لیئرز کو شامل کر سکتا ہے، ہر ایک کی اپنی لاگنگ پالیسیاں ہیں، اور لیبلز کا مقصد صارفین کو یقین دلانا ہے — جیسے کہ زیرو ڈیٹا ریٹینشن کے بغیر ٹوٹے جا سکتے ہیں۔ ایک صنعت کے لیے جو کاروباری اداروں سے اپنے دستاویزات، کوڈ اور اسناد کو اشارے میں چسپاں کرنے کے لیے کہتی ہے، 20 لاکھ کینریز کا پیغام غیر آرام دہ ہے: جب تک پلمبنگ تبدیل نہیں ہوتی، فرض کریں کہ ہر ہاپ ہر لفظ پڑھ سکتی ہے۔
AI سے آگے رہیں
سیکیورٹی اور رازداری اب AI پر تعمیر کرنے والے ہر فرد کے لیے بنیادی خدشات ہیں۔ بریکنگ AI خبروں اور انڈسٹری کی سب سے بڑی خبروں کی آزادانہ کوریج کے لیے، AI Buzz Wire ملاحظہ کریں۔
مزید AI خبریں پڑھیں →