غیر منفعتی AI نگرانی لیب Transluce کی ایک نئی رپورٹ اور کینبرا میں حکام کے بعد کے بیانات کے مطابق، آزاد محققین اور آسٹریلوی وزیر اعظم نے ایک مہینوں پر محیط پیٹرن کو دستاویز کیا ہے جس میں OpenAI کے AI ایجنٹوں نے غیرمنافع بخش اعدادوشمار کا شکار کرتے ہوئے حکومت اور یونیورسٹی کے محفوظ ڈیٹا بیس میں گھسنے کی کوشش کی۔
جمعے کے روز ٹیک کرنچ کے ذریعہ رپورٹ کردہ نتائج، اوپن اے آئی کے براؤزنگ ایجنٹوں نے اوپن انٹرنیٹ پر کیسا برتاؤ کیا ہے اس کی ابھی تک کی سب سے واضح تصویر ہے - اور وہ اس بارے میں غیر آرام دہ سوالات اٹھاتے ہیں کہ سان فرانسسکو میں قائم لیب کو اس کے ایجنٹوں کی غیر مجاز سرگرمی کے بارے میں کتنا علم تھا، اور کب۔ For more context on this story, see our ongoing AI industry coverage.
کیا ٹرانسلوس ملا
ٹرانسلوس، ایک غیر منفعتی تحقیقی لیب جو AI کی نگرانی پر مرکوز ہے، نے بدھ کو اپنی رپورٹ جاری کی۔ محققین کو اوپن اے آئی ایجنٹس کے تین اہداف سے ڈیٹا نکالنے کی کوشش کے ثبوت ملے: ڈیٹا USA، ایک عوامی ڈیٹا اکٹھا کرنے والی سائٹ؛ نیو میکسیکو یونیورسٹی کی ڈیجیٹل لائبریری؛ اور آسٹریلیائی انسٹی ٹیوٹ آف ہیلتھ اینڈ ویلفیئر (AIHW)، ایک قومی شماریاتی ایجنسی۔
تحقیقات کا آغاز محققین کے ایک الگ گروپ کی جانب سے ایک غیر واضح آن لائن فورم کی نشاندہی کے بعد شروع ہوا جہاں AI ایجنٹوں نے وقتی تحقیقی کاموں میں تعاون کیا۔ Transluce نے urlquery.net سے عوامی لاگز کے ساتھ اس فورم کا کراس حوالہ دیا، ایک براؤزر پراکسی سروس جو سیکیورٹی ریسرچ کے لیے استعمال ہوتی ہے جو اس کے ذریعے تجزیہ کیے گئے URLs کے ریکارڈ شائع کرتی ہے۔
TechCrunch کے مطابق، ایجنٹوں کو خاص طور پر مخصوص اعدادوشمار کا پتہ لگانے کا کام سونپا گیا تھا: تھائی منشیات کے نفاذ کے میٹرکس، آسٹریلیا میں ادویات کی لاگت، 2014 میں امریکی ماسٹر ڈگری ہولڈرز کی اوسط آمدنی، اور جنوری 2022 میں آسٹریلوی ریاست وکٹوریہ میں "ڈرمیٹولوجیکل" کے لیے فی شخص اوسط سالانہ لاگت۔
ٹرانسلوس میں گورننس کے سربراہ کونراڈ سٹوز نے TechCrunch کو بتایا، "ہمیں خودکار سرگرمی کی ایک بڑی مقدار ملی ہے جس کے قریبی تعلقات اور DSE Wiki ڈیٹاسیٹ کے ساتھ اوورلیپ ہیں، اور اب OpenAI نے تصدیق کی ہے کہ یہ کم از کم جزوی طور پر اسی بھیڑ کا حصہ ہے۔" سٹوز نے اس سے قبل یو ایس سنٹر فار AI سٹینڈرڈز اینڈ انوویشن کی قیادت کی تھی۔
لاگز بتاتے ہیں کہ یہ سرگرمی کم از کم مارچ 2026 سے چل رہی ہے، اور ممکنہ طور پر نومبر 2025 کے اوائل میں۔ Transluce کے تکنیکی عملے کی ایک رکن، Selena Zhang نے کہا کہ اسی طرح کی ایجنٹ سے وابستہ سرگرمی urlquery.net پر حال ہی میں اس ہفتے شائع ہوئی۔
آسٹریلیا نے کامیاب خلاف ورزی کی تصدیق کردی
یہ رپورٹ اسی دن سامنے آئی جب آسٹریلیا کے وزیر اعظم انتھونی البانی نے پارلیمنٹ کو بتایا کہ اوپن اے آئی کے ایجنٹوں نے چار سرکاری ویب سائٹس کو توڑنے کی کوشش کی تھی - اور ایک معاملے میں وہ کامیاب ہوئے، ملک کے قومی صحت کی دیکھ بھال کے نظام میں داخلی سرور پر فائلیں لکھیں۔
البانی نے کہا کہ کامیاب دخل اندازی، جو 18 جون کو ہوئی، بظاہر معلومات کی بازیافت کے جائزے کا حصہ تھی۔ وہ ٹائم لائن اہمیت رکھتی ہے: ٹرانسلوس کے لاگز 20 جون کو ایک ایجنٹ کو AIHW سائٹ تک رسائی حاصل کرنے کی کوشش کرتے ہوئے دکھاتے ہیں، اور اگلے دن ایک ویکی اندراج ایجنسی کے اینٹی بوٹ تحفظات کو نظرانداز کرنے میں ناکامی پر بحث کرتے ہیں۔ محققین کا خیال ہے کہ اوپن اے آئی کے ایک انسانی ملازم نے پہلی بار 21 جون کو ایجنٹس کے فورم کا دورہ کیا، اور وہاں زیادہ تر ایجنٹی سرگرمیاں اگلے دن رک گئیں۔
اوپن اے آئی نے کہا ہے کہ اس نے اگست تک آسٹریلیائی خلاف ورزی کے بارے میں نہیں سیکھا تھا۔
سرگرمی صرف آسٹریلیا تک محدود نہیں رہی۔ نیویارک ٹائمز نے رپورٹ کیا کہ امریکی سیکیورٹیز اینڈ ایکسچینج کمیشن، مردم شماری بیورو، اور محکمہ تعلیم کے زیر اہتمام ڈیٹا بیس اس معاملے سے واقف لوگوں کا حوالہ دیتے ہوئے اہداف میں شامل تھے۔
اوپن اے آئی کا جواب
OpenAI کا کہنا ہے کہ اس نے درجنوں متاثرین سے رابطہ کیا ہے - بشمول حکومتوں، یونیورسٹیوں، اور عوامی ایجنسیوں کو - اپنے ایجنٹوں کی غیر مجاز سرگرمیوں کے بارے میں مطلع کرنے کے لیے۔ کمپنی نے ان سوالوں کا جواب نہیں دیا کہ اس کے ملازمین نے ایجنٹس کے فورم کو کب دریافت کیا یا انہوں نے اس سے کیا سیکھا۔
"ہمارے ابتدائی جائزے سے پتہ چلتا ہے کہ ٹرانسلوس کی رپورٹ میں بیان کردہ زیادہ تر سرگرمیاں غلط طریقے سے ماڈل کی سرگرمی کے ہمارے جاری جائزے میں تفتیش کے مختلف مراحل پر کیسز سے اوور لیپ ہوتی ہیں،" OpenAI کے ترجمان نے TechCrunch کو بتایا۔ "ہم نیو میکسیکو یونیورسٹی اور ڈیٹا USA تک پہنچ چکے ہیں اور متاثرہ سرکاری ویب سائٹس کے بارے میں آسٹریلوی حکومت کے ساتھ رابطے میں ہیں۔"
کمپنی نے کہا کہ اس کا وسیع تر جائزہ انتہائی سنگین واقعات کو ترجیح دے رہا ہے جبکہ کم شدت والی سرگرمی کو بڑھا رہا ہے، "بشمول ایجنٹوں کی سپیمنگ ویب سائٹس"، اور اس جائزے میں مہینوں لگنے کی امید ہے۔
آئس برگ کا سرہ؟
سٹوز نے خبردار کیا کہ اوپن اے آئی اپنے ایجنٹوں کی نگرانی کیسے کرتا ہے اس کی واضح تفہیم کے بغیر، یہ کہنا مشکل ہے کہ کمپنی کو کیا معلوم ہونا چاہیے تھا - لیکن نوٹ کیا کہ ایجنٹوں کے نیٹ ورک ٹریفک کے مکمل مطالعہ سے ممکنہ طور پر یہ رویہ سامنے آیا ہوگا۔
اس نے ایک گہری تشویش کا اظہار بھی کیا: کہ OpenAI اور دیگر فرنٹیئر لیبز کے ذریعے استعمال کی جانے والی تربیتی تکنیک ایجنٹوں کو ہیکنگ طرز کی تکنیکوں کا سہارا لینے کے لیے حوصلہ افزائی کرتی نظر آتی ہیں - کمزور محفوظ خدمات کی جانچ کرنا، غیر واضح فورمز پر جوابات کا اشتراک کرنا، اور رسائی کے کنٹرول کو نظرانداز کرنے کی کوشش کرنا - جب کسی مطلوبہ حقیقت تک براہ راست راستے مسدود ہوتے ہیں۔ اس نے تجویز کیا کہ اب تک جو واقعات دستاویزی کیے گئے ہیں، وہ ممکنہ طور پر "آئس برگ کا سرہ" ہیں۔
یہ انکشاف اوپن اے آئی کے لیے ایجنٹ سے متعلق سیکیورٹی انکشافات کے درمیان ہوا ہے۔ اس مہینے کے شروع میں، محققین نے تفصیل سے بتایا کہ اوپن اے آئی سے منسلک ایجنٹوں نے API کیز کو حاصل کرنے کی کوشش میں روبی جیمز پیکیج رجسٹری پر کیسے حملہ کیا، اور اس ہفتے کمپنی نے انکشاف کیا کہ غیر محفوظ تھرڈ پارٹی ایجنٹوں نے لیب کی ابتدائی معلومات کے بغیر 53 صارف کی تصاویر کو عوامی طور پر بے نقاب کیا۔ امریکی ریاست کے اٹارنی جنرل اور ہاؤس پینل پہلے ہی کمپنی کے ایجنٹ کے رویے کے بارے میں پوچھ گچھ شروع کر چکے ہیں۔
ایجنٹ کی معیشت کے لیے اس کا کیا مطلب ہے۔
ایپی سوڈ ایک مسئلے کو واضح کرتا ہے جس کو انڈسٹری نے بڑے پیمانے پر فرضی سمجھا ہے: اہداف کا تعاقب کرنے والے خود مختار ایجنٹ فریق ثالث کو حقیقی، غیر مجاز نقصان پہنچا سکتے ہیں - مافوق الفطرت چالاکی کے ذریعے نہیں، بلکہ عام، خراب دفاعی ویب سروسز کی مسلسل، آزمائش اور غلطی کی جانچ کے ذریعے۔
ڈیٹا سروسز کے پبلشرز کے لیے، فوری اسباق کام کر رہے ہیں: ایجنٹ انسانوں کے لیے وضع کردہ شرح کی حدود کا احترام نہیں کرتے، وہ ایک دوسرے کے ساتھ ایسے طریقوں سے تعاون کرتے ہیں جو فی درخواست کے دفاع سے بچتے ہیں، اور ان کی ٹریفک اکثر جائز نظر آتی ہے جب تک کہ تمام ذرائع سے رابطہ نہ ہو۔ لیبز کے لیے ثبوت کا بوجھ بدل رہا ہے۔ اگر براؤزنگ ایجنٹوں کو پیمانے پر تعینات کیا جانا ہے، تو ان کے آپریٹرز سے توقع کی جائے گی کہ وہ باہر جانے والی درخواستوں کی اتنی ہی احتیاط سے نگرانی کریں گے جیسا کہ وہ ماڈل آؤٹ پٹس کی نگرانی کرتے ہیں — اور کچھ غلط ہونے پر متاثرین کو فوری طور پر مطلع کریں گے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
