میٹا کا اے آئی اسسٹنٹ میوز، جس ایجنٹ پر کمپنی شرط لگا رہی ہے وہ لاکھوں صارفین کے لیے ای میل، کیلنڈرز اور خریداری کا انتظام کرے گا، اپنے ہی گھر کے پچھواڑے میں مشکلات کا شکار ہے۔ روئٹرز کی بدھ کو شائع ہونے والی اور دی ورج کی طرف سے خلاصہ کردہ رپورٹ کے مطابق، ملازمین کی داخلی جانچ کے دوران، میوز ایجنٹوں نے پیغامات کو ملایا، دیگر ایپس سے غیر متوقع چیٹس حاصل کیں، اور سروسز تک رسائی حاصل کی — بشمول سگنل — جن سے ملازمین نے کبھی اس سے رابطہ نہیں کیا تھا۔
سب سے زیادہ تشویشناک واقعات میں ایجنٹ کے ذریعے بھیجے گئے سیاق و سباق سے باہر کے خفیہ پیغامات شامل تھے جن میں دوسرے لوگوں کی معلومات شامل تھیں، بہت سے معاملات میں ایسے سوالات کے جوابات کے طور پر بیان کیا گیا جو صارفین نے کبھی جمع نہیں کروائے تھے۔ دوسرے لفظوں میں، ایجنٹ بعض اوقات ایسا برتاؤ کرتا تھا جیسے وہ ان سوالوں کا جواب دے رہا ہو جو کسی نے نہیں پوچھے، اس ڈیٹا کے ساتھ جو اسے دیکھنے والے شخص سے تعلق نہیں رکھتا تھا۔
دی ورج کے حوالے سے رائٹرز کی رپورٹنگ کے مطابق، ایجنٹ پروگرام کی نگرانی کرنے والے ایک میٹا ایگزیکٹو ڈینیئل رابرٹس نے مسائل کو "الگ تھلگ واقعات" قرار دیا۔ کردار نگاری نے ناقدین کو خاموش کرنے کے لیے بہت کم کام کیا ہے جو یہ استدلال کرتے ہیں کہ اس حد تک رسائی کے حامل اسسٹنٹ کو اس طرح کی ناکامی بالکل نہیں کرنی چاہیے۔
ایک ماسٹر کی کے ساتھ ماسکوٹ
میوزک، جولی نامی ایک سمائلی، فزی شوبنکر کے ذریعے مجسم ہے، میٹا کا سب سے زیادہ جارحانہ قدم ہے جو کہ چیٹ بوٹس سے ہٹ کر اور صارف کی جانب سے کام کرنے والے ایجنٹوں میں ہے۔ رائٹرز نے ایجنٹ کو "انکرپٹڈ پرسنل میسجز میں دفن" کے طور پر بیان کیا اور اس کی ابتدائی تعیناتی کے دوران تیار کردہ معلومات فراہم کی - ایک صارفین کی مصنوعات کے لیے ناکامی کے طریقوں کا ایک غیر معمولی واضح سیٹ جس کی حمایت دنیا کے سب سے بڑے AI ریسرچ بجٹ میں سے ایک ہے۔
اس کہانی کے بارے میں مزید سیاق و سباق کے لیے، ہماری جاری تازہ ترین AI پیش رفت دیکھیں۔
اس کے 8 ستمبر کے آغاز کے بعد سے، Muse کو "AI that gets it done" کے طور پر ترقی دی گئی ہے، ای میل، کیلنڈرز، رابطوں اور خریداری سے منسلک ہو کر "اپنی پلیٹ میں مصروفیت کو ختم کرنے" کے لیے بنایا گیا ہے۔ اپنانے کا عمل تیزی سے ہوا ہے: میٹا نے اپنی تیسری سہ ماہی کی آمدنی کال میں کہا کہ میوز نے 10 ملین صارفین کو عبور کر لیا ہے، ان میں سے تقریباً 25 فیصد روزانہ اسسٹنٹ استعمال کرتے ہیں، جیسا کہ ZDNET نے رپورٹ کیا۔
یہ رسائی بڑے پیمانے پر ڈیٹا کے مطالبات کے ساتھ آتی ہے۔ ZDNET کے ہینڈ آن جائزے میں پایا گیا کہ Muse "آپ کے رابطوں، کیلنڈر، ای میل پیغامات، اور یہاں تک کہ آپ کے لاگ ان اور پاس ورڈز کو اسٹور کرنے کی پیشکشوں تک رسائی کی درخواست کرتا ہے۔" اینڈرائیڈ پر، ایپ کی اسٹور لسٹنگ پیغامات، تصاویر اور ویڈیوز، مالیاتی معلومات، صحت اور تندرستی کے ڈیٹا، آڈیو، مقام، ویب براؤزنگ اور ایپ کی سرگرمی کے مجموعہ کا انکشاف کرتی ہے۔ ماڈل ٹریننگ بطور ڈیفالٹ فعال ہے جب تک کہ صارفین آپٹ آؤٹ نہ کریں۔
ایک پیٹرن، ایک آف نہیں
ملازمین کی جانچ کے حادثات میوز کی پہلی ٹھوکر نہیں ہیں۔ اکتوبر میں، میٹا نے ایک میوز فیچر کو موقوف کر دیا تھا جو صارفین کو لنک کے ذریعے گفتگو کا اشتراک کرنے دیتا ہے جب سیکیورٹی فرم کلارک کے محققین نے عام DNS ریکارڈز کے ذریعے عوامی طور پر 6,800 سے زیادہ شیئر پیجز دریافت کیے تھے، دی ورج نے اس وقت رپورٹ کیا۔ بے نقاب چیٹس میں ایک مارکیٹنگ کمپنی کی آمدنی کا جائزہ، ایک چھوٹے کاروبار کے مالک کی قرض کی درخواست، اور کام کی جگہ کا پورے سال کا عملہ کیلنڈر شامل تھا — اس قسم کی دستاویزات جو کچھ صارفین جان بوجھ کر اوپن ویب پر شائع کرتے ہیں۔
میٹا کی ترجمان ٹریسی کلیٹن نے دی ورج کو دیے گئے ایک بیان میں جب شیئرنگ توقف کا اعلان کیا گیا تو کہا کہ "لوگوں کے پاس مخصوص میوز آرٹفیکٹس کو شیئر کرنے کی صلاحیت ہوتی ہے، جو ایک ایسا صفحہ بناتا ہے جس تک لنک والے افراد تک رسائی حاصل کر سکتے ہیں۔" "تاہم، ہم نے اس فعالیت کو روک دیا ہے جب کہ ہم اس رپورٹ کا جائزہ لیتے ہیں اور ان تبدیلیوں پر غور کرتے ہیں کہ ان لنکس کو کیسے دریافت کیا جا سکتا ہے۔"
ترتیب اہمیت رکھتی ہے۔ پہلے شیئر لنکس نے ویب پر نجی گفتگو کو لیک کیا۔ اب ملازمین کی جانچ میں ایسے ایجنٹس سامنے آئے ہیں جو انکرپٹڈ ایپس کو پڑھ رہے ہیں جنہیں انہیں کبھی نہیں دیا گیا تھا۔ دونوں ناکامیوں کا ایک بنیادی سبب ہے: ایک ایجنٹ زیادہ سے زیادہ کنیکٹیویٹی کے لیے ڈیزائن کیا گیا ہے، ایسے سسٹمز سے منسلک ہے جو دوسرے لوگوں کا ڈیٹا رکھتے ہیں، ڈیفالٹس کے ساتھ کام کرتے ہیں جو احتیاط سے زیادہ صلاحیت کو ترجیح دیتے ہیں۔
غیر صارف کا مسئلہ
میوزک کے ارد گرد زیادہ تر تشویش میں وہ لوگ شامل ہیں جنہوں نے اس کے لئے کبھی سائن اپ نہیں کیا۔ ZDNET نے نوٹ کیا کہ تحقیق سے پتہ چلتا ہے کہ Muse کسی صارف کے رابطوں کی تفصیلی پروفائلز بنا سکتا ہے — دوستوں اور خاندان والوں کو جو شاید نہیں جانتے کہ ان کی معلومات میٹا کے اسسٹنٹ میں بہہ رہی ہے کیونکہ کسی اور نے ان کی ایڈریس بک کو جوڑا ہے۔ میٹا نے اس بات کی نشاندہی کی ہے کہ یہ کس طرح غیر صارف کے ڈیٹا کو ہینڈل کرتا ہے، لیکن، جیسا کہ ZDNET نے کہا، "پتہ" کا مطلب یہ نہیں ہے کہ غیر صارفین کو کوئی کہنا ہے۔
ایجنٹ مارکیٹ میں شدید مسابقت کے درمیان ایپی سوڈ بھی اترتا ہے۔ میٹا اوپن اے آئی کی دوڑ میں شامل ہے، جس نے اپنے ہمیشہ آن رہنے والے ایجنٹوں کا آغاز کیا ہے، اور خود مختار کام کی تکمیل کا وعدہ کرنے والے اسٹارٹ اپس کا ایک مجموعہ ہے۔ رائٹرز نے حادثات کو بالکل درست طور پر سرفیس کرنے کے طور پر تیار کیا کیونکہ میٹا میوزک پر بڑی شرط لگا رہا ہے - جتنا تیزی سے رول آؤٹ ہوگا، کنارے اتنے ہی تیزی سے ظاہر ہوں گے۔
میٹا کیا کہتا ہے - اور آگے کیا آتا ہے۔
میٹا کا سرکاری موقف یہ ہے کہ مسائل کو الگ تھلگ اور حل کیا جا رہا ہے۔ کمپنی نے یہ نہیں بتایا کہ آیا اس نے سگنل کے واقعات کے بعد میوز کی ایپ تک رسائی کی اجازتوں کو تبدیل کیا، یا کس تکنیکی طریقہ کار نے ایجنٹ کو ان ایپس تک پہنچنے کی اجازت دی جو اس کا صارف کبھی منسلک نہیں ہوا۔ وہ تفصیلات وہی ہیں جو صارفین کو بتاتی ہیں کہ آیا ناکامی ٹیسٹنگ ماحول میں کیڑے تھے یا خود ڈیزائن کی علامات۔
انڈسٹری کے لیے، رائٹرز کے نتائج اس بارے میں ایک وسیع بحث کے بیچ میں آتے ہیں کہ ذاتی AI ایجنٹوں کو بطور ڈیفالٹ کتنی خود مختاری اور ڈیٹا تک رسائی حاصل ہونی چاہیے۔ یورپ اور متعدد امریکی ریاستوں میں ریگولیٹرز پہلے ہی ایجنٹ کی رازداری کے طریقوں کی جانچ کر رہے ہیں، اور اس طرح کا ہر واقعہ ان سماعتوں میں نمائشی A بن جاتا ہے جس نے، اب تک، قواعد سے زیادہ انتباہات پیش کیے ہیں۔
اس وقت تک، رازداری کے محققین کے درمیان گردش کرنے والا مشورہ دو ٹوک ہے: ایجنٹ کی اجازتوں کے ساتھ ایسا سلوک کریں جیسے آپ کسی نئے ملازم کے ساتھ ماسٹر کلید کے ساتھ سلوک کریں گے — جان بوجھ کر دی گئی ہے، محدود دائرہ کار میں ہے، اور مسلسل آڈٹ کیا جاتا ہے۔ میوزک کے پہلے مہینے بتاتے ہیں کہ انڈسٹری نے ابھی تک اس سبق کو اندرونی نہیں بنایا ہے۔
ایک نظر میں اہم حقائق
- رائٹرز نے اطلاع دی کہ میوز ایجنٹوں نے پیغامات کو ملایا اور سگنل تک رسائی حاصل کی اور دیگر ایپس کے ملازمین کبھی منسلک نہیں ہوئے
- کچھ پیغامات دوسرے لوگوں کی معلومات پر مشتمل دکھائی دیتے ہیں، جو کبھی بھی جمع نہیں کیے گئے سوالات کے جوابات کے طور پر بیان کیے گئے تھے۔
- میٹا کے ڈینیئل رابرٹس نے مسائل کو "الگ تھلگ واقعات" قرار دیا۔
- میوز نے 10 ملین صارفین کو عبور کر لیا ہے، تقریباً 25 فیصد اسے روزانہ استعمال کرتے ہیں، فی میٹا کی Q3 آمدنی کال
- اکتوبر میں، میٹا نے میوز کے لنک شیئرنگ فیچر کو روک دیا جب محققین کو 6,800+ عوامی طور پر قابل دریافت چیٹس ملے۔
---
AI سے آگے رہیںتازہ ترین AI خبریں، تجزیہ اور کامیابیاں حاصل کریں — سب ایک جگہ پر۔
مزید AI خبریں پڑھیں →