دستیار هوش مصنوعی متا، Muse، عاملی که شرکت شرط بندی می کند ایمیل، تقویم و خرید میلیون ها کاربر را مدیریت کند، در حیاط خلوت خود با مشکل مواجه شده است. بر اساس گزارش رویترز که چهارشنبه منتشر شد و توسط The Verge خلاصه شد، در طول آزمایش داخلی کارمندان، عوامل Muse پیامها را با هم مخلوط کردند، چتهای غیرمنتظره را از برنامههای دیگر وارد کردند و به سرویسهایی - از جمله سیگنال - دسترسی پیدا کردند که کارمندان هرگز به آن متصل نشده بودند.
هشداردهندهترین رویدادها شامل پیامهای مرموز خارج از زمینهای بود که توسط نماینده ارسال میشد و به نظر میرسید حاوی اطلاعات افراد دیگر باشد، که در بسیاری از موارد به عنوان پاسخ به سؤالاتی که کاربران هرگز ارسال نکرده بودند بیان میشد. به عبارت دیگر، عامل گاهی به گونهای رفتار میکند که گویی به سؤالاتی پاسخ میدهد که هیچکس نمیپرسد، با دادههایی که به شخصی که آن را میبیند تعلق ندارد.
بر اساس گزارش رویترز به نقل از The Verge، دانیل رابرتز، یکی از مدیران متا که بر برنامه عامل نظارت دارد، مشکلات را "حوادث جداگانه" توصیف کرد. این شخصیت پردازی به منتقدان ساکتی که استدلال می کنند که دستیار با این گستردگی به هیچ وجه نباید چنین شکست هایی ایجاد کند کمک چندانی نکرده است.
طلسم با کلید اصلی
Muse که توسط یک طلسم خندان و مبهم به نام Jolly تجسم یافته است، تهاجمیترین گام متا است که هنوز فراتر از رباتهای چت و تبدیل به عواملی است که از طرف یک کاربر عمل میکنند. رویترز توضیح داد که این عامل "در پیامهای شخصی رمزگذاری شده نفوذ کرده است" و اطلاعات ساختگی را در طول استقرار اولیه خود ارائه کرده است - مجموعه ای غیرمعمول از حالت های خرابی برای یک محصول مصرفی که توسط یکی از بزرگترین بودجه های تحقیقاتی هوش مصنوعی در جهان پشتیبانی می شود.
برای اطلاعات بیشتر در مورد این داستان، [آخرین پیشرفت های هوش مصنوعی] (https://aibuzzwire.news) را ببینید.
Muse از زمان راهاندازی خود در 8 سپتامبر بهعنوان «هوش مصنوعی که آن را انجام میدهد» معرفی شده است تا با اتصال به ایمیل، تقویمها، مخاطبین و خرید، «مشغلهها را از بشقاب شما دور کند». پذیرش سریع انجام شده است: متا در تماس درآمدی سه ماهه سوم خود گفت که Muse از 10 میلیون کاربر فراتر رفته است که طبق گزارش ZDNET، حدود 25 درصد از آنها روزانه از این دستیار استفاده می کنند.
این دسترسی با تقاضای داده گسترده همراه است. بررسی عملی ZDNET نشان داد که Muse درخواست دسترسی به «مخاطبین، تقویم، پیامهای ایمیل و حتی پیشنهادهایی برای ذخیره لاگین و رمز عبور شما» میکند. در اندروید، فهرست فروشگاه برنامه مجموعهای از پیامها، عکسها و ویدیوها، اطلاعات مالی، دادههای سلامتی و تناسب اندام، صدا، مکان، مرور وب و فعالیت برنامه را فاش میکند. آموزش مدل به طور پیش فرض فعال است مگر اینکه کاربران انصراف دهند.
یک الگو، نه یک بار
بدبختی های تست کارمندان اولین اشتباه میوز نیست. The Verge در آن زمان گزارش داد، پس از اینکه محققان شرکت امنیتی Claroc بیش از 6800 صفحه اشتراک گذاری را کشف کردند که از طریق سوابق DNS معمولی قابل کشف بودند، در ماه اکتبر، متا ویژگی Muse را متوقف کرد که به کاربران اجازه می داد مکالمات را از طریق پیوند به اشتراک بگذارند. چتهای افشا شده شامل بررسی درآمد یک شرکت بازاریابی، درخواست وام مالک یک کسبوکار کوچک، و تقویم تمامساله کارکنان محل کار بود - اسنادی که تعداد کمی از کاربران میتوانند آگاهانه در وب باز منتشر کنند.
تریسی کلیتون، سخنگوی متا در بیانیهای به The Verge هنگام اعلام توقف اشتراکگذاری گفت: «مردم توانایی اشتراکگذاری مصنوعات خاص Muse را دارند، که صفحهای ایجاد میکند که برای کسانی که پیوند را دارند میتوانند به آن دسترسی داشته باشند». با این حال، در حین بررسی این گزارش و بررسی تغییرات در نحوه کشف این پیوندها، این عملکرد را متوقف کرده ایم.
توالی مهم است. ابتدا پیوندهای اشتراک گذاری مکالمات خصوصی را به وب درز کردند. اکنون آزمایش کارمندان نشان داده است که ماموران برنامه های رمزگذاری شده ای را می خوانند که هرگز به آنها داده نشده است. هر دو خرابی یک علت اصلی مشترک دارند: عاملی که برای حداکثر اتصال طراحی شده است، به سیستمهایی متصل است که دادههای افراد دیگر را نگه میدارد، با پیشفرضهایی کار میکند که توانایی را به احتیاط ترجیح میدهد.
مشکل غیر کاربر
بسیاری از نگرانی ها در مورد Muse مربوط به افرادی است که هرگز برای آن ثبت نام نکرده اند. ZDNET اشاره کرد که تحقیقات نشان میدهد که Muse میتواند پروفایلهای دقیقی از مخاطبین کاربر بسازد – دوستان و خانوادهای که ممکن است تصوری نداشته باشند اطلاعات آنها به دستیار متا میرود زیرا شخص دیگری دفترچه آدرس آنها را متصل کرده است. متا به نحوه مدیریت دادههای غیرکاربر پرداخته است، اما همانطور که ZDNET بیان کرده است، «آدرس» به این معنا نیست که غیرکاربران نظر بدهند.
این اپیزود همچنین در بحبوحه رقابت تشدید شده در بازار نمایندگی رخ می دهد. متا در حال مسابقه دادن با OpenAI است که نمایندگان همیشه فعال خود و مجموعهای از استارتآپها را راهاندازی کرده است که قول تکمیل وظایف خودران را میدهند. رویترز اشتباهات را دقیقاً به این دلیل توصیف کرد که متا در حال شرطبندی بزرگ روی Muse است – هر چه عرضه سریعتر باشد، لبهها سریعتر نشان داده میشوند.
آنچه متا می گوید - و آنچه بعدا می آید
موضع رسمی متا این است که مشکلات جدا شده و در حال رسیدگی است. این شرکت نگفته است که آیا مجوزهای دسترسی به برنامه Muse را پس از حوادث سیگنال تغییر داده است یا نه، یا اینکه چه مکانیزم فنی به یک عامل اجازه می دهد تا به برنامه هایی دسترسی پیدا کند که کاربر هرگز به آن متصل نشده است. این جزئیات مواردی هستند که به کاربران می گویند که آیا خرابی ها اشکالات یک محیط آزمایشی هستند یا علائم خود طراحی.
برای صنعت، یافتههای رویترز در میانه یک بحث گستردهتر در مورد میزان استقلال و دسترسی به دادهها توسط عوامل هوش مصنوعی شخصی به طور پیشفرض قرار میگیرد. قانونگذاران در اروپا و چندین ایالت ایالات متحده در حال بررسی شیوههای حفظ حریم خصوصی نمایندگان هستند، و هر حادثهای مانند این مورد به نمونه A در جلسات استماعهایی تبدیل میشود که تاکنون هشدارهای بیشتری نسبت به قوانین ایجاد کردهاند.
تا آن زمان، توصیهای که در میان محققان حفظ حریم خصوصی منتشر میشود، صریح است: با مجوزهای نماینده رفتار کنید، همانطور که با یک کارمند جدید با یک کلید اصلی رفتار میکنید - که عمداً اعطا شده، محدوده محدودی دارد و دائماً حسابرسی میشود. ماه های اول Muse نشان می دهد که صنعت هنوز این درس را درونی نکرده است.
حقایق کلیدی در یک نگاه
- رویترز گزارش داد که عوامل Muse پیامها را با هم مخلوط کرده و به سیگنال و سایر برنامههایی که کارمندان هرگز متصل نشدهاند دسترسی پیدا کردهاند.
- به نظر می رسد که برخی از پیام ها حاوی اطلاعات افراد دیگر هستند که به عنوان پاسخ به سؤالاتی که هرگز ارسال نشده اند بیان می شوند
- دنیل رابرتز از متا مشکلات را "حوادث جداگانه" نامید.
- Muse به ازای هر تماس درآمدی سه ماهه سوم متا از 10 میلیون کاربر فراتر رفته است که حدود 25 درصد روزانه از آن استفاده می کنند.
- در ماه اکتبر، پس از اینکه محققان بیش از 6800 چت قابل کشف عمومی را یافتند، متا ویژگی اشتراک لینک Muse را متوقف کرد.
---
از هوش مصنوعی جلوتر بمانیدآخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.
بیشتر بخوانید اخبار هوش مصنوعی →