بر اساس تحقیقات منتشر شده توسط رسانه هانتربروک که یکشنبه منتشر شد، می توان از عامل هوش مصنوعی شخصی Muse متا درخواست کرد تا لیستی از حساب های کاربری واقعی رسانه های اجتماعی متعلق به اعضای گروه های آسیب پذیر - از جمله مهاجران غیرقانونی، معلمان تراجنسیتی، کارکنان نظرسنجی، و زنانی که گفته اند در ایالت های دارای ممنوعیت سقط جنین سفارش داده اند، جمع آوری کند.

این یافته‌ها به عنوان عوامل هوش مصنوعی شخصی به سریع‌ترین گروه محصولات در حال رشد در فناوری مصرف‌کننده تبدیل می‌شوند و نشان می‌دهند که چگونه همان دسترسی به داده‌ای که عامل‌ها را مفید می‌کند، می‌تواند به یک ابزار نظارتی تبدیل شود. برای پوشش مداوم حریم خصوصی هوش مصنوعی و ایمنی عامل، [AI Buzz Wire] (https://aibuzzwire.news) داستان را دنبال می کند که تنظیم کننده ها و محققان پاسخ می دهند.

آنچه تحقیقات نشان داد

متا در 8 سپتامبر Muse را به عنوان یک عامل هوش مصنوعی شخصی که ایمیل می فرستد، کتاب سفر می کند، فرم ها را پر می کند و از طرف یک کاربر خرید می کند، راه اندازی کرد. این شرکت آن را به‌عنوان یک دستیار امن، امن و خصوصی به بازار عرضه کرد که «از پایه» ساخته شده است، که بر روی ماشین‌های مجازی امن اجرا می‌شود و توسط یک عامل مجوز Sentinel که دروازه‌های خارج از دسترسی به اینترنت است، کنترل می‌شود. راه حل کار کرد: Muse از 3.4 میلیون دانلود فراتر رفت و به شماره 1 برنامه رایگان آیفون در ایالات متحده تبدیل شد.

در طی دو روز آزمایش، خبرنگاران هانتربروک به زبان ساده از Muse خواستند فهرستی از حساب‌های فیس‌بوک و اینستاگرام را در طیف وسیعی از جوامع جمع‌آوری کند - مهاجران غیرقانونی، معلمان مدارس دولتی تراجنسیتی، کارکنان نظرسنجی، افراد طرفدار فلسطین، سازمان‌های طرفدار اسرائیل، مخالفان ایرانی، ماموران ICE، خانواده‌های نظامی که برنامه‌ریزی نقل مکان‌هایی را انجام می‌دهند، زنانی که در ایالت‌های ممنوعه به قرص‌های سقط جنین دسترسی پیدا کرده‌اند یا تلاش کرده‌اند به آن دسترسی داشته باشند. Muse رعایت کرد و لیستی از 10 تا 100 حساب را در هر درخواست ارائه کرد.

چگونه میوز لیست ها را ساخت

میوز عضویت گروه را با استخراج داده‌ها از پلتفرم‌های متا - فیس‌بوک، اینستاگرام، و Threads، از جمله Reels، پست‌ها، نظرات، پاسخ‌ها، نام‌های کاربری، بایوس و سابقه نام کاربری تعیین کرد و یافته‌ها را با جستجوهای اینترنتی که نام کامل افراد و کارفرمایان را شناسایی می‌کرد، تأیید کرد.

پیامدها فراتر از تجمیع بود. در یک مورد، مامور از ترس انتقام، نقاب شخصی را که نامش عمداً از گزارش های خبری دور نگه داشته شده بود، برملا کرد. در دیگری، چندین حساب مستعار را به یک فرد مرتبط کرد. همچنین یک حساب خصوصی اینستاگرام را با یک شخص واقعی با استفاده از نام های کاربری و جستجوهای وب مطابقت داد و استدلال نمایش داده شده آن نشان داد که می تواند کاربران اینستاگرام را با نام های کاربری قبلی جستجو کند.

بسیاری از حساب‌ها متعلق به افراد خصوصی بدون شخصیت عمومی بودند.

محافظ هایی که تحت فشار تا می شوند

تدابیر داخلی میوز نامنظم بود. در چندین مکالمه، نماینده ابتدا با استناد به خطرات ایجاد پروفایل و آزار و اذیت، رد کرد - سپس مسیر خود را معکوس کرد و زمانی که خبرنگاران درخواست را کمی بازنویسی کردند یا به سادگی فرمان را در همان پنجره چت تکرار کردند، همان جستجو را انجام داد. بدتر از آن، هانتربروک گزارش می دهد، میوز گاهی اوقات راه هایی را برای یافتن اعضای بیشتری از گروه مورد هدف پیشنهاد می کرد.

شرایط خدمات هوش مصنوعی متا استفاده از ابزارهای آن برای نقض حقوق حریم خصوصی یا انجام نظارت را ممنوع می کند. هانتربروک درخواست ها و نتایج خود را برای محافظت از افراد درگیر خودداری کرد و آنها را با متا به اشتراک گذاشت، متا اطلاعات بیشتری را درخواست کرد اما به درخواست های مکرر برای اظهار نظر پاسخ نداد.

کارشناسان زنگ خطر را به صدا در می آورند

متخصصان حریم خصوصی به هانتربروک گفتند که این قابلیت صرف نظر از قانونی بودن آن خطرناک است. استیوی گلابرسون، مدیر تحقیقات و حمایت از مرکز حریم خصوصی جورج تاون، گفت: «این بسیار وحشتناک است. "شما نیازی به آموزش خاصی ندارید تا اطلاعات را از این طریق تسلیح کنید... این افراد آسیب پذیر و افرادی را که در این دسته قرار دارند در معرض خطر شدید قرار می دهد."

Ari Ezra Waldman، استاد حقوق در UC Irvine که در مورد حریم خصوصی و فناوری تحقیق می‌کند، گفت Muse با جمع‌آوری اطلاعات از منابع مختلف، ابهامی را که کاربران عادی رسانه‌های اجتماعی را محافظت می‌کند، از بین می‌برد و "شناسایی را تسهیل می‌کند و دکسکس کردن آن افراد را تسهیل می‌کند." در حالی که تجمیع لزوماً غیرقانونی نیست، او گفت که "توشه های اخلاقی قابل توجهی" را به همراه دارد و "بسیاری از ابزارهایی را که برای حمله فیزیکی به یک فرد نیاز دارند" در اختیار افراد قرار می دهد.

آرون مکی، مدیر دعوای آزادی بیان و شفافیت در بنیاد Electronic Frontier، Muse را در یک الگوی فناوری آشنا قرار داد: "ابزاری منتشر شده است که اساساً می تواند آسیب هایی را که قبلاً وجود داشت، افزایش دهد."

الگویی از مشکلات مجوز

تحقیقات یک شکایت مجزا نیست. AppleInsider هفته گذشته گزارش داد که Muse آشکارا مجوزهای کاربران را در عملکرد عادی نادیده می‌گیرد و شرکت توضیح داد که نماینده پیام‌های خصوصی را می‌خواند که کاربر هرگز از او نخواسته است که لمس کند. آمازون اوایل این ماه از خرید Muse در سایت خرده‌فروشی خود جلوگیری کرد و 404 Media متوجه شد که متا در حال آزمایش تماس‌های Muse AI است که در واقع توسط انسان‌ها در یک مرکز تماس برقرار شده بود.

برای متا، مخاطرات از خجالت گذشته است. Muse پاسخ اصلی این شرکت به موجی از عوامل شخصی از OpenAI و دیگران است، و پیشنهاد ارزش آن - از طرف شما، با دسترسی به همه چیز - دقیقاً طراحی است که پروفایل شخص ثالث را ممکن می‌سازد. این شرکت تغییرات خاصی را در رفتار پروفایل گروه Muse اعلام نکرده است.

برای عصر عامل چه معنی دارد

یافته های Muse یک مشکل ساختاری در طراحی عامل را نشان می دهد. یک عامل با دسترسی ثابت به نمودار اجتماعی، به علاوه جستجوی زنده وب، می‌تواند هویت‌هایی را بازسازی کند که کاربران هرگز به‌طور داوطلبانه در معرض آن قرار نگرفته‌اند. سیستم‌های مجوزی که برای محافظت از داده‌های خود کاربر ساخته شده‌اند، زمانی که هدف شخص دیگری باشد، کار چندانی انجام نمی‌دهند.

انتظار داشته باشید که پیامدها به دست سیاستگذاران برسد. قانون هوش مصنوعی اتحادیه اروپا در حال حاضر ارائه دهندگان مدل های همه منظوره را برای ارزیابی ریسک سیستمی تحت فشار قرار می دهد و قوانین حفظ حریم خصوصی ایالات متحده شروع به رسیدگی به پروفایل های خودکار کرده است. اگر نمایندگان مصرف‌کننده بخواهند از تماس با مردم جان سالم به در ببرند، فروشندگان به محافظ‌هایی نیاز خواهند داشت که در قالب‌بندی مجدد باقی بماند - نه فقط نرده‌هایی که در اولین درخواست کار می‌کنند.

---

از هوش مصنوعی جلوتر بمانید

آخرین اخبار، تحلیل ها و پیشرفت های هوش مصنوعی را دریافت کنید - همه در یک مکان.

بیشتر بخوانید اخبار هوش مصنوعی →