واجه مساعد الذكاء الاصطناعي Muse التابع لشركة Meta، الوكيل الذي تراهن الشركة على أنه سيدير البريد الإلكتروني والتقويمات والتسوق لملايين المستخدمين، مشكلة في الفناء الخلفي الخاص به. أثناء الاختبار الداخلي للموظفين، قام وكلاء Muse بخلط الرسائل، وسحبوا محادثات غير متوقعة من تطبيقات أخرى، ووصلوا إلى الخدمات - بما في ذلك Signal - التي لم يتصل بها الموظفون مطلقًا، وفقًا لتقرير رويترز الذي نُشر يوم الأربعاء ولخصه موقع The Verge.
وشملت الحوادث الأكثر إثارة للقلق رسائل غامضة خارج السياق أرسلها العميل ويبدو أنها تحتوي على معلومات أشخاص آخرين، والتي تمت صياغتها في كثير من الحالات كردود على استفسارات لم يرسلها المستخدمون مطلقًا. بمعنى آخر، يتصرف الوكيل أحيانًا كما لو كان يجيب على أسئلة لم يطرحها أحد، ببيانات لا تخص الشخص الذي يراها.
ووصف دانييل روبرتس، المدير التنفيذي لشركة ميتا المشرف على برنامج الوكلاء، المشكلات بأنها "حوادث معزولة"، وفقًا لتقرير رويترز الذي نقلته The Verge. ولم يفعل هذا التوصيف الكثير لتهدئة النقاد الذين يجادلون بأن المساعد الذي يتمتع بهذا القدر من الوصول لا ينبغي أن يتسبب في مثل هذه الإخفاقات على الإطلاق.
التميمة بمفتاح رئيسي
تعد Muse، التي تتجسد في تميمة مبتسمة وغامضة تدعى Jolly، خطوة Meta الأكثر عدوانية حتى الآن خارج نطاق برامج الدردشة الآلية ووصولاً إلى الوكلاء الذين يتصرفون نيابة عن المستخدم. وصفت رويترز الوكيل بأنه "حفر في رسائل شخصية مشفرة" وقدم معلومات مختلقة أثناء نشره المبكر - وهي مجموعة حية بشكل غير عادي من أوضاع الفشل لمنتج استهلاكي مدعوم بواحدة من أكبر ميزانيات أبحاث الذكاء الاصطناعي في العالم.
لمزيد من السياق حول هذه القصة، راجع [أحدث تطورات الذكاء الاصطناعي] (https://aibuzzwire.news) المستمرة لدينا.
منذ إطلاقه في 8 سبتمبر، تم الترويج لـ Muse على أنه "ذكاء اصطناعي ينجز المهام"، مصمم لإخراج "الأعمال المزدحمة من على لوحتك" من خلال الاتصال بالبريد الإلكتروني والتقويمات وجهات الاتصال والتسوق. كان التبني سريعًا: قالت Meta في مكالمة أرباح الربع الثالث إن Muse تجاوز 10 ملايين مستخدم، حوالي 25 بالمائة منهم يستخدمون المساعد يوميًا، وفقًا لما ذكرته ZDNET.
يأتي هذا الوصول مع متطلبات البيانات الشاملة. وجدت المراجعة العملية لـ ZDNET أن Muse يطلب الوصول إلى "جهات الاتصال الخاصة بك والتقويم ورسائل البريد الإلكتروني وحتى عروض تخزين تسجيلات الدخول وكلمات المرور الخاصة بك." على نظام Android، تكشف قائمة متجر التطبيق عن مجموعة من الرسائل والصور ومقاطع الفيديو والمعلومات المالية وبيانات الصحة واللياقة البدنية والصوت والموقع وتصفح الويب ونشاط التطبيق. يتم تمكين التدريب النموذجي بشكل افتراضي ما لم يقوم المستخدمون بإلغاء الاشتراك.
نمط، وليس لمرة واحدة
إن حوادث اختبار الموظف ليست أول تعثر لميوز. في أكتوبر، أوقفت Meta مؤقتًا ميزة Muse التي تتيح للمستخدمين مشاركة المحادثات عبر الرابط بعد أن اكتشف الباحثون في شركة الأمن Claroc أكثر من 6800 صفحة مشاركة يمكن اكتشافها بشكل عام من خلال سجلات DNS العادية، حسبما ذكرت The Verge في ذلك الوقت. تضمنت الدردشات المكشوفة مراجعة إيرادات شركة تسويق، وطلب قرض من مالك شركة صغيرة، وتقويم الموظفين للعام بأكمله في مكان العمل - وهو نوع المستندات التي لن ينشرها سوى عدد قليل من المستخدمين على شبكة الإنترنت المفتوحة.
وقالت تريسي كلايتون، المتحدثة باسم ميتا، في بيان لـ The Verge عندما تم الإعلان عن إيقاف المشاركة مؤقتًا: "يتمتع الأشخاص بالقدرة على مشاركة عناصر معينة من Muse، مما يؤدي إلى إنشاء صفحة يمكن الوصول إليها من قبل أولئك الذين لديهم الرابط". "ومع ذلك، فقد أوقفنا هذه الوظيفة مؤقتًا أثناء مراجعة هذا التقرير والنظر في التغييرات على كيفية اكتشاف هذه الروابط."
التسلسل مهم. أولاً، قامت روابط المشاركة بتسريب المحادثات الخاصة إلى الويب. الآن، أظهر اختبار الموظفين وكلاء يقرأون التطبيقات المشفرة التي لم يتم تقديمها لهم مطلقًا. يشترك كلا الفشلين في السبب الجذري: وكيل مصمم لتحقيق أقصى قدر من الاتصال، ومتصل بأنظمة تحتفظ ببيانات أشخاص آخرين، ويعمل مع الإعدادات الافتراضية التي تفضل القدرة على الحذر.
مشكلة غير المستخدم
الكثير من القلق بشأن Muse يتعلق بأشخاص لم يشتركوا فيه مطلقًا. أشارت ZDNET إلى أن الأبحاث تشير إلى أن Muse يمكنه إنشاء ملفات تعريف تفصيلية لجهات اتصال المستخدم - الأصدقاء والعائلة الذين قد لا يكون لديهم أي فكرة عن تدفق معلوماتهم إلى مساعد Meta لأن شخصًا آخر قام بتوصيل دفتر العناوين الخاص بهم. لقد تناولت Meta كيفية تعاملها مع بيانات غير المستخدمين، ولكن كما قال موقع ZDNET، فإن "المعالجة" لا تعني أن غير المستخدمين لهم رأي.
تقع الحلقة أيضًا وسط منافسة شديدة في سوق الوكلاء. تتنافس شركة Meta مع OpenAI، التي أطلقت وكلاءها الدائمين، ومجموعة من الشركات الناشئة التي تعد بإكمال المهام بشكل مستقل. قامت رويترز بتأطير هذه الحوادث المؤسفة على أنها تظهر على وجه التحديد لأن Meta تراهن بشكل كبير على Muse - كلما كان الطرح أسرع، ظهرت الحواف بشكل أسرع.
ما يقوله ميتا – وما سيأتي بعد ذلك
الموقف الرسمي لميتا هو أن المشاكل معزولة ويتم معالجتها. ولم تذكر الشركة ما إذا كانت قد غيرت أذونات الوصول إلى تطبيق Muse بعد حوادث Signal، أو ما هي الآلية التقنية التي سمحت للوكيل بالوصول إلى التطبيقات التي لم يتصل بها المستخدم مطلقًا. هذه التفاصيل هي التي ستخبر المستخدمين ما إذا كانت حالات الفشل عبارة عن أخطاء في بيئة الاختبار أو أعراض التصميم نفسه.
بالنسبة للصناعة، فإن النتائج التي توصلت إليها رويترز تقع في وسط جدل أوسع حول مقدار الاستقلالية والوصول إلى البيانات التي يجب أن يتمتع بها وكلاء الذكاء الاصطناعي الشخصي بشكل افتراضي. ويقوم المنظمون في أوروبا والعديد من الولايات الأمريكية بالفعل بفحص ممارسات خصوصية الوكلاء، وكل حادث مثل هذا يصبح العرض الأول في جلسات الاستماع التي أنتجت حتى الآن تحذيرات أكثر من القواعد.
وحتى ذلك الحين، فإن النصيحة المتداولة بين الباحثين في مجال الخصوصية صريحة: تعامل مع أذونات الوكيل كما تعامل موظفًا جديدًا بمفتاح رئيسي - يتم منحه عمدًا، ويتم تحديد نطاقه بشكل ضيق، ويتم تدقيقه باستمرار. تشير الأشهر الأولى لـ Muse إلى أن الصناعة لم تستوعب هذا الدرس بعد.
حقائق أساسية في لمحة
- ذكرت رويترز أن عملاء Muse خلطوا الرسائل ووصلوا إلى Signal والتطبيقات الأخرى التي لم يتصل بها الموظفون مطلقًا
- يبدو أن بعض الرسائل تحتوي على معلومات خاصة بأشخاص آخرين، وقد تمت صياغتها على شكل ردود على استفسارات لم يتم إرسالها مطلقًا
- وصف دانييل روبرتس من ميتا المشاكل بأنها "حوادث معزولة".
- تجاوز عدد مستخدمي Muse 10 ملايين مستخدم، ويستخدمه حوالي 25 بالمائة يوميًا، وفقًا لأرباح الربع الثالث من Meta
- في أكتوبر، أوقفت Meta مؤقتًا ميزة مشاركة الروابط في Muse بعد أن عثر الباحثون على أكثر من 6800 محادثة قابلة للاكتشاف بشكل عام
---
ابقَ في طليعة الذكاء الاصطناعياحصل على آخر الأخبار والتحليلات والإنجازات في مجال الذكاء الاصطناعي — كل ذلك في مكان واحد.
اقرأ المزيد من أخبار الذكاء الاصطناعي →