اكتشف مستخدمو أداة سطر الأوامر Claude Code من Anthropic هذا الأسبوع أن وكيل التشفير كان يرسل عناوين البريد الإلكتروني الخاصة بهم إلى مواقع الويب التي زارها - وهي مدسوسة في رأس ``User-Agent`` لطلبات الويب المقدمة أثناء مهام البحث. تم توثيق الخطأ في [إصدار GitHub رقم 107757] (https://github.com/anthropics/claude-code/issues/107757) في 5 نوفمبر، وسرعان ما اجتذب مئات الآلاف من المشاهدات واستجابة سريعة من Anthropic، إلى جانب الانتقادات الموجهة لكيفية تقديم الإصلاح. إنها أحدث تعثرات الخصوصية لوكلاء تشفير الذكاء الاصطناعي، وهي فئة نراقبها عن كثب في [تغطية أدوات الذكاء الاصطناعي] (https://aibuzzwire.news).
"العشرات من رسائل البريد الإلكتروني الاحتيالية يوميًا"
كتب المراسل، الذي يستخدم الإصدار 2.1.318 من Claude Code على نظام التشغيل macOS، أنه بدأ في تلقي "العشرات من رسائل البريد الإلكتروني الاحتيالية يوميًا" بعد أن "كشفت الأداة عن بريدي الإلكتروني لأطراف ثالثة عشوائية في رأس طلب وكيل المستخدم أثناء إجراء عمليات البحث على الويب." وقال إن هذا السلوك لا ينبغي أن يكون موجودًا كإعداد اشتراك أو إلغاء الاشتراك على الإطلاق: فهو لا يفعل شيئًا للخدمات التي تكره حركة المرور الآلية، ولا يحافظ على عدم الكشف عن هوية المستخدم، و"يعد منجم ذهب للمحتالين". أبلغ معلق آخر بشكل مستقل عن وصول سيل مفاجئ من الرسائل غير المرغوب فيها إلى عنوان بريد إلكتروني قديم وهادئ في نفس الوقت تقريبًا.
تم وضع علامة على المشكلة من قبل مشرفي Anthropic بتسميات تشمل bug، وarea:security، وarea:tools، وجذبت عشرات التعليقات في غضون ساعات من تقديمها.
كيف حدث التسرب
وفي تعليق على هذه القضية، أوضح أحد المساهمين في الأنثروبولوجيا الآلية، وشدد على أنه لم يقم أحد بتنفيذ مشاركة البريد الإلكتروني عمدًا. السيناريو، كما هو موضح: بعض المواقع، من بينها ويكيبيديا، تنشر سياسات تطلب من العملاء الذين تم كتابتهم تعريف أنفسهم من خلال البريد الإلكتروني لجهة الاتصال في رأس وكيل المستخدم. عندما طلب أحد المستخدمين من Claude Code البحث في موضوع ما على مثل هذا الموقع، قام النموذج - الذي يحاول الالتزام بهذه السياسة - بإدخال عنوان البريد الإلكتروني الخاص بالمستخدم في رأس مكالمة "curl" الخاصة به.
بمعنى آخر، حاول النموذج أن يكون مواطن ويب حسن التصرف وقام بتسريب بيانات خاصة في هذه العملية. كتب المساهم: "النماذج يمكن أن تكون غير متوقعة إلى حد كبير". "وهذا هو سبب أهمية الضوابط الحتمية حول سلوك النموذج، ولماذا نحتاج إلى حل مشكلة المحاذاة."
الإصلاح الأنثروبي: مكون إضافي
تم شحن استجابة الأنثروبيك بسرعة. وفقًا لنفس التعليق، تم تقديم تعديل مدمج يسمى `cc-plugin-privacy` في الإصدار 2.1.317 والإصدارات الأحدث من أجل "منع هذا السلوك بشكل نهائي". يتم تمكين التعديل افتراضيًا ويمكن إيقاف تشغيله عبر الأمر `/plugins`، وقد تم توفير مصدره جنبًا إلى جنب مع تعديلات Anthropic الأخرى المضمنة في مستودع Claude Code. وطلبت الشركة من المستخدمين الإبلاغ عن أي ثغرات في الشيكات على الفور.
أثار الإصلاح خطين فوريين من النقد. أولاً، شكك بعض المستخدمين في آلية التسليم نفسها: كتب أحد المعلقين: "لا ينبغي أن تكون الخصوصية مكونًا إضافيًا. يجب أن تكون ثابتة"، متسائلاً عما سيأتي بعد ذلك - "cc-plugin-dont-leak-my-API-key؟" ثانيًا، والأهم من ذلك، تساءل المعلقون لماذا يتمتع النموذج بإمكانية الوصول إلى عنوان البريد الإلكتروني للمستخدم على الإطلاق. إذا لم يتم وضع العنوان مطلقًا في سياق الوكيل، فلن يتمكن أي قدر من سوء سلوك النموذج من تسريبه. وكما قال أحد المستخدمين، يبدو المكون الإضافي بمثابة أداة مساعدة لقرار التصميم الذي يمكن إزالته بالكامل.
كانت هناك أيضًا تقارير عن احتكاك مع عملية الطرح: قال أحد المستخدمين الذي يستخدم الإصدار 2.1.318 إنه لم يتمكن من العثور على "cc-plugin-privacy" مدرجًا في قائمة "/plugins"، مما يشير إلى أن الإصلاح لم يصل إلى كل عملية تثبيت مخصصة له. وأشار معلق آخر إلى أنه تم تقديم تقرير مماثل حول سلوك وكيل المستخدم في المستودع في وقت مبكر من شهر يوليو، وانتقد المشروع لأنه لم يتصرف إلا بمجرد انتشار المشكلة.
الصورة الأكبر لأمن العميل
يقع الحادث في لحظة حساسة بالنسبة لشركة Anthropic، التي تستعد لطرح عام أولي تم الإبلاغ عنه على نطاق واسع وتضع وكلائها للاستخدام المؤسسي. كما أنها تقع وسط جدل أوسع حول تصميم أدوات تسخير الوكيل: ما هو السياق الذي يتم تقديمه للوكيل، وما هي الحواجز الحتمية التي تلتف حوله، ومن يتحمل المسؤولية عندما يرتجل النموذج.
الدرس الأساسي الذي أخذه العديد من المطورين من هذا الموضوع هو الدرس المعماري. يعمل وكلاء التشفير الحديثون بدرجة من الاستقلالية التي تجعل الضمانات القائمة على النية * - السياسات التي يُطلب من النموذج اتباعها - غير موثوقة من الناحية الهيكلية. يجب أن يبقى أي شيء حساس بعيدًا عن متناول النموذج في المقام الأول، مع وجود ضوابط حتمية تفرض سلوكًا لا يستطيع النموذج التحدث عنه. إن الإطار الأنثروبي الخاص في هذه القضية يعترف بهذه النقطة: النماذج غير المتوقعة تتطلب ضوابط حتمية.
بالنسبة للمستخدمين، التوجيه العملي واضح ومباشر. إذا قمت بتشغيل Claude Code، فقم بالتحديث إلى الإصدار 2.1.317 أو الأحدث وتأكد من أن وضع الخصوصية نشط. وفكر في السياق الآخر الذي يحمله وكيلك - بيانات الاعتماد، وتفاصيل الاتصال، وأسماء المضيفين الداخلية - التي قد يقرر نموذج حسن النية في يوم من الأيام مشاركتها مع شخص غريب.
البقاء في صدارة الذكاء الاصطناعي
يتم شحن أدوات الذكاء الاصطناعي بشكل أسرع مما يمكن لمراجعات السلامة الخاصة بها مواكبة ذلك. تابع كل التطورات في تغطية أخبار الذكاء الاصطناعي.
اقرأ المزيد من أخبار الذكاء الاصطناعي →
