کاربران ابزار خط فرمان Claude Code Anthropic در این هفته متوجه شدند که عامل برنامه نویسی **آدرس ایمیل آنها را به وب سایت هایی که بازدید کرده است ارسال کرده است - در سربرگ "User-Agent" درخواست های وب که در طول کارهای تحقیقاتی انجام شده است. این اشکال، که در [نسخه شماره 107757 GitHub] (https://github.com/anthropics/claude-code/issues/107757) در 5 نوامبر ثبت شد، به سرعت صدها هزار بازدید و واکنش سریع Anthropic را به همراه داشت، همراه با انتقادهای جدی از نحوه ارائه اصلاح. این آخرین مشکل حریم خصوصی برای عوامل برنامه‌نویسی هوش مصنوعی است، دسته‌ای که ما در [پوشش ابزارهای هوش مصنوعی] خود (https://aibuzzwire.news) از نزدیک تماشا می‌کنیم.

"ده ها ایمیل کلاهبرداری در روز"

این گزارشگر که نسخه 2.1.318 Claude Code را روی macOS اجرا می‌کرد، نوشت که پس از انجام جستجوی وب توسط ابزار «ایمیل من را به اشخاص ثالث دلخواه در هدر درخواست «کاربر-عامل» فاش کرد، شروع به دریافت «ده‌ها ایمیل کلاهبرداری در روز» کرد. او استدلال کرد که این رفتار به هیچ وجه نباید به عنوان یک تنظیم انتخاب یا انصراف وجود داشته باشد: برای خدماتی که از ترافیک خودکار خوششان نمی‌آید کاری انجام نمی‌دهد، ناشناس بودن کاربر را حفظ نمی‌کند و "معدن طلا برای کلاهبرداران است." یک نظر دهنده دیگر به طور مستقل سیل ناگهانی هرزنامه های عجیب و غریب را گزارش کرد که در همان زمان به یک آدرس ایمیل قدیمی و معمولاً ساکت رسید.

این موضوع توسط نگهبانان آنتروپیک با برچسب هایی از جمله اشکال، منطقه:امنیت و منطقه:ابزار برچسب گذاری شد و ده ها نظر در عرض چند ساعت پس از ثبت نام به خود جلب کرد.

چگونه نشت اتفاق افتاد

در اظهارنظری درباره این موضوع، یکی از همکاران Anthropic مکانیسم را توضیح داد - و تأکید کرد که هیچ‌کس اشتراک‌گذاری ایمیل را عمداً اجرا نکرده است. سناریو، همانطور که توضیح داده شد: برخی از سایت‌ها، ویکی‌پدیا در میان آنها، خط‌مشی‌هایی را منتشر می‌کنند که از مشتریان اسکریپت‌شده می‌خواهند خودشان را با یک ایمیل تماس در سربرگ User-Agent شناسایی کنند. وقتی کاربری از Claude Code خواست تا در مورد موضوعی در چنین سایتی تحقیق کند، مدل - در تلاش برای پیروی از آن خط مشی - آدرس ایمیل خود کاربر را در هدر تماس "کور" خود درج کرد.

به عبارت دیگر، مدل سعی کرد یک شهروند وب با رفتار خوب باشد و در این فرآیند اطلاعات خصوصی به بیرون درز کرد. مشارکت کننده نوشت: «مدل ها می توانند بسیار غیرقابل پیش بینی باشند. به همین دلیل است که بررسی های قطعی در مورد رفتار مدل بسیار مهم است و چرا باید همسویی را حل کنیم.

رفع Anthropic: یک پلاگین

پاسخ Anthropic به سرعت ارسال شد. بر اساس همین نظر، یک مد داخلی به نام `cc-plugin-privacy` در نسخه 2.1.317 به بعد برای "مسدود قطعی این رفتار" معرفی شده است. این مد به طور پیش‌فرض فعال است و می‌توان آن را از طریق دستور «/plugins» غیرفعال کرد، و منبع آن در کنار سایر مدهای داخلی Anthropic در مخزن Claude Code در دسترس قرار گرفته است. این شرکت از کاربران خواست که هر گونه شکاف در بررسی ها را فوراً گزارش کنند.

این اصلاح دو خط انتقاد فوری را به دنبال داشت. ابتدا، برخی از کاربران خود مکانیسم تحویل را زیر سوال بردند: "حریم خصوصی نباید یک افزونه باشد. باید یک تغییر ناپذیر باشد." دوم، و اساساً، نظر دهندگان پرسیدند چرا مدل اصلاً به آدرس ایمیل کاربر دسترسی دارد. اگر آدرس هرگز در متن عامل قرار داده نشود، هیچ مقدار از رفتار نادرست مدل نمی تواند آن را افشا کند. همانطور که یکی از کاربران بیان کرد، این افزونه مانند یک نوار چسب برای یک تصمیم طراحی است که می تواند به طور کامل حذف شود.

همچنین گزارش‌هایی مبنی بر اصطکاک با عرضه وجود دارد: یکی از کاربرانی که نسخه 2.1.318 را اجرا می‌کند، گفت که نمی‌تواند «cc-plugin-privacy» را در فهرست «/plugins» خود بیابد، که نشان می‌دهد این تعمیر به تمام نصب‌هایی که برای آن در نظر گرفته شده بود نرسیده است. یکی دیگر از نظر دهندگان اشاره کرد که گزارش مشابهی در مورد رفتار User-Agent در اوایل ماه جولای در مخزن ثبت شده بود، و از این پروژه انتقاد کرد که تنها زمانی که یک موضوع در فضای مجازی منتشر شود، اقدام می کند.

تصویر بزرگتر برای امنیت عامل

این حادثه در لحظه‌ای حساس برای Anthropic رخ می‌دهد، که در حال آماده‌سازی برای یک IPO گسترده گزارش شده و قرار دادن عوامل خود برای استفاده سازمانی است. همچنین در بحبوحه بحث گسترده‌تری درباره طراحی مهار عامل قرار می‌گیرد: چه زمینه‌ای به یک عامل داده می‌شود، چه نرده‌های محافظ قطعی دور آن می‌پیچد، و چه کسی وقتی یک مدل بداهه می‌گوید پاسخگو است.

درسی اصلی که بسیاری از توسعه دهندگان از این موضوع گرفتند، معماری است. عامل‌های کدنویسی مدرن با درجه‌ای از استقلال عمل می‌کنند که پادمان‌های مبتنی بر نیت - سیاست‌هایی که به مدل گفته می‌شود از آنها پیروی کند - از نظر ساختاری غیرقابل اعتماد می‌سازد. هر چیزی حساس باید در وهله اول از دسترس مدل دور نگه داشته شود، با بررسی های قطعی که رفتار را اعمال می کند، مدل نمی تواند راه خود را بیان کند. چارچوب بندی خود آنتروپیک در این موضوع این نکته را پذیرفته است: مدل های غیرقابل پیش بینی نیازمند بررسی های قطعی هستند.

برای کاربران، راهنمایی عملی ساده است. اگر Claude Code را اجرا می کنید، به نسخه 2.1.317 یا جدیدتر به روز کنید و تأیید کنید که حالت حریم خصوصی فعال است. و در نظر بگیرید که نماینده شما چه زمینه دیگری دارد - اعتبارنامه، اطلاعات تماس، نام میزبان داخلی - که یک مدل خوش‌نیت ممکن است روزی تصمیم بگیرد با یک غریبه به اشتراک بگذارد.

از هوش مصنوعی جلوتر بمانید

ابزارهای هوش مصنوعی سریع‌تر از آنچه بررسی‌های ایمنی آنها می‌تواند انجام شود ارسال می‌شوند. همه پیشرفت‌ها را در [پوشش اخبار هوش مصنوعی] (https://aibuzzwire.news) ما دنبال کنید.

اخبار هوش مصنوعی را بیشتر بخوانید →