یک پست Hacker News که نشان می‌دهد چگونه Gemini گوگل از تاریخچه چت مشترکین برای آموزش مدل استفاده می‌کند، بیش از 650 رای موافق در این هفته به خود جلب کرد - نه به این دلیل که این خط‌مشی مخفی بود، بلکه به این دلیل که بسیاری از کاربران پرداخت‌کننده هرگز متوجه آن نشده بودند. موضوعی که با عنوان "به HN بگویید: Gemini در تاریخچه چت، حتی برای مشترکین (حساب های شخصی) آموزش می دهد" اسناد پشتیبانی خود گوگل را ارائه می دهد که نشان می دهد اشتراک پولی هیچ کسی را از استفاده آموزشی معاف نمی کند.

رفتار مربوطه در قرارداد مجوز کاربر نهایی مدفون نشده است. در صفحات راهنمای Gemini گوگل که AI Buzz Wire مستقیماً آن ها را بررسی کرده است، توضیح داده شده است. For more context on this story, see our ongoing AI news.

آنچه که اسناد گوگل در واقع می گوید

صفحه راهنمای Google Gemini Apps Privacy بیان می‌کند که Gemini Apps Activity — سابقه چت ذخیره شده — «برای بهبود خدمات Google برای همه استفاده می‌شود، از جمله با آموزش مدل‌های هوش مصنوعی مولد، اگر تنظیم Keep Activity شما روشن باشد». این جمله تنها هسته اصلی موضوع را نشان می دهد: آموزش در مورد مکالمات کاربر نتیجه پیش فرض فعال کردن سابقه چت است، صرف نظر از اینکه حساب برای Google AI Pro یا Ultra پرداخت می کند.

همین اسناد در مورد دخالت انسان صریح است. گوگل بیان می‌کند که «زیرمجموعه‌ای» از چت‌ها توسط بازبین‌های انسانی، از جمله بازبین‌های آموزش‌دیده از ارائه‌دهندگان خدمات، برای اشکال‌زدایی سرویس‌ها، ایمن نگه‌داشتن آن‌ها و بهبود آنها بررسی می‌شوند. و این راهنما شامل هشداری است که بسیاری از کاربران هرگز نمی‌بینند: "لطفاً اطلاعات محرمانه‌ای را وارد نکنید که نمی‌خواهید بازبین ببیند یا نمی‌خواهید Google برای بهبود خدمات ما از جمله فناوری‌های یادگیری ماشینی استفاده کند."

چت های بازبینی شده تا سه سال نگهداری می شوند

قوانین حفظ فراتر از آن چیزی است که اکثر کاربران انتظار دارند. طبق صفحات راهنمای Google، چت‌هایی که توسط بازبین‌های انسانی بررسی می‌شوند - همراه با داده‌های مرتبط مانند زبان، نوع دستگاه، اطلاعات مکان و بازخورد - "هنگامی که فعالیت خود را حذف می‌کنید، حذف نمی‌شوند. در عوض، تا سه سال حفظ می‌شوند." گوگل می‌گوید ارتباط داده‌های بررسی‌شده قبل از ذخیره شدن از حساب کاربر قطع می‌شود، اما خود مکالمات مدت‌ها پس از فشار دادن دکمه حذف توسط کاربر، در سیستم‌های Google ادامه می‌یابد.

گوگل می گوید اقداماتی را برای محافظت از حریم خصوصی کاربران در این فرآیند انجام می دهد، از جمله مرتبط کردن چت های بررسی شده با شناسه های تصادفی به جای حساب ها. با این حال، اسناد مرز را روشن می‌کند: حذف آنچه در فید فعالیت شما ظاهر می‌شود را کنترل می‌کند، نه آنچه را که Google از چت‌هایی که یک بازبین انسانی قبلاً برای ارزیابی برداشته نگه می‌دارد.

چگونه در واقع انصراف دهیم

انصراف وجود دارد، اما این یک معامله است. با خاموش کردن تنظیم "Keep Activity" چت‌های شما از استفاده آموزشی حذف می‌شود — صفحات Google تأیید می‌کنند که آموزش فقط زمانی اعمال می‌شود که آن تنظیم روشن باشد. هزینه کارکرد است: با خاموش بودن Keep Activity، چت‌ها با حساب شما تنها به مدت 72 ساعت حفظ می‌شوند و Google فقط از 24 ساعت آخر گپ به عنوان زمینه برای سؤالات بعدی استفاده می‌کند. چت های موقت نیز ترتیب مشابهی را ارائه می دهند.

کاربران همچنین می توانند پنجره حفظ پیش فرض را از 18 ماه به 3 ماه یا 36 ماه کوتاه کنند یا آن را روی نامحدود تنظیم کنند و هر زمان که بخواهند می توانند چت های فردی را حذف کنند. با این حال، هیچ یک از این گزینه ها، خط مشی آموزشی را در حالی که تاریخچه روشن است تغییر نمی دهد - و ساعت 72 ساعته در هر مکالمه لحظه ای که تاریخچه غیرفعال می شود، شروع می شود.

پولی به معنای خصوصی نیست

واکنش Hacker News بر یک فرض شکسته متمرکز بود: اینکه پرداخت هزینه اشتراک هوش مصنوعی ترتیب داده ها را تغییر می دهد. در نرم‌افزار مصرف‌کننده، این فرض مدت‌ها متزلزل بوده است - اما مورد جمینی قابل توجه است زیرا خط لوله آموزشی برای حساب‌های شخصی در سطوح پولی اعمال می‌شود، و به این دلیل که حفظ چت‌های بررسی‌شده در سال‌ها اندازه‌گیری می‌شود تا ماه‌ها.

شایان ذکر است که گوگل چه کاری انجام نمی دهد. این شرکت بیان می‌کند که Gemini مدل‌های هوش مصنوعی مولد را مستقیماً در صندوق ورودی جیمیل، درایو، مخاطبین، تقویم یا سایر محتوای Workspace شما آموزش نمی‌دهد – که داده‌ها نیاز به اتصال صریح از طریق برنامه‌های متصل دارند، که سپس مشمول سیاست‌های آموزشی و بازبینی انسانی خود می‌شوند. و حساب‌های Workspace و سازمانی تحت شرایط متفاوتی نسبت به برنامه مصرف‌کننده Gemini کار می‌کنند، تمایزی که Google در بحث‌های قبلی درباره حریم خصوصی به آن پرداخته است.

مشکل اعتماد گسترده تر

زمان بندی برای گوگل ناخوشایند است. این شرکت سخت بر سر اعتماد مصرف کننده رقابت می کند - شناسایی کلاهبرداری را در پیام ها و تماس های اندرویدی و بازاریابی حفاظت از حریم خصوصی روی سخت افزار خود انجام می دهد. در همین حال، پرمصرف‌ترین محصول هوش مصنوعی آن، چیزهای معمولی و بدون محافظی را که افراد در جعبه چت تایپ می‌کنند، آموزش می‌دهد، با بازبین‌های انسانی که می‌توانند زیرمجموعه‌ای از آن‌ها را بخوانند و زیرمجموعه بررسی‌شده تا سه سال نگه‌داری می‌شوند.

محققان حفظ حریم خصوصی مدت‌ها توصیه کرده‌اند که افراد به طور پیش‌فرض، مکالمات ربات‌های چت را نیمه عمومی تلقی کنند. موضوع این هفته این توصیه را برای کاربران پولی Gemini عینی کرد: تنظیماتی که از مکالمات شما محافظت می‌کند به طور پیش‌فرض خاموش است، تنظیماتی که روی آن‌ها آموزش می‌دهد روشن است، و تنها دریچه‌های فرار کاملاً مؤثر - چت‌های موقت یا سابقه غیرفعال شده - به قیمت حافظه محصول است.

اسناد گوگل پنهان نیست و هیچ چیز در آن نادرست نیست. اصطکاک این است که خواندن آن کار کاربر است - و همانطور که صدها نظر موافق نشان می‌دهند، اکثر کاربران به سادگی تصور می‌کردند که هزینه اشتراک آنها این کار را برای آنها انجام می‌دهد.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →