פוסט של האקר ניוז המתעד כיצד Google של Gemini משתמש בהיסטוריית צ'אט מנויים להכשרת מודלים גרר השבוע יותר מ-650 הצבעות בעד - לא בגלל שהמדיניות הייתה סודית, אלא בגלל שכל כך הרבה משתמשים משלמים מעולם לא שמו לב לזה. השרשור, שכותרתו "אמור ל-HN: תאומים מתאמנים בהיסטוריית הצ'אט, אפילו עבור מנויים (חשבונות אישיים)," מציג את תיעוד התמיכה של גוגל עצמו המראה שמנוי בתשלום אינו פוטר אף אחד משימוש בהדרכה.
ההתנהגות הרלוונטית אינה קבורה בהסכם רישיון למשתמש קצה. זה מתואר בדפי העזרה של Google Gemini, ש-AI Buzz Wire בדק ישירות. For more context on this story, see our ongoing AI news.
מה התיעוד של גוגל אומר בפועל
דף העזרה לפרטיות של Gemini Apps של Google מציין ש-Gemini Apps Activity - היסטוריית צ'אט שמורה - "משמשת לשיפור שירותי Google עבור כולם, כולל על ידי אימון מודלים של AI מחולל, אם הגדרת Keep Activity שלך מופעלת". המשפט הבודד הזה נושא את ליבת הבעיה: אימון על שיחות משתמשים הוא תוצאת ברירת המחדל של הפעלת היסטוריית הצ'אט, ללא קשר אם החשבון משלם עבור Google AI Pro או Ultra.
אותו תיעוד מפורש לגבי מעורבות אנושית. גוגל מצהירה ש"תת-קבוצה" של צ'אטים נבדקת על ידי בודקים אנושיים, כולל סוקרים מאומנים מספקי שירותים, כדי לנפות באגים בשירותים, לשמור עליהם ולשפר אותם. וההנחיות כוללות אזהרה שמשתמשים רבים לא רואים לעולם: "נא לא להזין מידע סודי שלא היית רוצה שמבקר יראה או שגוגל תשתמש כדי לשפר את השירותים שלנו, כולל טכנולוגיות למידת מכונה."
צ'אטים שנבדקו נשמרים עד שלוש שנים
כללי השמירה הולכים רחוק יותר ממה שרוב המשתמשים מצפים. לפי דפי העזרה של גוגל, צ'אטים שנבדקו על ידי בודקים אנושיים - יחד עם נתונים קשורים כגון שפה, סוג מכשיר, מידע על מיקום ומשוב - "לא נמחקים כאשר אתה מוחק את הפעילות שלך. במקום זאת, הם נשמרים עד שלוש שנים". גוגל טוענת שהנתונים שנבדקו מנותקים מחשבון המשתמש לפני שמירתם, אך השיחות עצמן נמשכות במערכות של גוגל זמן רב לאחר שהמשתמש לחץ על מחיקה.
גוגל אומרת שהיא נוקטת בצעדים כדי להגן על פרטיות המשתמש בתהליך זה, כולל שיוך צ'אטים שנבדקו למזהים אקראיים ולא לחשבונות. ובכל זאת, התיעוד מבהיר את הגבול: המחיקה שולטת במה שמופיע בפיד הפעילות שלך, לא מה שגוגל שומרת מצ'אטים שמבקר אנושי כבר הוציא להערכה.
כיצד למעשה לבטל את הסכמתך
ביטול ההסכמה קיים, אבל זה סחר. כיבוי ההגדרה "שמור על פעילות" מסיר את הצ'אטים שלך משימוש באימון - הדפים של Google מאשרים שההדרכה חלה רק כאשר הגדרה זו מופעלת. המחיר הוא פונקציונלי: עם שמירה על פעילות כבויה, הצ'אטים נשמרים בחשבונך למשך 72 שעות בלבד, ו-Google משתמשת רק ב-24 השעות האחרונות של הצ'אט כהקשר לשאלות המשך. צ'אטים זמניים מציעים הסדר דומה.
משתמשים יכולים גם לקצר את חלון השמירה המוגדר כברירת מחדל מ-18 חודשים ל-3 חודשים או 36 חודשים, או להגדיר אותו ללא הגבלת זמן, ויכולים למחוק צ'אטים בודדים בכל עת. עם זאת, אף אחת מהבחירות הללו לא משנה את מדיניות ההדרכה בזמן שההיסטוריה פועלת - והשעון של 72 שעות מתחיל בכל שיחה ברגע שההיסטוריה מושבתת.
בתשלום אין פירושו פרטי
התגובה ב-Hacker News התרכזה בהנחה שבורה: התשלום עבור מנוי AI משנה את סידור הנתונים. בתוכנות צרכניות, ההנחה הזו כבר מזמן מטלטלת - אבל המקרה של ג'מיני בולט מכיוון שצנרת ההדרכה חלה על חשבונות אישיים על פני שכבות בתשלום, ומכיוון ששימור הצ'אטים הנבדקים נמדד בשנים ולא בחודשים.
ראוי לציין מה גוגל לא עושה. החברה מציינת ש-Gemini לא מכשירה מודלים של AI גנרטיביים ישירות בתיבת הדואר הנכנס שלך ב-Gmail, ב-Drive, באנשי הקשר, בלוח השנה או בתוכן אחר של סביבת העבודה - הנתונים הללו דורשים חיבור מפורש דרך אפליקציות מחוברות, אשר לאחר מכן כפופות למדיניות ההדרכה והביקורת האנושית שלהם. וחשבונות Workspace וארגונים פועלים בתנאים שונים מאלה של אפליקציית Gemini לצרכן, הבחנה שגוגל עשתה במחלוקות קודמות בנושא פרטיות.
בעיית האמון הרחב יותר
התזמון מביך עבור גוגל. החברה מתחרה קשה על אמון הצרכנים - דוחפת זיהוי הונאה להודעות ושיחות אנדרואיד, ומשווקת הגנות פרטיות על החומרה שלה. בינתיים מוצר הבינה המלאכותית הנפוצה ביותר שלה מתאמן על דברים סתמיים וחסרי שמירה שאנשים מקלידים בתיבת צ'אט, כאשר סוקרים אנושיים יכולים לקרוא תת-קבוצה שלהם ותת-הקבוצה הנבדקת נשמרת עד שלוש שנים.
חוקרי פרטיות יעצו זה מכבר שאנשים מתייחסים לשיחות צ'טבוט כאל חצי-פומביות כברירת מחדל. השרשור של השבוע הפך את העצה הזו לקונקרטית עבור המשתמשים המשלמים של ג'מיני: ההגדרה המגנה על השיחות שלך כבויה כברירת מחדל, זו שמתאמנת עליהן מופעלת, ופתחי המילוט היחידים היעילים לחלוטין - צ'אטים זמניים או היסטוריה מושבתת - באים במחיר של זיכרון המוצר.
התיעוד של גוגל אינו נסתר, ושום דבר בו אינו שקרי. החיכוך הוא שקריאתו היא תפקידו של המשתמש - וכפי שמאות תגובות מושמעות, רוב המשתמשים פשוט הניחו שדמי המנוי שלהם עושים את העבודה עבורם.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
