Anthropic החלה לבקש ממשתמשי קלוד לשתף מרצונם את השיחות הקוליות שלהם כדי לעזור לאמן ולשפר את דגמי הבינה המלאכותית שלה. ההנחיה החדשה מופיעה כאשר אנשים משתמשים בתכונות הקול של קלוד ומבקשים במפורש רשות להשתמש בנתוני הקול שלהם לצורך אימון, על פי דיווח של BleepingComputer.
ההנחיה היא: "אפשרו לנו להשתמש בנתוני הקול שלכם כדי לשפר את דגמי הבינה המלאכותית שלנו", ואחריה הסבר ש"הקלטות אודיו ונתוני צ'אט קולי עוזרים לשפר את האופן שבו דגמי AI Anthropic מבינים ומגיבים לדיבור. כבה את זה או מחק את הנתונים האלה בכל עת בהגדרות". משתמשים יכולים לבחור אפשר או לא עכשיו, וניתן לנהל את הבקשה גם מאוחר יותר באמצעות בורר ייעודי בתוך הגדרות הפרטיות של קלוד. אם אתה עוקב אחר האופן שבו מעבדות בינה מלאכותיות גדולות מטפלות בהסכמת משתמשים, זו אחת הדוגמאות היותר קונקרטיות לשליטה בנתונים פרטניים והפיכים במשלוח באסיסטנט מיינסטרים. להקשר נוסף, עיין בסיקור שלנו על הפיתוחים האחרונים של AI.
מתג נפרד לקול
הפרט הבולט ביותר הוא שאימון קולי מטופל בנפרד מהאפשרות הקיימת של Anthropic להשתמש בצ'אטים ובמפגשי קידוד לשיפור המודל. זה אומר שמשתמש יכול לאפשר לאנתרופיק להתאמן על השיחות הקוליות שלו תוך שמירה על צ'אטים רגילים ומפגשי קלוד קוד מחוץ לאימון, או להפך.
בתוך הגדרות > פרטיות, Anthropic מתארת את האפשרות כ"אפשר לנו להשתמש בנתוני הקול שלך", עם טקסט תומך הקובע: "עבור הפעלות מאושרות, אפשר להשתמש בהקלטות האודיו ובנתוני הצ'אט הקולי שלך כדי לשפר את דגמי הבינה המלאכותית של Anthropic."
לפי BleepingComputer, ההגדרה מושבתת כברירת מחדל בממשק שהשקע בדק, כך שאנתרופיק לא רושמת משתמשים אוטומטית לשיתוף נתונים קוליים. אנשים שמצטרפים יכולים גם לבטל את האפשרות מאוחר יותר, והחברה אומרת שניתן למחוק נתונים קוליים מההגדרות בכל עת.
מדוע נתונים קוליים חשובים לאימון
קול הוא סוג נתונים שונה מהותית מטקסט. דיבור נושא מבטא, קצב, רגש ורעשי רקע, את כולם קשה לסנתז בצורה משכנעת ויקר לתיוג. הדרכה על שיחות אמיתיות היא אחת הדרכים הישירות ביותר עבור מעבדה לגרום לעוזרת הקולית להישמע טבעית יותר, לטפל בהפרעות בחן ולהתאושש משמיעות שגויות.
הערך הזה הוא בדיוק הסיבה לכך שנתוני קול הם רגישים. הקלטה של מישהו מדבר היא ביומטרית באופייה, יכולה לחשוף מידע שהדובר מעולם לא התכוון לחלוק, ולעתים קרובות לוכדת אנשים אחרים בחדר שמעולם לא הסכימו לשום דבר. רגולטורים במספר תחומי שיפוט מתייחסים להקלטות קול בזהירות רבה יותר מאשר טקסט, וכל טיפול לא נכון בהן נוטה למשוך בדיקה מופרזת.
על ידי הפיכת החלפת הקול להבדיל מההצטרפות לאימון כללי, Anthropic מכירה בכך שמשתמשים עשויים לרצות כללים שונים עבור סוגי נתונים שונים. זוהי בחירה עיצובית שמשתמשים מודעים לפרטיות ביקשו זה מכבר: במקום מתג שמיכה אחד שמאגד טקסט, קוד ואודיו יחד, ניתן להעריך כל קטגוריה על פי התנאים שלה.
הצטרפו כברירת מחדל, אבל השאלה קיימת
ההשקה משקפת גם לאן עבר מרכז הכובד של התעשייה. בעידן המוקדם של הצ'אטבוטים, שיחות משתמשים שימשו לעתים קרובות לאימון עם מעט טקסים. גל של תגובה נגד משתמשים, תשומת לב רגולטורית ודרישות של לקוחות ארגוניים דחפו את המעבדות הגדולות לעבר בקרות ביטול, ובמקרים מסוימים ברירת מחדל של השתתפות בנתונים רגישים.
הגישה של Anthropic כאן יושבת איתן במחנה ההצטרפות: שום דבר לא משותף אלא אם משתמש מאפשר זאת באופן פעיל, ההנחיה מוצגת ברגע שמישהו משתמש בתכונות קוליות, וביטול זמין בהגדרות. המבקרים עדיין ישימו לב שהנחיות המופיעות בתוך זרימת מוצרים נוטות להמיר נתח משמעותי של משתמשים, ושהלחץ המעשי ללחוץ על אפשר הוא אמיתי עבור אנשים שרוצים שהתכונה תעבוד היטב.
הניסוח של החברה עצמו מנסה להקדים את החששות הללו על ידי שימת דגש על הפיכות: ניתן לכבות או למחוק את הנתונים בכל עת, וההרשאה היא בהיקף של פגישות מאושרות במקום להתייחס אליה כאל מענק קבוע.
מה המשתמשים צריכים לדעת
עבור משתמשי קלוד, הטייק אווי המעשי הוא פשוט. אם אתה משתמש בתכונות הקול של קלוד, צפה לראות את ההנחיה. אם תסרב, שום דבר בתכונת הקול עצמה לא אמור להשתנות; פשוט לא תתרום הקלטות לאימון. אם תסכים ומאוחר יותר תשנה את דעתך, הפקדים פעילים בהגדרות > פרטיות, שם מתג הקול יושב לצד אפשרויות ההדרכה הקיימות של הצ'אט ושל קלוד קוד.
כל מי שזהיר במיוחד לגבי אודיו צריך גם לזכור ששיתוף נתונים קוליים, כמו אימון צ'אט, הוא בחירה שאפשר לחזור עליה. בדיקת הגדרות הפרטיות פעם אחת, בכוונה, היא תנוחה טובה יותר מאשר להגיב להנחיות כשהן מופיעות.
עבור התעשייה, ההשקה היא נקודת נתונים נוספת במשא ומתן מתמשך בין מעבדות בינה מלאכותית והמשתמשים שלהן על מי מממן שיפור מודל עם הנתונים שלהם. עוזרי קול הופכים לממשק עיקרי עבור AI, והאופן שבו חברות מבקשות נתוני דיבור כעת יעצב את ציפיות המשתמש במשך שנים. הגרסה של אנתרופיק לשאלה היא שקופה, מפולחת והפיכה, שזה רף גבוה יותר ממה שהתעשייה פגשה רק לפני כמה שנים. אם זו תהפוך לתבנית הסטנדרטית, או שהקומה תעלה עוד יותר, תלוי באופן שבו מתחרים מטפלים באותה שאלה ובאופן שבו הרגולטורים שוקלים נתונים ביומטריים שנאספים באמצעות מוצרי AI לצרכן.
---
הישאר לפני AIקבל את החדשות העדכניות ביותר של AI, ניתוח ופריצות דרך - הכל במקום אחד.
קרא עוד חדשות AI →
