חברת Anthropic תתחיל להחיל סימני מים בלתי נראים על טקסט שנוצר על ידי דגמי קלוד שלה, כך אישרה החברה השבוע, ותהפוך לספקית הבינה המלאכותית האחרונה שהוסיפה אותות מקור הניתנים לקריאה במכונה בתגובה לכללי השקיפות האירופיים החדשים.
השינוי, המפורט בדף תמיכה מעודכן, פירושו שתוכן שהופק על ידי קלוד יישא חתימה נסתרת שנועדה לשרוד בהעתקה והדבקה במקום אחר. זוהי תגובה ישירה לקוד השקיפות של חוק הבינה המלאכותית של האיחוד האירופי, שנכנס לתוקף ב-2 באוגוסט ומחייב חברות בינה מלאכותית לסמן תוכן שנוצר או ערוך באופן שמערכות אחרות יכולות לזהות.
כיצד פועל סימן המים
אנתרופיק אמרה כי כל הדגמים ששוחררו לאחר ה-2 באוגוסט יכללו אוטומטית טכנולוגיה לסימון מים גם טקסט וקבצים שנוצרו על ידי מחשב. עבור קבצים, החברה מאמצת את התקן הפתוח C2PA, מסגרת אישורי תוכן שכבר נעשה בה שימוש על ידי חלק מיצרני המצלמות וכלי עריכת תמונות כדי לתעד כיצד נוצרה פיסת מדיה.
סימן המים של הטקסט מוטבע ברמת הדגם ולא מוחל כמחשבה לאחר מכן. על פי תיעוד התמיכה של Anthropic, "מכיוון שסימן המים הוא חלק מהטקסט, הוא יטייל עם הטקסט כשהוא מועתק ומודבק במקום אחר, וייתכן שיימשך דרך עריכה מסוימת. סימון מים יוחל ברמת הדגם, מה שאומר שהוא יהיה קיים לא משנה מאיזה מוצר או משטח של קלוד מגיע הטקסט".
החברה הוסיפה כי היא מתכננת להרחיב את התמיכה בסימון מים גם לדגמים ישנים יותר. התכונה תחול על כל קו המוצרים של Anthropic, כולל ה-API של פלטפורמת קלוד, אפליקציית הצ'אט של קלוד, קלוד קוד, קלוד קווורק וקלוד טאג.
לא ברור עד כמה המשתמש יצטרך לערוך כדי להסיר את הסימן בדיוק, ואנתרופיק לא פירטה את הטכניקה בפומבי. סימון מים של טקסט קשה מבחינה טכנית מכיוון ששינויים קטנים בניסוח יכולים לשבור דפוסים סטטיסטיים שבריריים, אתגר רב שנים עבור חוקרים בתחום.
אין ביטול הסכמה למשתמשים
יש לציין שמשתמשי קלוד לא יוכלו להשבית את סימן המים. ההגדרה נאכפת על ידי המודל עצמו ולא משתנה לפי בקשה, מה שאומר שכל מי שיוצר טקסט דרך משטח קלוד יסומן אם הוא רוצה או לא.
עמדה זו עשויה למשוך דחיפה מכמה משתמשים מקצועיים. סופרים, מפתחים ועסקים שמשתמשים בקלוד לניסוח תוכן התרגלו לפלט נקי ולא מסומן, וחלקם עשויים להרגיש לא בנוח עם חתימה בלתי נראית בעקבות הטקסט שלהם ברחבי האינטרנט. נראה שאנתרופיק הגיע למסקנה שעמידה ברגולציה גוברת על העדפה זו.
חלק ממערכה רחבה יותר בתעשייה
אנתרופי אינו משחק לבד. דרישות השקיפות של האיחוד האירופי פתחו במרוץ בין פלטפורמות בינה מלאכותית ותוכן להוספת אותות מקור לפני שהרגולטורים יתדפקו.
רק בשבוע שעבר, פלטפורמת המוזיקה של בינה מלאכותית Suno אמרה שהיא תתחיל לסמן רצועות שנוצרו בשירות שלה לאחר גל של אתגרים משפטיים על אודיו שנוצר בינה מלאכותית. בחודש שעבר, פלטפורמת הניוזלטר Substack שיתפה פעולה עם חברת האיתור Pangram כדי לסמן תוכן שנוצר בינה מלאכותית, כאשר מנכ"ל Substack, כריס בסט, קרא בפומבי "Claudefishing", המונח שלו לאנשים המשתמשים בבינה מלאכותית כדי להציף פלטפורמות בחומר באיכות נמוכה.
הלחץ משתרע הרבה מעבר למתחרים הישירים של אנתרופיק. מעבדות היער השחור, גוגל, מטה, מיקרוסופט, OpenAI ו-Synthesia התחייבו כולן לדבוק בקוד השקיפות של האיחוד האירופי, על פי דיווח של TechCrunch, המאותת שסימוני מים הופכים במהירות לציפייה בסיסית של התעשייה ולא להבחנה.
למה המוצא דחוף פתאום
הדחיפה לסימני מים משקפת שתי חרדות מתכנסות. הראשון הוא רגולטורי: חוק הבינה המלאכותית של האיחוד האירופי נכנס כעת לתוקף, וחברות שלא יעמדו בדרישות עומדות בפני עונשים משמעותיים. הקמה מוקדמת של תשתית מוצא זולה יותר מהרכבה מחדש בלחץ אכיפה.
השני הוא מוניטין. כאשר טקסט, תמונות, אודיו ווידאו שנוצרו על ידי AI הציפו את הפלטפורמות החברתיות, מפרסמים ופלטפורמות מתמודדים עם תגובה גוברת והולכת על "בינה מלאכותית", תוכן סינתטי באיכות נמוכה שדוחק את העבודה האנושית ושוחקת את האמון. סימני מים בלתי נראים מציעים תשובה טכנית לשאלה שמתינות לבדה לא יכולה לפתור: האם זה נכתב על ידי מכונה?
עבור Anthropic, שבנתה את המותג שלה סביב בטיחות בינה מלאכותית, אימוץ סימני מים הוא גם מהלך אמינות. לחברה שמשווקת את עצמה כאלטרנטיבה אחראית יש תמריצים חזקים להוביל בשקיפות במקום להיראות גוררת רגליים.
השאלות הקשות יותר נותרות בלתי פתורות. סימני מים עוזרים רק אם כלי הזיהוי אכן מחפשים אותם, ואם הסימנים מוכיחים את עצמם חזקים מספיק כדי לשרוד את העריכה, העיצוב מחדש וההלבנה שקורים כאשר תוכן עובר על פני הרשת הפתוחה. ההימור של אנתרופיק הוא שהטמעת האות ברמת הדגם היא הגישה הכי עמידה. האם זה מחזיק מעמד בפועל ייבדק במהירות, ובפומבי, בחודשים הקרובים.
לסיקור מתמשך של מדיניות בינה מלאכותית והכלים המעצבים מחדש את התעשייה, סמן סיקור חדשות בינה מלאכותית של AI Buzz Wire.
