מחקר חדש של מדעני מחשבים של MIT שפורסם ביום שלישי ב-Nature Communications מספק ממצא שעשוי לעצב מחדש את הוויכוח על זכויות יוצרים בינה מלאכותית: ככל שמודלים של דיפוזיה מאומנים על יותר נתונים, התפוקות שלהם הופכות בלתי אפשריות יותר ויותר למעקב אחר חומר הדרכה ספציפי כלשהו. החוקרים מכנים את התופעה "דעיכת ייחוס". עבור קוראים העוקבים אחר העולם המהיר של AI גנרטיבי, המאמר הוא אחת מתוצאות המחקר היותר תוצאתיות שכוסה השבוע על ידי AI Buzz Wire.
המאמר, שכותרתו "תפוקות של מודלים יצירתיים של דיפוזיה אינן ניתנות לייחוס", נכתב על ידי ג'נג דאי ודיוויד ק. גיפורד, שניהם קשורים למעבדת מדעי המחשב והבינה המלאכותית של MIT (CSAIL). השאלה המרכזית שלהם הייתה פשוטה בצורה מטעה: כאשר מודל מחולל מייצר תמונה, האם אתה יכול לאתר פריט ספציפי בנתוני ההדרכה שאחראי על הפלט הזה?
מה החוקרים מצאו
התשובה, יותר ויותר, היא לא. החוקרים מראים כי ייחוס - המוגדר כמשימה של איתור חלק מנתוני האימון שיכולים להיות אחראים למדגם שנוצר - "יכול להפוך לבלתי אפשרי אם מודל מאומן על קורפוס נתונים גדול מספיק".
"אנו מוצאים שככל שהמודל מאומן על יותר נתונים, כך הדגימות הנוצרות שלו הופכות פחות ניתנות לייחס, תופעה שאנו מתייחסים אליה מעתה כאל ריקבון ייחוס", כותבים המחברים.
כדי לבדוק זאת, הצוות פיתח מתודולוגיית "אבלציה" המאפשרת להסיר דוגמאות אימון ספציפיות ממודל שכבר הוכשר ללא הכשרה מחדש יקרה. לאחר מכן הם הפעילו ניסויים מה-אם בקנה מידה גדול: מה היה מייצר המודל אם תמונה מסוימת, או גוף יצירה שלם של יוצר, מעולם לא היה במערך האימונים?
בחלק מהתוצאות הבולטות ביותר של המחקר, החוקרים מצאו שעבור מודלים שהוכשרו על מערכי נתונים גדולים מספיק, הם יכולים להסיר את המונה ליזה - או אפילו את כל עבודתו של לאונרדו דה וינצ'י - והמודל עדיין יכול לשחזר את התמונה או את הסגנון האמנותי. אף פריט הכשרה אחד לא היה אחראי סיבתית לתפוקה.
למה זה חשוב לליטיגציה של זכויות יוצרים
הממצאים נוחתים באמצע שדה קרב משפטי פעיל. מודלים של דיפוזיה כגון Midjourney ו-Stable Diffusion משכו תביעות של אמנים הטוענים כי עותקים של עבודתם בנתוני אימון מאפשרים למערכות בינה מלאכותית לשחזר את התפוקה והסגנון שלהן.
בתיק זכויות יוצרים מתמשך משנת 2023, Andersen et al. נגד Stability AI Ltd., התובעים ניסו לאלץ את Midjourney לחשוף את מערכי הנתונים ששימשו לאימון המודלים שלה. לטענתם, מידג'ורני בנתה את מערכי האימונים שלה "על ידי גירוד של תמונות הקשורות לשמות של אמנים ספציפיים במטרה מפורשת לאפשר למודל שלה לחקות את התוכן האקספרסיבי של אותם אמנים".
מחקר MIT מציע כי יצירת קשרים סיבתיים כאלה עשויה להיות בלתי אפשרית מבחינה טכנית בקנה מידה. כפי שציין ה-Register, שדיווח לראשונה על פרטי המחקר, נראה שהמחקר יהפוך את רגולציית הבינה המלאכותית לקשה יותר מאשר קלה יותר - ההפך ממה שקיוו המחברים כשהחלו בעבודה.
שאלת השימוש ההוגן
בהודעה לעיתונות של MIT, Gifford טוען שהממצאים חתכו לשני הכיוונים. אם לתפוקות שנוצרו אין שום קשר עם נתוני אימון בודדים, מודלים עשויים להיות יצירתיים באמת ולא רק מכונות העתקה.
"זה מעלה שאלות לגבי שימוש הוגן, האם התפוקות הן בעצמן מוגנות בזכויות יוצרים כיצירות רומן, ועל האופן שבו מחברים מקבלים פיצוי כאשר מה שיוצא מדגם אינו מיוחס לשום דבר באינטרנט", אמר גיפורד.
ההשלכות חורגות מעבר למחוללי תמונות. מודלים של דיפוזיה הפכו לארכיטקטורה הדומיננטית להפקת מדיה אודיו-ויזואלית ונמצאים יותר ויותר בשימוש ביישומים מדעיים, כולל מודלים של מבנה חלבון וגילוי טיפולי. כלי ייחוס הוצעו גם עבור ביטול למידה ממכונה, זיהוי הרעלת נתונים, פרשנות של מודלים, ביקורת הוגנות וציות לפרטיות.
אזהרה עבור סטארט-אפים של ייחוס
המחקר נושא גם אזהרה לענף הצומח של מוצא AI וכלים לאימות תוכן. החוקרים מצאו כי ייחוס מבוסס דמיון - התאמת פלטים שנוצרו לתמונות אימון דומות מבחינה ויזואלית - מייצר ייחוס שווא במשטרים גדולים של נתוני אימון.
במילים אחרות, כלי שטוען ש"תמונת הבינה המלאכותית הזו הגיעה מתיק העבודות של האמן הזה" עשוי להיות פשוט שגוי כאשר מודלים מאומנים על מיליארדי תמונות. עבור פלטפורמות, בתי משפט ורגולטורים הסמוכים על ייחוס טכני כדי ליישב סכסוכי מוצא, תוצאות MIT מצביעות על כך שוודאות כזו עשויה להיות מחוץ להישג ידם של מודלים בקנה מידה גבול.
מה שיבוא אחר כך
המאמר צפוי להיות מצוטט בהתדיינות מתמשכת ובדיונים בנושאי מדיניות, כולל דיונים סביב דרישות השקיפות של חוק הבינה המלאכותית של האיחוד האירופי והצעות למערכות תגמול לאמנים. אם הדעיכה בייחוס מתקיימת עבור דגמי הייצור הגדולים ביותר, ייתכן שיהיה צורך לעצב מחדש תוכניות פיצוי המבוססות על מעקב אחר תפוקות ליצירות ספציפיות סביב רישוי קולקטיבי במקום מעקב ברמת הפריט.
המחקר גם מעלה נקודה עדינה עבור מפתחי בינה מלאכותית: חוסר ייחוס עשוי למעשה לחזק טיעוני שימוש הוגן לאימון על נתונים המוגנים בזכויות יוצרים, ובו זמנית לערער את יכולתם של אמנים להוכיח נזק ספציפי מתפוקות בודדות. שני הצדדים של מאבק זכויות היוצרים ימצאו משהו להשתמש בנתונים.
הישאר לפני AI
למחקר וניתוח AI פורצים נוספים, בקר ב-AI Buzz Wire לסיקור יומי של תעשיית הבינה המלאכותית.
קרא עוד חדשות AI →
