חומר חדש שלא כתוב בתביעת זכויות היוצרים של ה-New York Times נגד OpenAI ו-Microsoft חושף שורה של הודאות פנימיות בולטות - כולל בכיר בכיר של מיקרוסופט המתאר באופן פרטי את שיטות ההכשרה של ה-AI של החברות כגניבה, וההנהגה של OpenAI עצמה מכירה בכך שהצ'אט-בוט שלה מהווה "איום קיומי" על המפרסמים שהכשירו את עבודתם.
ההגשה, שדווחה על ידי TechCrunch ביום חמישי, מגיעה שלוש שנים לאחר שהטיימס תבע לראשונה, בטענה שהחברות הפרו את חוק זכויות היוצרים על ידי הכשרת מודלים של AI על תוכנו. החומר החדש שנראה לעין מפרט כיצד החברות לכאורה השיגו והשתמשו בתוכן זה: עקיפת חומות תשלום שלא זוהו, בניית מערכי נתונים של הדרכה באמצעות גרידה המונית, והסרה מכוונת של הודעות זכויות יוצרים מנתוני ההדרכה. For more context on this story, see our ongoing AI trends.
ראוי לציין את האזהרה ש-TechCrunch עצמו סומן: חלק גדול מהמידע החדש מגיע מהתסריט של ה"טיימס" עצמו ולא מהתערוכות הבסיסיות, שנותרו חתומות, והציטוטים מוצגים ללא ההקשר המקורי שלהם.
'לולאת אבדון' לבעלי אתרים
בין הגילויים המשמעותיים ביותר הם הנתונים של מיקרוסופט עצמה על מה ש"מנוע התשובות" שלה Copilot עשה לתנועה לאתר של ה"טיימס". לפי ההגשה, הנתונים הפנימיים של מיקרוסופט מראים ש-Copilot גרם לשיעורי ההקלקות של הדומיין nytimes.com לרדת ב-93 אחוזים בהשוואה לחיפוש Bing המסורתי.
מצגת פנימית שנכתבה על ידי מנהל המדע היישומי של מיקרוסופט, ברנט הכט, בינואר 2024 תיארה את הירידה כ"לולאת אבדון" ש"תפגע בביצועים של הדגמים שלנו והאינטרנט כולו בו זמנית".
"זה מאוד יוצא דופן שמוצר סופי מאיים על היסודות הכלכליים של הספקים החיוניים שלו, אבל זה המצב שיצרנו עבור עסקי ה-LLM שלנו ביחס ל'שרשרת אספקת התוכן' שלו", נכתב במסמך של מיקרוסופט, כפי שצוטט בהגשה.
ההודאה חותכת ישירות נגד נדבך אחד של ההגנה לשימוש הוגן שעליה הסתמכו חברות בינה מלאכותית: שהשימוש אינו מחליף את היצירה המקורית או פוגע בשוק שלה.
מילים של מנהלים משלהם הכנסו לרשומה
המסמכים שטרם ערכו תופסים גם הערכות כנות של הדמויות הבכירות ביותר בחברות.
מנכ"ל מיקרוסופט, סאטיה נאדלה, העיד בתצהיר מוקדם יותר השנה כי "כל דבר עם חומת תשלום צריך לקבל רישיון על ידי כל מי שרוצה להשתמש בו... לצורך הארקה או אימון". נדלה הבהיר שאם "היה מודע לכך ש-OpenAI גירדה והכשרה על מידע שנמצא מאחורי חומת תשלום", הוא היה "קורא את [זכותה של מיקרוסופט] לדרוש מ-OpenAI להכשיר את הדגמים שלה מחדש".
נאדלה גם הסכימה בשבועה שהשיחה עם צ'אטבוטים "החליפה את ... לתת לך את המידע שם באתר על פלטפורמת הבינה המלאכותית לעומת הצורך ללכת למקור הבסיסי."
בצד ה-OpenAI, ניק טורלי, ראש ChatGPT של החברה, כתב בתקשורת פנימית שבעלי אתרים עומדים בפני "איום קיומי" ממוצרים כמו הצ'אטבוט, שהם "במידה רבה מחליפים" ו"יהיו יותר ויותר מחליפים ככל שהם ישתפרו". נשיא OpenAI, גרג ברוקמן, תיאר את הדוגמניות כ"מצוינות בחדשות".
ובתזכיר פנימי בינואר 2023, הכט - אותו בכיר של מיקרוסופט שסימן מאוחר יותר את "לולאת האבדון" - כינה את הגרידה "גניבה מדהימה בממדים חסרי תקדים" ו"גניבת העבודה הגדולה ביותר בתולדות האנושות".
קנה המידה העצום של ההעתקה
המסמכים מכמתים את ההעתקה בקנה מידה שלא נחשף קודם לכן. מערכי הנתונים של OpenAI באמצע ההכשרה לבדם, נכתב בתיק, מכילים יותר מ-91,692 עותקים של יצירות שפורסמו על ידי הניו יורק טיימס, הניו יורק דיילי ניוז והמרכז לדיווח חקירות.
מערך נתונים שנגזר מ-Common Crawl, המאגר הפתוח החינמי של נתוני סריקת אינטרנט, כלל יותר מ-2 מיליון מסמכים מ-nytimes.com בלבד. ההגשה מתארת גם את Project Mango, יוזמת נתונים של Microsoft-OpenAI אשר מערך ההדרכה המורכב שלה מכיל עותקים של לפחות 160,903 יצירות ייחודיות ממפרסמי החדשות. OpenAI סיפקה את כל מערך ההדרכה של GPT-3 למיקרוסופט לצורך הערכה, נכתב בתיק, ומיקרוסופט סיפקה באופן דומה נתוני הדרכה ל-OpenAI באמצעות יוזמות הנקראות Project Taxi ו-Project Mango.
עובדי OpenAI גם בנו לכאורה מערכי נתונים להכשרה מוקדמת כמו WebText ו-WebText2, שהסתמכו באופן לא פרופורציונלי על תוכן חדשותי מגורד.
פריצות לחומת תשלום והודעות זכויות יוצרים מופשטות
אולי הפרטים הכי חיים נוגעים לאופן שבו התוכן הושג. כאשר חוקר OpenAI, ניק ריידר, סיפר לברוקמן על "פריצה לעקוף חומת תשלום של פעם", ברוקמן - כך נכתב בתיק - ענה: "אה, נחמד".
המסמכים מתארים עוד מאמצים מכוונים להסיר הודעות זכויות יוצרים מנתוני ההדרכה לפני שהגיעו למודל, מכיוון שהחוקרים "לא היו רוצים" שהמודל יוציא "הודעות זכויות יוצרים" למשתמשים.
"הראיות שנחשפו כאן לראשונה מראות ש-OpenAI ומיקרוסופט ידעו שמה שהן עושות לא בסדר", אמר סטיבן ליברמן, יועץ ניו יורק דיילי ניוז, בהצהרה ששיתפה עם TechCrunch.
מה זה אומר למאבק על שימוש הוגן
השאלה אם חברות בינה מלאכותית יכולות להתאמן באופן חוקי על חומר המוגן בזכויות יוצרים ללא רישיון נותרה מעורפלת, אך עד כה שופטים היו אוהדים במידה רבה לטיעוני השימוש ההוגן של חברות בינה מלאכותית. מוקדם יותר החודש, ממשל טראמפ תרם תקציר בהגנה על השימוש הבלתי מורשה של OpenAI בחומר המוגן בזכויות יוצרים כדי להכשיר את מודל השפה הגדול שלה.
עם זאת, כמה מההודאות החדשות מנוגדות לדרישת נזקי השוק של מבחן השימוש ההוגן - הרעיון שאסור שהשימוש יחליף את היצירה המקורית או יחליש את השוק. הצהרות פנימיות שהמוצרים "תחליפיים ברובם", בשילוב עם הנתונים של מיקרוסופט עצמה המראים קריסת קליקים של 93%, נותנים לצד של ה"טיימס" את ההוכחה הקונקרטית ביותר שלו עד כה להחלפת שוק.
ההגשה היא ההסלמה האחרונה בתיק שהפך למאבק המשפטי המכונן על האופן שבו חברות בינה מלאכותית רוכשות נתוני הכשרה. תהיה התוצאה אשר תהיה, התיעוד שלא כתוב כעת מראה שמנהלי החברות עצמם הבינו את המתח מוקדם - והעלו אותו על הכתב.
לסיקור מתמשך של הקרבות המשפטיים המעצבים בינה מלאכותית, עקוב אחר חדשות הבינה המלאכותית שלנו וניתוח מעמיק של המקרים שיגדירו את התעשייה.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
