האנשים ששולמו כדי להכשיר את הדגמים של OpenAI מפוטרים בגלל שהם עושים את עבודתם בעזרת בינה מלאכותית, לפי דיווח של 404 Media המבוסס על מסמכים פנימיים וראיונות עם שלושה קבלנים.

האירוניה שבמרכז הסיפור חדה. חוקרי בינה מלאכותית הזהירו מפני "קריסת מודל" - השפלה המתרחשת כאשר מודלים מאומנים יותר ויותר על טקסט שנוצר בינה מלאכותית. חלק מהאנשים שנשכרו כדי למנוע את התוצאה הזו משתמשים בעצמם בתגובות שנוצרו בינה מלאכותית כדי להכשיר את המודלים של OpenAI, ומנגנון הביקורת של החברה רודף אותם באופן פעיל. For more context on this story, see our ongoing AI trends.

"בערך הדבר היחיד שיוציא אותך בבעיטה"

קבלן אחד אמר ל-404 Media שהם רואים עובדים שמשתמשים בבינה מלאכותית "כל הזמן ואנשים משחררים את זה כל הזמן, זה פחות או יותר הדבר היחיד שיוציא אותך מהבית בהקדם האפשרי". האדם הוסיף כי "בקבוצה של אלפים יש טונות שנתפסו".

הדו"ח מתבסס על החשיפה הקודמת של 404 Media של Project Lily, מאמץ OpenAI שבו מאות קבלנים קוראים את ההנחיות והשיחות האמיתיות של משתמשי ChatGPT - שיכולות לכלול מידע אישי - ואז מדרגים ומעבירים ביקורת על תגובות המודל, כולל בדיקה שהתשובות אינן סקרניות מדי או נוטות לאנתרופומורפיזציה של הצ'אטבוט.

הדיווח החדש מסתמך על מסמכים פנימיים נוספים וראיונות עם שלושה קבלנים הפועלים בפרויקטים של OpenAI. לפי מסמך פנימי אחד, בפרויקטים אלה יכולים להיות מעורבים יותר מעשרת אלפים קבלנים.

ספר החוקים: ללא GPTZero, ללא דקדוק, ללא AI

המסמכים שנבדקו על ידי 404 Media אינם חד משמעיים לגבי השימוש בכלים. "אל תשתמש בכלי זיהוי בינה מלאכותית, או בינה מלאכותית בעצמך", נכתב באחד המסמכים עבור קבלנים הבודקים עבודות של קבלנים אחרים. "אל תשתמש ב-GPTZero או בכל כלי אחר לזיהוי בינה מלאכותית. הם אינם אמינים. סוקרים עשויים שלא להשתמש גם בבינה מלאכותית, כולל תרגום דקדוק ו-AI."

אותו מסמך מאמן את הסוקרים לשמור על שקט לגבי השיטות שלהם: "אל תגיד למעריכים מדוע אתה חושד בבינה מלאכותית. קל להם יותר להסתיר אם הם יודעים מה אתה מחפש. תשפוט את הדפוס הכללי, לא רמז אחד."

כל שלושת הקבלנים אמרו שהבודקים מקבלים הוראה לא להשתמש בבינה מלאכותית בעבודתם, ושניים אמרו שאנשים פוטרו או יצאו מהמטוס בגלל השימוש בו. 404 Media העניקה לקבלנים אנונימיות משום שלא הורשו לדבר עם העיתונות.

אז מה נותן לעובד? על פי הדו"ח, סוקרים מתבקשים לחפש סימנים מובהקים לשימוש בבינה מלאכותית: מילים שחוזרות על עצמן, סימני פיסוק בסגנון בינה מלאכותית - כולל, ככל הנראה, שימוש נלהב מדי במקף em - ועבודה שמסתיימת במהירות חריגה. בערוצים של Slack שבהם קבלנים סוחרים בייעוץ, אמר קבלן אחד, אנשים מרבים לפרסם דוגמאות ששואלים, "האם זה AI?"

קבלן אחד שהודה בשימוש בבינה מלאכותית בזמן שעזר לאמן את הדגמים של OpenAI שיתף את מה שהם הציגו כמכתב הפסקת העבודה שלהם. הוא אמר שהמעסיק שלהם זיהה בעיות ב"אותנטיות" של עבודתם.

"אני לא אדם רע או עובד. רק הייתי צריך דחיפה קטנה ופניתי לבינה מלאכותית כדי לעזור לי מה שהוביל בסופו של דבר לנפילתי", אמר הקבלן ל-404 Media. "לא הרגשתי שמחה בעבודה או שאני תורם לחברה בשום צורה".

תפקידה של מרקור ושרשרת העבודה להכשרת בינה מלאכותית

שניים מהקבלנים עבדו עבור מרקור, חברת אימון בינה מלאכותית השוכרת את הקבלנים הבודקים חומר הקשור ל-ChatGPT. דובר מרקור אמר ל-404 Media בהצהרה כי מומחיה נשכרים בשל מומחיותם ושיקול הדעת, שהחברה תיארה כחיוניים לקידום המתמשך של AI, וכי החוזים שלה אוסרים בהחלט על השימוש ב-AI בעבודה.

ההסדר מדגיש את מבנה העבודה השכבתי שמאחורי פיתוח בינה מלאכותית. חברות כמו OpenAI מסתמכות יותר ויותר על ספקים מיוחדים, אשר בתורם מגייסים מאגרים גדולים של סוקרים עצמאיים - באלפים לכל פרויקט - כדי לדרג את תפוקות המודל, לסמן תוכן מזיק ולשמור על התגובות מבוססות. בקרת האיכות בשרשרת זו נאכפת לא על ידי תוכנה אלא על ידי בני אדם אחרים שקוראים "בסגנון AI".

מדוע האיסור קיים - ולמה קשה לאכוף

הרציונל לאיסור הוא פשוט: אם בני האדם מדורגים את התשובות של ChatGPT למיקור חוץ את השיפוטים שלהם ל-ChatGPT עצמה, לולאת המשוב קורסת. הדירוגים מפסיקים לשקף העדפות אנושיות אמיתיות, קריסת המודל מואצת ונתוני ההערכה שמנחים את האימון הופכים למעגליים. לפי הדיווחים, המסמכים של OpenAI עצמה מכירים בכך שכלי זיהוי בינה מלאכותית אינם אמינים, וזו הסיבה שהבודקים נאמר להם להסתמך על שיפוט דפוסים ולא על תוכנה.

אבל אכיפת כלל ללא AI על פני כוח עבודה של אלפי פרילנסרים, המושכרים באמצעות מתווכים ומשולם לכל משימה, יוצרת לחצים משלה. קבלנים אמרו ל-404 Media ששימוש בבינה מלאכותית נפוץ גם כשהסתייגויות הן תכופות, והעובד האנונימי ששיתף מכתב סיום תיאר את הפנייה לבינה מלאכותית לא מתוך עצלות אלא כ"דחיפה קטנה" לעבודה שהם מצאו חסרי שמחה.

הדו"ח נוחת על רקע ויכוח רחב יותר על תנאי העבודה של כוח העבודה הבלתי נראה של תעשיית הבינה המלאכותית - הכותבים, המדרגים והסוקרים שעבודתם עומדת בבסיס כל מודל מרכזי. זה גם מעלה שאלות לא נוחות עבור הכלכלה הרחבה יותר: אם האנשים ששילמו כדי להבחין בין כתיבה אנושית לכתיבה מכונה נאבקים לעשות זאת בצורה מהימנה, וגלאי AI נשארים בלתי אמינים לפי הערכת OpenAI עצמה, מעסיקים בכל מקום נשארים במשטרה על גבול שקשה יותר ויותר לראות.

לעת עתה, המדיניות בתוך צינור האימונים של OpenAI ברורה, וכך גם העונש. עובדים המדרגים את התפוקות של אחת ממערכות הבינה המלאכותית המסוגלות ביותר בעולם צפויים להיות אנושיים לחלוטין, בוודאות - ומי שמושיט יד לכלי שהם מדרגים מסתכנים לאבד את העבודה.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →