بر اساس گزارش 404 Media بر اساس اسناد داخلی و مصاحبه با سه پیمانکار، افرادی که برای آموزش مدل‌های OpenAI حقوق می‌گیرند، به دلیل انجام وظایف خود با کمک هوش مصنوعی اخراج می‌شوند.

کنایه در مرکز داستان تند است. محققان هوش مصنوعی در مورد "فروپاشی مدل" هشدار داده اند - تخریبی که زمانی رخ می دهد که مدل ها به طور فزاینده ای بر روی متن تولید شده توسط هوش مصنوعی آموزش ببینند. برخی از افرادی که برای جلوگیری از این نتیجه استخدام شده‌اند، خودشان از پاسخ‌های تولید شده توسط هوش مصنوعی برای آموزش مدل‌های OpenAI استفاده می‌کنند و دستگاه بررسی این شرکت فعالانه در حال تعقیب آنها است. For more context on this story, see our ongoing AI trends.

"تقریباً تنها چیزی که باعث می شود شما را ترک کنید"

یکی از پیمانکاران به 404 Media گفت که کارگرانی را می‌بینند که همیشه از هوش مصنوعی استفاده می‌کنند و مردم همیشه به خاطر آن رها می‌شوند، این تقریباً تنها چیزی است که شما را در اسرع وقت از کار می‌اندازد. این فرد افزود که "در یک گروه هزار تنی صید شده است."

این گزارش مبتنی بر افشاگری قبلی 404 Media از Project Lily است، تلاشی OpenAI که در آن صدها پیمانکار اعلان‌ها و مکالمات کاربران واقعی ChatGPT را می‌خوانند - که می‌تواند شامل اطلاعات شخصی باشد - سپس پاسخ‌های مدل را ارزیابی و نقد می‌کنند، از جمله بررسی می‌کنند که پاسخ‌ها بیش از حد غیرمعمول یا مستعد تبدیل کردن چت به ربات‌های انسانی نیستند.

گزارش جدید از اسناد داخلی اضافی و مصاحبه با سه پیمانکار که در پروژه‌های OpenAI کار می‌کنند، تهیه شده است. بر اساس یک سند داخلی، این پروژه ها می توانند بیش از ده هزار پیمانکار را درگیر کنند.

کتاب قوانین: بدون GPTZero، بدون Grammarly، بدون AI

اسناد بررسی شده توسط 404 Media در مورد استفاده از ابزار بدون ابهام هستند. یکی از اسناد مربوط به پیمانکارانی که کار سایر پیمانکاران را بررسی می کنند، می گوید: «از ابزارهای تشخیص هوش مصنوعی یا خودتان از هوش مصنوعی استفاده نکنید». "از GPTZero یا هر ابزار تشخیص هوش مصنوعی دیگری استفاده نکنید. آنها قابل اعتماد نیستند. داوران نیز ممکن است از هوش مصنوعی استفاده نکنند، از جمله Grammarly و ترجمه هوش مصنوعی."

همان سند، بازبینان را در مورد ساکت ماندن در مورد روش‌هایشان راهنمایی می‌کند: "به ارزیاب‌ها نگویید که چرا به هوش مصنوعی مشکوک هستید. اگر بدانند به دنبال چه چیزی هستید، راحت‌تر پنهان می‌شوند. الگوی کلی را قضاوت کنید، نه یک سرنخ."

هر سه پیمانکار گفتند به بازبینی کنندگان دستور داده شده است که از هوش مصنوعی در کار خود استفاده نکنند و دو نفر گفتند که به دلیل استفاده از آن اخراج یا اخراج شده اند. 404 رسانه به پیمانکاران ناشناس ماند زیرا آنها اجازه صحبت با مطبوعات را نداشتند.

پس چه چیزی یک کارگر را از دست می دهد؟ بر اساس این گزارش، به بازبینان گفته می‌شود که به دنبال نشانه‌های گویای استفاده از هوش مصنوعی باشند: کلمات تکراری، نشانه‌گذاری به سبک هوش مصنوعی - از جمله، ظاهراً استفاده بیش از حد از خط تیره em - و پایان کار به‌طور غیرمعمول سریع. یکی از پیمانکاران گفت، در کانال‌های Slack که پیمانکاران مشاوره می‌دهند، مردم اغلب نمونه‌هایی را ارسال می‌کنند که می‌پرسند: "آیا این هوش مصنوعی است؟"

یکی از پیمانکارانی که اعتراف کرد از هوش مصنوعی در حین کمک به آموزش مدل‌های OpenAI استفاده کرده بود، آنچه را که به عنوان نامه پایان کار ارائه کرده بود به اشتراک گذاشت. گفته می شود که کارفرمای آنها مشکلاتی را در مورد "اصالت" کار آنها شناسایی کرده است.

پیمانکار به 404 Media گفت: "من فرد یا کارگر بدی نیستم. فقط به کمی تقویت نیاز داشتم و به هوش مصنوعی روی آوردم تا به من کمک کند که در نهایت منجر به سقوط من شد." من هیچ لذتی در کار نداشتم یا اینکه به هر نحوی به جامعه کمک می‌کردم.»

نقش مرکور و زنجیره کارگری آموزش هوش مصنوعی

دو تن از پیمانکاران برای Mercor، یک شرکت آموزش هوش مصنوعی که پیمانکارانی را استخدام می کند که مطالب مربوط به ChatGPT را بررسی می کنند، کار می کردند. یکی از سخنگویان مرکور در بیانیه ای به 404 Media گفت که کارشناسان آن برای تخصص و قضاوت خود استخدام شده اند که این شرکت برای پیشرفت مداوم هوش مصنوعی ضروری توصیف کرده است و قراردادهای آن به شدت استفاده از هوش مصنوعی را در کار ممنوع می کند.

این ترتیب ساختار لایه لایه پشت توسعه هوش مصنوعی مرزی را برجسته می کند. شرکت‌هایی مانند OpenAI به‌طور فزاینده‌ای به فروشندگان تخصصی متکی هستند، که به نوبه خود تعداد زیادی از بازبین‌های آزاد - هزاران نفر در هر پروژه - را برای رتبه‌بندی خروجی‌های مدل، پرچم‌گذاری محتوای مضر و ثابت نگه داشتن پاسخ‌ها استخدام می‌کنند. کنترل کیفیت در آن زنجیره نه توسط نرم افزار، بلکه توسط انسان های دیگری که برای "سبک هوش مصنوعی" می خوانند، اعمال می شود.

چرا ممنوعیت وجود دارد - و چرا اجرای آن سخت است

منطق ممنوعیت ساده است: اگر انسان‌ها به پاسخ‌های ChatGPT امتیاز دهند، قضاوت‌های خود را به خود ChatGPT بسپارند، حلقه بازخورد از بین می‌رود. رتبه‌بندی‌ها منعکس‌کننده ترجیحات واقعی انسان نیستند، فروپاشی مدل تسریع می‌شود و داده‌های ارزیابی که آموزش را راهنمایی می‌کنند، دایره‌ای می‌شوند. گزارش شده است که اسناد خود OpenAI تأیید می کند که ابزارهای تشخیص هوش مصنوعی غیرقابل اعتماد هستند، به همین دلیل است که به بازبینان گفته می شود که به جای نرم افزار به قضاوت الگو تکیه کنند.

اما اجرای قانون عدم هوش مصنوعی در میان نیروی کاری متشکل از هزاران فریلنسر که از طریق واسطه‌ها استخدام شده‌اند و به ازای هر کار پرداخت می‌شوند، فشارهای خاص خود را ایجاد می‌کند. پیمانکاران به 404 Media گفتند که استفاده از هوش مصنوعی حتی با مکرر فسخ کار رایج است، و کارگر ناشناس که نامه پایان کار را به اشتراک گذاشته است، روی آوردن به هوش مصنوعی را نه از روی تنبلی، بلکه به عنوان "کمی تقویت" برای کاری که آنها را خوشحال می کند، توصیف می کند.

این گزارش در بحبوحه یک بحث گسترده تر در مورد شرایط کاری نیروی کار نامرئی صنعت هوش مصنوعی - حاشیه نویسان، ارزیاب ها و بازبینانی که نیروی کار آنها زیربنای هر مدل اصلی است، منتشر می شود. همچنین پرسش‌های ناراحت‌کننده‌ای را برای اقتصاد گسترده‌تر ایجاد می‌کند: اگر افرادی که برای تشخیص نوشتار انسانی از نوشتن ماشینی پول پرداخت می‌کنند، برای انجام این کار به طور قابل اعتماد تلاش می‌کنند، و آشکارسازهای هوش مصنوعی براساس ارزیابی خود OpenAI غیرقابل اعتماد باقی می‌مانند، کارفرمایان در همه جا مجبور به نظارت بر مرزی می‌شوند که دیدن آن به طور فزاینده‌ای دشوار است.

در حال حاضر، سیاست داخل خط لوله آموزشی OpenAI روشن است، و مجازات آن نیز مشخص است. انتظار می‌رود کارگرانی که خروجی‌های یکی از توانمندترین سیستم‌های هوش مصنوعی جهان را درجه‌بندی می‌کنند، کاملاً انسانی باشند – و کسانی که به ابزاری که درجه‌بندی می‌کنند دست پیدا می‌کنند، شغل خود را از دست می‌دهند.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →