404 میڈیا کی داخلی دستاویزات اور تین ٹھیکیداروں کے انٹرویوز پر مبنی رپورٹ کے مطابق، OpenAI کے ماڈلز کو تربیت دینے کے لیے ادا کیے گئے لوگوں کو AI کی مدد سے اپنا کام کرنے کے لیے نوکری سے نکالا جا رہا ہے۔
کہانی کے مرکز میں ستم ظریفی ہے۔ AI محققین نے "ماڈل کے خاتمے" کے بارے میں خبردار کیا ہے - یہ انحطاط جو اس وقت ہوتا ہے جب ماڈلز کو AI سے تیار کردہ متن پر تیزی سے تربیت دی جاتی ہے۔ اس نتیجے کو روکنے کے لیے رکھے گئے کچھ لوگ خود OpenAI کے ماڈلز کو تربیت دینے کے لیے AI سے تیار کردہ ردعمل کا استعمال کر رہے ہیں، اور کمپنی کا جائزہ لینے کا آلہ فعال طور پر ان کا شکار کر رہا ہے۔ For more context on this story, see our ongoing breaking AI news.
"بہت زیادہ ایک چیز جو آپ کو نکال دے گی"
ایک ٹھیکیدار نے 404 میڈیا کو بتایا کہ وہ کارکنوں کو AI کا استعمال کرتے ہوئے دیکھتے ہیں "ہر وقت اور لوگوں کو ہر وقت اس کے لیے جانے دیا جاتا ہے، یہ ایک چیز ہے جو آپ کو جلد از جلد ختم کر دے گی۔" اس شخص نے مزید کہا کہ "ہزاروں کے گروپ میں ایسے ٹن ہیں جو پکڑے گئے ہیں۔"
یہ رپورٹ 404 میڈیا کے پروجیکٹ للی کے پہلے انکشاف پر مبنی ہے، ایک OpenAI کوشش جس میں سینکڑوں ٹھیکیدار حقیقی ChatGPT صارفین کے اشارے اور گفتگو کو پڑھتے ہیں - جس میں ذاتی معلومات شامل ہوسکتی ہیں - پھر ماڈل کے جوابات کی درجہ بندی اور تنقید بھی شامل ہے، بشمول یہ چیک کرنا کہ جوابات بہت زیادہ سفاکانہ نہیں ہیں یا چیٹ بوٹ کو اینتھروپومورفائز کرنے کا خطرہ ہیں۔
نئی رپورٹنگ اضافی اندرونی دستاویزات اور OpenAI پروجیکٹس میں کام کرنے والے تین ٹھیکیداروں کے انٹرویوز پر مبنی ہے۔ ایک اندرونی دستاویز کے مطابق ان منصوبوں میں دس ہزار سے زیادہ ٹھیکیدار شامل ہو سکتے ہیں۔
اصول کتاب: کوئی GPTZero، کوئی گرامر، کوئی AI نہیں۔
404 میڈیا کے ذریعہ نظرثانی شدہ دستاویزات ٹول کے استعمال کے بارے میں غیر واضح ہیں۔ دوسرے ٹھیکیداروں کے کام کی حالتوں کا جائزہ لینے والے ٹھیکیداروں کے لیے ایک دستاویز "اے آئی کا پتہ لگانے والے ٹولز، یا خود AI استعمال نہ کریں۔" "GPTZero یا AI کا پتہ لگانے کا کوئی دوسرا ٹول استعمال نہ کریں۔ وہ قابل بھروسہ نہیں ہیں۔ جائزہ لینے والے AI کو بھی استعمال نہیں کر سکتے، بشمول Grammarly اور AI ترجمہ۔"
وہی دستاویز جائزہ لینے والوں کو ان کے طریقوں کے بارے میں خاموش رہنے کی تربیت دیتی ہے: "تجزیہ کاروں کو نہ بتائیں کہ آپ کو AI پر شک کیوں ہے۔ اگر وہ جانتے ہیں کہ آپ کیا ڈھونڈ رہے ہیں تو ان کے لیے چھپانا آسان ہے۔
تینوں ٹھیکیداروں نے کہا کہ جائزہ لینے والوں کو ہدایت کی گئی ہے کہ وہ اپنے کام میں AI کا استعمال نہ کریں، اور دو نے کہا کہ لوگوں کو اسے استعمال کرنے پر برطرف یا آف بورڈ کر دیا گیا ہے۔ 404 میڈیا نے ٹھیکیداروں کو نام ظاہر نہ کرنے کی اجازت دی کیونکہ انہیں پریس سے بات کرنے کی اجازت نہیں تھی۔
تو ایک کارکن کو کیا دیتا ہے؟ رپورٹ کے مطابق، جائزہ لینے والوں سے کہا جاتا ہے کہ وہ AI کے استعمال کے بتائے جانے والے اشارے تلاش کریں: دہرائے جانے والے الفاظ، AI طرز کے رموز - بشمول، بظاہر، em dash کا زیادہ پرجوش استعمال - اور کام غیر معمولی طور پر تیزی سے ختم ہونا۔ سلیک چینلز میں جہاں ٹھیکیدار مشورے کی تجارت کرتے ہیں، ایک ٹھیکیدار نے کہا، لوگ اکثر یہ پوچھتے ہوئے مثالیں پوسٹ کرتے ہیں، "کیا یہ AI ہے؟"
ایک ٹھیکیدار جس نے اوپن اے آئی کے ماڈلز کو تربیت دینے میں مدد کرتے ہوئے اے آئی کا استعمال کرنے کا اعتراف کیا وہ شیئر کیا جو انہوں نے اپنے ٹرمینیشن لیٹر کے طور پر پیش کیا۔ اس نے کہا کہ ان کے آجر نے ان کے کام کی "صداقت" کے ساتھ مسائل کی نشاندہی کی ہے۔
ٹھیکیدار نے 404 میڈیا کو بتایا، "میں کوئی برا شخص یا کارکن نہیں ہوں۔ مجھے صرف تھوڑا سا فروغ درکار تھا اور میری مدد کے لیے AI کی طرف متوجہ ہوا جو بالآخر میرے زوال کا باعث بنا،" ٹھیکیدار نے 404 میڈیا کو بتایا۔ "میں نے اس کام میں کوئی خوشی محسوس نہیں کی یا یہ کہ میں کسی بھی طرح سے معاشرے میں اپنا حصہ ڈال رہا ہوں۔"
مرکر کا کردار اور اے آئی ٹریننگ لیبر چین
ان میں سے دو ٹھیکیداروں نے مرکر کے لیے کام کیا، ایک AI-تربیت دینے والی کمپنی جو ان ٹھیکیداروں کی خدمات حاصل کرتی ہے جو ChatGPT سے متعلقہ مواد کا جائزہ لیتے ہیں۔ مرکر کے ترجمان نے ایک بیان میں 404 میڈیا کو بتایا کہ اس کے ماہرین کو ان کی مہارت اور فیصلے کے لیے رکھا گیا ہے، جسے کمپنی نے AI کی جاری ترقی کے لیے ضروری قرار دیا ہے، اور اس کے معاہدوں میں کام میں AI کے استعمال کی سختی سے ممانعت ہے۔
یہ انتظام فرنٹیئر AI کی ترقی کے پیچھے پرتوں والے لیبر ڈھانچے کو نمایاں کرتا ہے۔ OpenAI جیسی کمپنیاں تیزی سے خصوصی وینڈرز پر انحصار کرتی ہیں، جو بدلے میں ماڈل آؤٹ پٹس، نقصان دہ مواد کو جھنڈا لگانے اور جوابات کو گراؤنڈ رکھنے کے لیے - ہزاروں فی پروجیکٹ کے حساب سے فری لانس جائزہ لینے والوں کے بڑے تالابوں کو بھرتی کرتی ہیں۔ اس سلسلہ میں کوالٹی کنٹرول سافٹ ویئر کے ذریعہ نہیں بلکہ دوسرے انسانوں کے ذریعہ نافذ کیا جاتا ہے جو "AI طرز" کو پڑھتے ہیں۔
پابندی کیوں موجود ہے - اور اسے نافذ کرنا کیوں مشکل ہے۔
ممانعت کا استدلال سیدھا ہے: اگر انسان ChatGPT کے جوابات کی درجہ بندی کرتے ہیں تو اپنے فیصلوں کو ChatGPT پر آؤٹ سورس کرتے ہیں، فیڈ بیک لوپ ختم ہو جاتا ہے۔ ریٹنگز حقیقی انسانی ترجیحات کی عکاسی کرنا بند کر دیتی ہیں، ماڈل کے خاتمے میں تیزی آتی ہے، اور تشخیصی ڈیٹا جو تربیت کی رہنمائی کرتا ہے سرکلر ہو جاتا ہے۔ اوپن اے آئی کی اپنی دستاویزات مبینہ طور پر تسلیم کرتی ہیں کہ اے آئی کا پتہ لگانے والے ٹولز ناقابل اعتبار ہیں، یہی وجہ ہے کہ جائزہ لینے والوں سے کہا جاتا ہے کہ وہ سافٹ ویئر کے بجائے پیٹرن ججمنٹ پر انحصار کریں۔
لیکن ہزاروں فری لانسرز کی افرادی قوت پر ایک نو-AI اصول کو نافذ کرنا، جو بیچوانوں کے ذریعے بھرتی کیے جاتے ہیں اور فی کام کی ادائیگی کرتے ہیں، اس کا اپنا دباؤ پیدا کرتا ہے۔ ٹھیکیداروں نے 404 میڈیا کو بتایا کہ AI کا استعمال عام ہے یہاں تک کہ برطرفیاں اکثر ہوتی ہیں، اور گمنام کارکن جس نے ٹرمینیشن لیٹر شیئر کیا تھا، نے بتایا کہ AI کی طرف رجوع کرنا کاہلی سے نہیں بلکہ کام کے لیے "تھوڑا سا فروغ" کے طور پر انہیں بے خوشی پایا۔
یہ رپورٹ AI صنعت کی غیر مرئی افرادی قوت کے کام کرنے کے حالات کے بارے میں ایک وسیع بحث کے درمیان ہے - تشریح کرنے والے، شرح کرنے والے اور جائزہ لینے والے جن کی محنت ہر بڑے ماڈل کی بنیاد رکھتی ہے۔ یہ وسیع تر معیشت کے لیے غیر آرام دہ سوالات بھی اٹھاتا ہے: اگر لوگوں نے ایسا کرنے کے لیے مشینی تحریر سے انسانی تحریر کو ممتاز کرنے کے لیے ادائیگی کی اور ایسا کرنے کے لیے AI کا پتہ لگانے والے اپنی تشخیص سے ناقابل بھروسہ رہتے ہیں، تو آجر ہر جگہ ایک ایسی حد بندی کر رہے ہیں جسے دیکھنا مشکل ہوتا جا رہا ہے۔
ابھی کے لیے، OpenAI کی ٹریننگ پائپ لائن کے اندر کی پالیسی واضح ہے، اور اسی طرح جرمانہ بھی ہے۔ دنیا کے سب سے زیادہ قابل AI نظاموں میں سے ایک کے آؤٹ پٹس کی درجہ بندی کرنے والے کارکنوں سے توقع کی جاتی ہے کہ وہ مکمل طور پر، قابل تصدیق طور پر انسان ہوں گے - اور جو لوگ اس ٹول تک پہنچتے ہیں وہ گریڈنگ کرتے ہیں ان کے لیے نوکری کھونے کا خطرہ ہوتا ہے۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
