Podle zprávy 404 Media založené na interních dokumentech a rozhovorech se třemi dodavateli jsou lidé placeni za školení modelů OpenAI propouštěni za to, že svou práci dělají s pomocí AI.

Ironie ve středu příběhu je ostrá. Výzkumníci umělé inteligence varovali před „kolapsem modelu“ – degradací, ke které dochází, když jsou modely stále více trénovány na textu generovaném umělou inteligencí. Někteří lidé najatí, aby tomuto výsledku zabránili, sami používají odpovědi generované AI k trénování modelů OpenAI a kontrolní aparát společnosti je aktivně loví. For more context on this story, see our ongoing latest AI developments.

"Do značné míry jediná věc, která vás nakopne"

Jeden dodavatel řekl 404 Media, že vidí pracovníky, kteří používají AI „po celou dobu a lidé jsou kvůli tomu neustále opuštěni, je to v podstatě jediná věc, díky které budete co nejdříve nakopnuti“. Osoba dodala, že "ve skupině tisíců jsou tuny, které byly uloveny."

Zpráva staví na dřívějším odhalení Project Lily od 404 Media, což je úsilí OpenAI, ve kterém stovky dodavatelů čtou skutečné výzvy a konverzace uživatelů ChatGPT – které mohou zahrnovat osobní informace – a poté hodnotí a kritizují odpovědi modelu, včetně kontroly, zda odpovědi nejsou příliš podlézavé nebo náchylné k antropomorfizaci chatbota.

Nový reporting čerpá z dalších interních dokumentů a rozhovorů se třemi dodavateli pracujícími na projektech OpenAI. Podle jednoho interního dokumentu se na těchto projektech může podílet více než deset tisíc dodavatelů.

Kniha pravidel: Žádné GPTZero, žádná gramatika, žádná AI

Dokumenty recenzované 404 Media jsou ohledně použití nástrojů jednoznačné. „Nepoužívejte nástroje detekce umělé inteligence ani sami umělou inteligenci,“ uvádí jeden dokument pro dodavatele, kteří kontrolují práci jiných dodavatelů. "Nepoužívejte GPTZero ani žádný jiný nástroj pro detekci AI. Nejsou spolehlivé. Recenzenti také nesmí používat AI, včetně gramatiky a překladu AI."

Stejný dokument učí recenzenty, aby zůstali potichu o svých metodách: "Neříkejte hodnotitelům, proč máte podezření na AI. Je pro ně snazší se skrýt, pokud vědí, co hledáte. Posuzujte celkový vzorec, ne jedno vodítko."

Všichni tři dodavatelé uvedli, že recenzenti jsou instruováni, aby nepoužívali AI ve své práci, a dva uvedli, že lidé byli propuštěni nebo vyřazeni za její používání. 404 Media poskytla dodavatelům anonymitu, protože jim nebylo dovoleno mluvit s tiskem.

Co tedy dělníka prozradí? Podle zprávy je recenzentům řečeno, aby hledali výmluvné známky používání AI: opakující se slova, interpunkci ve stylu AI – včetně zjevně příliš horlivého používání em pomlčky – a práce dokončující neobvykle rychle. V kanálech Slack, kde dodavatelé obchodují s poradenstvím, řekl jeden dodavatel, lidé často zveřejňují příklady s dotazem: "Je to AI?"

Jeden dodavatel, který přiznal, že používá AI a zároveň pomáhá trénovat modely OpenAI, se podělil o to, co předložil jako dopis o ukončení. Uvedla, že jejich zaměstnavatel identifikoval problémy s „autenticitou“ jejich práce.

"Nejsem špatný člověk ani pracovník. Potřeboval jsem jen trochu povzbudit a obrátil jsem se na AI, aby mi pomohla, což nakonec vedlo k mému pádu," řekl dodavatel 404 Media. "Necítil jsem žádnou radost z práce nebo z toho, že nějakým způsobem přispívám společnosti."

Role společnosti Mercor a pracovní řetězec školení AI

Dva z dodavatelů pracovali pro společnost Mercor, společnost pro školení AI, která najímá dodavatele, kteří kontrolují materiály související s ChatGPT. Mluvčí společnosti Mercor řekl 404 Media v prohlášení, že její experti jsou najímáni pro jejich odbornost a úsudek, které společnost označila za zásadní pro pokračující rozvoj AI, a že její smlouvy přísně zakazují používání AI při práci.

Uspořádání zdůrazňuje vrstvenou strukturu práce za vývojem hraniční umělé inteligence. Společnosti jako OpenAI se stále více spoléhají na specializované dodavatele, kteří zase rekrutují velké skupiny nezávislých recenzentů – po tisících na projekt – aby hodnotili výstupy modelu, označovali škodlivý obsah a udržovali odpovědi na zemi. Kontrola kvality v tomto řetězci není vynucována softwarem, ale jinými lidmi, kteří čtou slova „ve stylu AI“.

Proč zákaz existuje — a proč je těžké ho prosadit

Odůvodnění zákazu je jednoduché: pokud lidé hodnotí odpovědi ChatGPT zadávají své úsudky samotné ChatGPT, smyčka zpětné vazby se zhroutí. Hodnocení přestávají odrážet skutečné lidské preference, kolaps modelu se zrychluje a hodnotící data, která vedou trénink, se stávají kruhovými. Vlastní dokumenty OpenAI údajně uznávají, že nástroje pro detekci umělé inteligence jsou nespolehlivé, a proto se recenzentům říká, aby se spoléhali na úsudek spíše než na software.

Ale prosazování pravidla ne-AI napříč pracovní silou tisíců nezávislých pracovníků, najatých přes zprostředkovatele a placených za úkol, vytváří vlastní tlaky. Dodavatelé řekli 404 Media, že používání umělé inteligence je běžné, i když jsou časté výpovědi, a anonymní pracovník, který sdílel dopis o ukončení, popsal, že se obrátil na umělou inteligenci nikoli z lenosti, ale jako „malou podporu“ pro práci, kterou považovali za neradostnou.

Zpráva se dostává do širší debaty o pracovních podmínkách neviditelné pracovní síly v odvětví AI – anotátorů, hodnotitelů a recenzentů, jejichž práce je základem každého velkého modelu. Vyvolává to také nepříjemné otázky pro širší ekonomiku: pokud se lidé, kteří jsou placeni za to, aby rozlišovali lidské psaní od strojového, snaží to spolehlivě dělat a detektory umělé inteligence zůstávají podle vlastního hodnocení OpenAI nespolehlivé, zaměstnavatelé všude jsou ponecháni dohlížet na hranici, kterou je stále obtížnější vidět.

Prozatím je politika uvnitř tréninkového kanálu OpenAI jasná, stejně jako trest. Očekává se, že pracovníci, kteří hodnotí výstupy jednoho z nejschopnějších systémů umělé inteligence na světě, budou zcela a ověřitelně lidé – a ti, kteří sáhnou po nástroji, který hodnotí, riskují ztrátu zaměstnání.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →