De personer som betalas för att träna OpenAI:s modeller får sparken för att de utför sina jobb med hjälp av AI, enligt en rapport från 404 Media baserad på interna dokument och intervjuer med tre entreprenörer.
Ironin i berättelsens centrum är skarp. AI-forskare har varnat för "modellkollaps" - den försämring som uppstår när modeller i allt högre grad tränas på AI-genererad text. En del av personerna som anställts för att förhindra det resultatet använder själva AI-genererade svar för att träna OpenAI:s modeller, och företagets granskningsapparat jagar dem aktivt. For more context on this story, see our ongoing more AI stories.
"Ganska mycket det enda som kommer att få dig att sparka igång"
En entreprenör sa till 404 Media att de ser arbetare som använder AI "hela tiden och folk släpps taget för det hela tiden, det är i stort sett den enda sak som kommer att få dig att sparka igång ASAP." Personen tillade att "i en grupp på tusentals finns det ton som har fångats."
Rapporten bygger på 404 Medias tidigare avslöjande av Project Lily, en OpenAI-insats där hundratals entreprenörer läser riktiga ChatGPT-användares uppmaningar och konversationer – som kan inkludera personlig information – och sedan betygsätt och kritisera modellens svar, inklusive att kontrollera att svaren inte är alltför uppseendeväckande eller benägna att antropomorfisera chatboten.
Den nya rapporteringen bygger på ytterligare interna dokument och intervjuer med tre entreprenörer som arbetar med OpenAI-projekt. Enligt ett internt dokument kan dessa projekt involvera mer än tiotusen entreprenörer.
Regelboken: Ingen GPTZero, ingen grammatik, ingen AI
De dokument som granskats av 404 Media är entydiga om verktygsanvändning. "Använd inte verktyg för upptäckt av AI, eller AI själv", står det i ett dokument för entreprenörer som granskar andra entreprenörers arbete. "Använd inte GPTZero eller något annat verktyg för AI-detektion. De är inte tillförlitliga. Granskare får inte heller använda AI, inklusive grammatik och AI-översättning."
Samma dokument vägleder granskare att hålla tyst om deras metoder: "Berätta inte för utvärderarna varför du misstänker AI. Det är lättare för dem att gömma sig om de vet vad du letar efter. Bedöm det övergripande mönstret, inte en ledtråd."
Alla tre entreprenörer sa att granskare instruerades att inte använda AI i sitt arbete, och två sa att personer har blivit avskedade eller avstängda för att ha använt det. 404 Media beviljade entreprenörerna anonymitet eftersom de inte fick prata med pressen.
Så vad ger bort en arbetare? Enligt rapporten uppmanas granskare att leta efter tydliga tecken på AI-användning: upprepade ord, AI-liknande skiljetecken - inklusive, uppenbarligen, överivrig användning av em-strecket - och arbete som slutförs ovanligt snabbt. I Slack-kanaler där entreprenörer handlar med råd, sa en entreprenör, lägger folk ofta upp exempel som frågar: "Är det här AI?"
En entreprenör som erkände att han använde AI samtidigt som han hjälpte till att träna OpenAIs modeller delade med sig av vad de presenterade som sitt uppsägningsbrev. Det sa att deras arbetsgivare hade identifierat problem med "äktheten" av deras arbete.
"Jag är ingen dålig person eller arbetare. Jag behövde bara ett litet uppsving och vände mig till AI för att hjälpa mig vilket så småningom ledde till min undergång," sa entreprenören till 404 Media. "Jag kände ingen glädje i arbetet eller att jag på något sätt bidrog till samhället."
Mercors roll och AI-utbildningsarbetskedjan
Två av entreprenörerna arbetade för Mercor, ett AI-utbildningsföretag som anlitar entreprenörer som granskar ChatGPT-relaterat material. En talesperson för Mercor sa i ett uttalande till 404 Media att dess experter anlitas för deras expertis och omdöme, vilket företaget beskrev som väsentligt för den pågående utvecklingen av AI, och att dess kontrakt strängt förbjuder användningen av AI i arbetet.
Arrangemanget belyser den skiktade arbetsstrukturen bakom frontier AI-utveckling. Företag som OpenAI förlitar sig i allt högre grad på specialiserade leverantörer, som i sin tur rekryterar stora pooler av frilansgranskare – i tusentals per projekt – för att gradera modellutdata, flagga skadligt innehåll och hålla svaren jordade. Kvalitetskontroll i den kedjan upprätthålls inte av programvara utan av andra människor som läser efter "AI-stil".
Varför förbudet existerar – och varför det är svårt att genomdriva
Skälet till förbudet är okomplicerat: om människorna som betygsätter ChatGPT:s svar lägger ut sina bedömningar på själva ChatGPT, kollapsar återkopplingsslingan. Betygen slutar återspegla genuina mänskliga preferenser, modellkollapsen accelererar och utvärderingsdatan som styr träningen blir cirkulär. OpenAI:s egna dokument erkänner enligt uppgift att AI-detektionsverktyg är opålitliga, vilket är anledningen till att granskare uppmanas att förlita sig på mönsterbedömning snarare än programvara.
Men att upprätthålla en no-AI-regel för en arbetsstyrka på tusentals frilansare, anställd via mellanhänder och betald per uppgift, skapar sitt eget tryck. Entreprenörer berättade för 404 Media att AI-användning är vanligt även när uppsägningar är frekventa, och den anonyma arbetaren som delade ett uppsägningsbrev beskrev att han vänder sig till AI inte av lättja utan som "ett litet uppsving" för arbetet som de fann glädjelös.
Rapporten landar mitt i en bredare debatt om arbetsvillkoren för AI-branschens osynliga arbetsstyrka - annotatorerna, bedömarna och granskarna vars arbete ligger till grund för varje större modell. Det väcker också obekväma frågor för den bredare ekonomin: om de människor som betalas för att skilja mänskligt skrivande från maskinskrivande kämpar för att göra det på ett tillförlitligt sätt, och AI-detektorer förblir opålitliga enligt OpenAI:s egen bedömning, lämnas arbetsgivare överallt med att bevaka en gräns som blir allt svårare att se.
För tillfället är policyn i OpenAI:s träningspipeline tydlig, och det är även straffen. Arbetare som betygsätter resultatet från ett av världens mest kapabla AI-system förväntas vara helt, verifierbart mänskliga – och de som sträcker sig efter verktyget de betygsätter riskerar att förlora jobbet.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
