De mensen die worden betaald om de modellen van OpenAI te trainen, worden ontslagen omdat ze hun werk doen met behulp van AI, volgens een rapport van 404 Media, gebaseerd op interne documenten en interviews met drie aannemers.
De ironie die centraal staat in het verhaal is scherp. AI-onderzoekers hebben gewaarschuwd voor de ‘instorting van modellen’ – de achteruitgang die optreedt wanneer modellen steeds vaker worden getraind op door AI gegenereerde tekst. Sommige van de mensen die zijn ingehuurd om die uitkomst te voorkomen, gebruiken zelf door AI gegenereerde reacties om de modellen van OpenAI te trainen, en het beoordelingsapparaat van het bedrijf is actief op jacht naar hen. Voor meer context over dit verhaal, zie ons AI-trends.
"Vrijwel het enige dat ervoor zorgt dat je wordt afgetrapt"
Een aannemer vertelde 404 Media dat hij ziet dat werknemers AI voortdurend gebruiken en dat mensen er de hele tijd voor worden losgelaten, het is vrijwel het enige dat ervoor zorgt dat je zo snel mogelijk wordt ontslagen. De persoon voegde eraan toe dat "er in een groep van duizenden tonnen zijn gevangen."
Het rapport bouwt voort op de eerdere onthulling van 404 Media over Project Lily, een OpenAI-project waarbij honderden aannemers de aanwijzingen en gesprekken van echte ChatGPT-gebruikers lezen (die persoonlijke informatie kunnen bevatten) en vervolgens de reacties van het model beoordelen en bekritiseren, inclusief het controleren of de antwoorden niet te sycofantisch zijn of de neiging hebben om de chatbot te antropomorfiseren.
De nieuwe rapportage is gebaseerd op aanvullende interne documenten en interviews met drie aannemers die aan OpenAI-projecten werken. Volgens een intern document kunnen bij deze projecten meer dan tienduizend aannemers betrokken zijn.
Het regelboek: geen GPTZero, geen grammatica, geen AI
De door 404 Media beoordeelde documenten zijn eenduidig over het toolgebruik. "Gebruik geen AI-detectietools, of AI zelf", een document voor aannemers die de werkstatus van andere aannemers beoordelen. "Gebruik geen GPTZero of een ander AI-detectietool. Ze zijn niet betrouwbaar. Reviewers mogen ook geen AI gebruiken, inclusief grammatica en AI-vertaling."
Hetzelfde document helpt reviewers om stil te blijven over hun methoden: "Vertel beoordelaars niet waarom u AI vermoedt. Het is gemakkelijker voor hen om zich te verbergen als ze weten waar u naar zoekt. Beoordeel het algemene patroon, niet één aanwijzing."
Alle drie de contractanten zeiden dat reviewers de opdracht krijgen om AI niet in hun werk te gebruiken, en twee zeiden dat mensen zijn ontslagen of buiten dienst zijn gesteld omdat ze het gebruikten. 404 Media verleenden de opdrachtnemers anonimiteit omdat zij niet met de pers mochten spreken.
Dus wat geeft een werknemer weg? Volgens het rapport moeten recensenten letten op tekenen die wijzen op AI-gebruik: repetitieve woorden, interpunctie in AI-stijl – inclusief, blijkbaar, overijverig gebruik van het em-streepje – en werk dat ongewoon snel klaar is. In Slack-kanalen waar aannemers advies uitwisselen, zei een aannemer, posten mensen vaak voorbeelden met de vraag: "Is dit AI?"
Eén contractant die toegaf dat hij AI gebruikte terwijl hij hielp bij het trainen van de modellen van OpenAI, deelde wat zij presenteerden als hun ontslagbrief. Volgens het bedrijf had hun werkgever problemen met de ‘authenticiteit’ van hun werk vastgesteld.
"Ik ben geen slecht persoon of slechte werker. Ik had gewoon een kleine boost nodig en wendde me tot AI om me te helpen, wat uiteindelijk tot mijn ondergang leidde", vertelde de aannemer aan 404 Media. "Ik voelde geen vreugde in het werk of dat ik op welke manier dan ook bijdroeg aan de samenleving."
De rol van Mercor en de arbeidsketen van AI-training
Twee van de contractanten werkten voor Mercor, een AI-trainingsbedrijf dat de contractanten inhuurt die ChatGPT-gerelateerd materiaal beoordelen. Een woordvoerder van Mercor vertelde 404 Media in een verklaring dat zijn experts worden ingehuurd vanwege hun expertise en oordeel, wat het bedrijf omschreef als essentieel voor de voortdurende vooruitgang van AI, en dat zijn contracten het gebruik van AI in het werk ten strengste verbieden.
De regeling benadrukt de gelaagde arbeidsstructuur achter grensverleggende AI-ontwikkeling. Bedrijven als OpenAI vertrouwen steeds meer op gespecialiseerde leveranciers, die op hun beurt grote hoeveelheden freelance reviewers werven – met duizenden per project – om de resultaten van modellen te beoordelen, schadelijke inhoud te markeren en de reacties gefundeerd te houden. De kwaliteitscontrole in die keten wordt niet afgedwongen door software, maar door andere mensen die lezen voor 'AI-stijl'-informatie.
Waarom het verbod bestaat – en waarom het moeilijk te handhaven is
De reden voor het verbod is eenvoudig: als de mensen die de antwoorden van ChatGPT beoordelen hun oordeel uitbesteden aan ChatGPT zelf, stort de feedbacklus in. Beoordelingen weerspiegelen niet langer echte menselijke voorkeuren, de ineenstorting van modellen versnelt en de evaluatiegegevens die de training sturen, worden circulair. OpenAI's eigen documenten erkennen naar verluidt dat AI-detectietools onbetrouwbaar zijn, en daarom wordt reviewers verteld dat ze moeten vertrouwen op patroonbeoordeling in plaats van op software.
Maar het afdwingen van een no-AI-regel voor een personeelsbestand van duizenden freelancers, ingehuurd via tussenpersonen en betaald per taak, creëert zijn eigen druk. Contractanten vertelden 404 Media dat het gebruik van AI gebruikelijk is, ook al komen er vaak opzeggingen voor. De anonieme werknemer die een ontslagbrief deelde, beschreef zijn overstap naar AI niet uit luiheid, maar als “een kleine opsteker” voor het werk dat ze vreugdeloos vonden.
Het rapport komt terecht in een breder debat over de arbeidsomstandigheden van de onzichtbare beroepsbevolking van de AI-industrie – de annotators, beoordelaars en recensenten wier arbeid ten grondslag ligt aan elk belangrijk model. Het roept ook ongemakkelijke vragen op voor de bredere economie: als de mensen die betaald worden om menselijk schrift te onderscheiden van machinaal schrift er moeite mee hebben om dit betrouwbaar te doen, en AI-detectoren onbetrouwbaar blijven volgens OpenAI's eigen inschatting, moeten werkgevers overal een grens bewaken die steeds moeilijker te zien is.
Voorlopig is het beleid binnen de trainingspijplijn van OpenAI duidelijk, en dat geldt ook voor de straf. Van werknemers die de resultaten van een van de meest capabele AI-systemen ter wereld beoordelen, wordt verwacht dat zij volledig, aantoonbaar menselijk zijn – en degenen die naar het instrument grijpen dat zij beoordelen, lopen het risico de baan te verliezen.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
