Le persone pagate per addestrare i modelli di OpenAI vengono licenziate per aver svolto il proprio lavoro con l'aiuto dell'intelligenza artificiale, secondo un rapporto di 404 Media basato su documenti interni e interviste con tre appaltatori.
L’ironia al centro della storia è tagliente. I ricercatori dell’intelligenza artificiale hanno messo in guardia dal “collasso del modello”, il degrado che si verifica quando i modelli vengono sempre più addestrati sul testo generato dall’intelligenza artificiale. Alcune delle persone assunte per prevenire tale risultato utilizzano esse stesse risposte generate dall'intelligenza artificiale per addestrare i modelli di OpenAI e l'apparato di revisione dell'azienda li sta attivamente dando la caccia. Per maggiori informazioni su questa storia, consulta la nostra notizie sull'IA.
"Praticamente l'unica cosa che ti farà espellere"
Un appaltatore ha detto a 404 Media di vedere i lavoratori usare l'intelligenza artificiale "tutto il tempo e le persone vengono lasciate andare tutto il tempo, è praticamente l'unica cosa che ti farà cacciare il prima possibile". La persona ha aggiunto che "su un gruppo di migliaia ce ne sono tonnellate che sono state catturate".
Il rapporto si basa sulla precedente rivelazione di 404 Media su Project Lily, uno sforzo OpenAI in cui centinaia di appaltatori leggono i messaggi e le conversazioni degli utenti reali di ChatGPT - che possono includere informazioni personali - quindi valutano e criticano le risposte del modello, compreso il controllo che le risposte non siano troppo servili o inclini ad antropomorfizzare il chatbot.
Il nuovo reporting si basa su ulteriori documenti interni e interviste con tre appaltatori che lavorano nei progetti OpenAI. Secondo un documento interno, questi progetti possono coinvolgere più di diecimila appaltatori.
Il regolamento: niente GPTZero, niente grammatica, niente intelligenza artificiale
I documenti esaminati da 404 Media non sono ambigui riguardo all’utilizzo degli strumenti. "Non utilizzare strumenti di rilevamento dell'intelligenza artificiale o l'intelligenza artificiale da soli", afferma un documento per gli appaltatori che esaminano il lavoro di altri appaltatori. "Non utilizzare GPTZero o qualsiasi altro strumento di rilevamento dell'intelligenza artificiale. Non sono affidabili. Anche i revisori non possono utilizzare l'intelligenza artificiale, inclusa la grammatica e la traduzione dell'intelligenza artificiale."
Lo stesso documento insegna ai revisori a rimanere silenziosi riguardo ai loro metodi: "Non dire ai valutatori perché sospetti l'intelligenza artificiale. È più facile per loro nascondersi se sanno cosa cerchi. Giudica il modello generale, non un indizio".
Tutti e tre gli appaltatori hanno affermato che ai revisori è stato richiesto di non utilizzare l’intelligenza artificiale nel loro lavoro e due hanno affermato che le persone sono state licenziate o espulse per averla utilizzata. 404 Media ha garantito l'anonimato agli appaltatori perché non era loro consentito parlare con la stampa.
Allora cosa tradisce un lavoratore? Secondo il rapporto, ai revisori viene chiesto di cercare segni rivelatori dell’uso dell’intelligenza artificiale: parole ripetitive, punteggiatura in stile intelligenza artificiale – incluso, a quanto pare, un uso eccessivo del trattino – e il lavoro viene completato in modo insolitamente rapido. Nei canali Slack in cui gli appaltatori scambiano consulenza, ha detto un appaltatore, le persone spesso pubblicano esempi chiedendo: "È questa l'intelligenza artificiale?"
Un appaltatore che ha ammesso di aver utilizzato l'intelligenza artificiale mentre aiutava ad addestrare i modelli di OpenAI ha condiviso ciò che ha presentato come lettera di licenziamento. Ha affermato che il loro datore di lavoro aveva identificato problemi con “l’autenticità” del loro lavoro.
"Non sono una persona cattiva o un lavoratore. Avevo solo bisogno di una piccola spinta e mi sono rivolto all'intelligenza artificiale per aiutarmi, cosa che alla fine mi ha portato alla rovina", ha detto l'appaltatore a 404 Media. "Non provavo gioia nel lavoro o nel fatto che stavo contribuendo in alcun modo alla società".
Il ruolo di Mercor e la catena di lavoro della formazione sull'intelligenza artificiale
Due degli appaltatori lavoravano per Mercor, una società di formazione sull'intelligenza artificiale che assume gli appaltatori che esaminano il materiale relativo a ChatGPT. Un portavoce di Mercor ha dichiarato a 404 Media in una dichiarazione che i suoi esperti sono assunti per la loro competenza e giudizio, che la società ha descritto come essenziali per il continuo progresso dell’intelligenza artificiale, e che i suoi contratti vietano severamente l’uso dell’intelligenza artificiale nel lavoro.
L’accordo evidenzia la struttura stratificata del lavoro dietro lo sviluppo dell’IA di frontiera. Aziende come OpenAI si affidano sempre più a fornitori specializzati, che a loro volta reclutano grandi gruppi di revisori freelance – migliaia per progetto – per valutare i risultati dei modelli, segnalare contenuti dannosi e mantenere le risposte con i piedi per terra. Il controllo di qualità in quella catena non viene applicato dal software ma da altri esseri umani che leggono i tell in "stile AI".
Perché esiste il divieto e perché è difficile da applicare
La logica del divieto è semplice: se gli esseri umani che valutano le risposte di ChatGPT esternalizzano i loro giudizi a ChatGPT stesso, il ciclo di feedback collassa. Le valutazioni smettono di riflettere le autentiche preferenze umane, il collasso dei modelli accelera e i dati di valutazione che guidano la formazione diventano circolari. Secondo quanto riferito, i documenti stessi di OpenAI riconoscono che gli strumenti di rilevamento dell'intelligenza artificiale sono inaffidabili, motivo per cui ai revisori viene detto di fare affidamento sul giudizio dei modelli piuttosto che sul software.
Ma applicare una regola che vieta l’uso dell’intelligenza artificiale a una forza lavoro composta da migliaia di liberi professionisti, assunti tramite intermediari e pagati per attività, crea le proprie pressioni. Gli appaltatori hanno detto a 404 Media che l'uso dell'intelligenza artificiale è comune anche se i licenziamenti sono frequenti, e il lavoratore anonimo che ha condiviso una lettera di licenziamento ha descritto il ricorso all'intelligenza artificiale non per pigrizia ma come "una piccola spinta" per il lavoro che trovava senza gioia.
Il rapporto si colloca nel mezzo di un dibattito più ampio sulle condizioni di lavoro della forza lavoro invisibile del settore dell’intelligenza artificiale: gli annotatori, i valutatori e i revisori il cui lavoro è alla base di ogni modello principale. Ciò solleva anche domande scomode per l’economia più ampia: se le persone pagate per distinguere la scrittura umana da quella meccanica faticano a farlo in modo affidabile, e i rilevatori di intelligenza artificiale rimangono inaffidabili secondo la valutazione di OpenAI, i datori di lavoro di tutto il mondo si ritroveranno a vigilare su un confine che è sempre più difficile da vedere.
Per ora, la politica all'interno del processo di formazione di OpenAI è chiara, così come lo è la sanzione. Ci si aspetta che i lavoratori che valutano i risultati di uno dei sistemi di intelligenza artificiale più potenti al mondo siano interamente e verificabilmente umani – e coloro che prendono in mano lo strumento che stanno valutando rischiano di perdere il lavoro.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
