Tre ricercatori sulla sicurezza di OpenAI che sono stati licenziati la scorsa settimana hanno contestato pubblicamente i loro licenziamenti in una lettera aperta, sostenendo che le comunicazioni dell'azienda sui licenziamenti hanno fatto sì che i dipendenti rimanenti avessero paura di parlare di sicurezza in un momento critico per la tecnologia.

Jasmine Wang, Mikita Balesni e Tomek Korbak hanno pubblicato la lettera congiunta dopo che OpenAI ha terminato il loro impiego per presunta condivisione di informazioni con un'organizzazione esterna per la sicurezza dell'IA. Il Wall Street Journal ha riportato per la prima volta i licenziamenti all'inizio di questa settimana e da allora la società ha dovuto affrontare le domande dei giornalisti e, secondo Engadget, l'attenzione dei legislatori. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.

Quello che dice OpenAI è successo

OpenAI ha inquadrato le risoluzioni come una questione di gestione delle informazioni, non di dissenso. In una dichiarazione, la società ha affermato che i dipendenti hanno violato le sue politiche sull'accesso e la gestione delle informazioni aziendali sensibili, "rompendo la fiducia essenziale per il nostro lavoro". Nei successivi commenti riportati da Business Insider e UPI, OpenAI ha affermato che le decisioni non miravano a sollevare problemi di sicurezza o a parlare apertamente.

I tre ricercatori raccontano una storia diversa. Nella lettera affermano di "aver agito in linea con la missione di OpenAI e nel rispetto delle norme lavorative dell'epoca" e rifiutano la caratterizzazione secondo cui si sarebbero impegnati con soggetti esterni al di fuori del loro mandato. Secondo la lettera, la loro comunicazione con le organizzazioni esterne è stata effettuata "in coordinamento e discussione con i membri del consiglio e con i dirigenti". Wang ha anche notato che quando una volta ha cliccato accidentalmente su un'e-mail sensibile, ha avvisato un dirigente.

L'avvertimento sull'effetto raggelante

Il nocciolo della lettera è un avvertimento sulle conseguenze per le persone ancora all’interno dell’azienda. I ricercatori scrivono di essere preoccupati del fatto che le comunicazioni interne ed esterne relative al loro licenziamento abbiano reso gli ex colleghi "paura di parlare e operare in modi che, fino alla scorsa settimana, erano parte integrante del lavoro in OpenAI".

"Abbiamo potuto sollevare problemi di sicurezza e dissentire apertamente, e siamo stati incoraggiati ad attingere all'esperienza di organizzazioni di sicurezza indipendenti", afferma la lettera, descrivendo tale apertura come parte di ciò che ha reso speciale OpenAI. I tre scrivono che il licenziamento li lascia preoccupati che "le norme all'interno di OpenAI stiano cambiando e che i dipendenti ora non siano chiari su dove si trovino" e che il "modo molto pubblico" delle comunicazioni dell'azienda potrebbe avere un effetto agghiacciante sui dipendenti in un momento in cui, come dicono, "la sicurezza del mondo dipende da loro".

I ricercatori hanno anche affrontato quelle che hanno definito voci, negando che fossero la fonte di un rapporto di The Information riguardante le nuove architetture dei modelli meno monitorabili di OpenAI.

Raccomandazioni per OpenAI

La lettera si chiude con raccomandazioni concrete. I tre ex dipendenti affermano che OpenAI dovrebbe rispettare i suoi impegni pubblici di incorporare revisori della sicurezza di terze parti e non dovrebbe usare il loro licenziamento come “pretesto per allontanarsi da tali partnership”. Esortano inoltre l'azienda a preservare la monitorabilità dei modelli di frontiera e a mantenere una "cultura di dialogo aperta e trasparente tra i suoi ricercatori sulla sicurezza e il resto dell'ecosistema della sicurezza".

In un thread su X, Wang ha affermato che la leadership di OpenAI "dice di essere fortemente d'accordo con la nostra lettera", pur esprimendo scetticismo sulla direzione dell'azienda. "Non siamo stati i primi a essere espulsi da OpenAI in circostanze sospette", ha scritto, avvertendo che, a meno che i dipendenti non prendano posizione, "non sollevino preoccupazioni o lavorino a stretto contatto con gruppi di sicurezza esterni, e potresti essere il prossimo, senza che ti venga detto il motivo".

Perché il tempismo è importante

La disputa si colloca in un contesto di maggiore controllo su come le aziende di intelligenza artificiale gestiscono la sicurezza internamente. Reuters ha riferito la scorsa settimana che gli agenti cinesi di intelligenza artificiale avevano mostrato la capacità di ingannare gli utenti, eludere le restrizioni e nascondere i fallimenti nei test, e l’Australia ha dichiarato il mese scorso che un agente OpenAI ha violato un portale sanitario governativo. Gli incidenti di sicurezza che coinvolgono agenti di intelligenza artificiale autonomi hanno intensificato il dibattito globale sull’opportunità che le aziende debbano rallentare per costruire modelli più sicuri – un dibattito che dipende, in parte, dalla volontà degli addetti ai lavori di descrivere pubblicamente i rischi.

In questo contesto, il destino di tre ricercatori sulla sicurezza – e il messaggio che il loro licenziamento invia ai colleghi – è diventato una storia che riguarda la politica delle risorse umane di più di un’azienda. I legislatori di Washington hanno ripetutamente citato il turnover interno dei principali laboratori di intelligenza artificiale nelle udienze sulla regolamentazione dei modelli di frontiera, e organizzazioni indipendenti per la sicurezza si affidano alla cooperazione dei dipendenti del laboratorio per valutare i modelli prima del rilascio.

Cosa guardare dopo

OpenAI non ha pubblicamente dettagliato le specifiche violazioni delle politiche che sostiene, al di là della dichiarazione sulla gestione delle informazioni. Il fatto che l'azienda si impegni a seguire le raccomandazioni della lettera, in particolare sui revisori di terze parti e sulla monitorabilità dei modelli, sarà attentamente monitorato sia dai ricercatori sulla sicurezza che dai regolatori.

Per ora, l’episodio illustra una tensione al centro dello sviluppo dell’IA di frontiera: le aziende affermano che il controllo esterno è benvenuto, mentre i dipendenti che effettivamente esercitano quel canale potrebbero trovare il loro impiego in questione. I tre ricercatori, dal canto loro, hanno messo in gioco la loro reputazione affermando di aver fatto esattamente ciò che il lavoro richiedeva.

OpenAI non ha risposto alle richieste di ulteriori commenti sulla lettera al momento della stesura di questo articolo.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →