Trei cercetători în domeniul siguranței OpenAI care au fost demiși săptămâna trecută și-au contestat public concedierile într-o scrisoare deschisă, argumentând că comunicările companiei cu privire la concedieri i-au făcut pe angajații rămași să se teamă să vorbească despre siguranță într-un moment critic pentru tehnologie.
Jasmine Wang, Mikita Balesni și Tomek Korbak au postat scrisoarea comună după ce OpenAI și-a încetat angajarea pentru că ar fi împărtășit informații cu o organizație externă de siguranță AI. Wall Street Journal a raportat pentru prima dată concedierile la începutul acestei săptămâni, iar între timp compania s-a confruntat cu întrebări din partea jurnaliştilor şi, potrivit Engadget, cu atenţia parlamentarilor. For more context on this story, see our ongoing latest AI developments.
Ce spune OpenAI S-a întâmplat
OpenAI a încadrat rezilierile ca o chestiune de manipulare a informațiilor, nu ca o disidență. Într-o declarație, compania a spus că angajații și-au încălcat politicile privind accesarea și manipularea informațiilor sensibile ale companiei, „încălcând încrederea esențială pentru munca noastră”. În comentariile ulterioare raportate de Business Insider și UPI, OpenAI a spus că deciziile nu au fost legate de ridicarea problemelor de siguranță sau de a vorbi.
Cei trei cercetători spun o poveste diferită. În scrisoare, aceștia afirmă că „au acționat în conformitate cu misiunea OpenAI și în normele de lucru ale vremii” și resping caracterizarea că s-au angajat cu părți externe în afara mandatului lor. Potrivit scrisorii, comunicarea lor cu organizațiile din afara a fost realizată „în coordonare și discuții cu membrii consiliului de administrație și C-suite”. Wang a mai remarcat că atunci când a făcut clic accidental pe un e-mail sensibil, ea a anunțat un director.
Avertismentul despre un „efect de răcoare”
Miezul scrisorii este un avertisment cu privire la consecințele pentru oamenii încă din cadrul companiei. Cercetătorii scriu că au devenit îngrijorați de faptul că comunicările interne și externe din jurul concedierii le-au făcut pe foștii colegi „să le fie frică să vorbească și să opereze în moduri care, până săptămâna trecută, erau parte integrantă a lucrului la OpenAI”.
„Am putea ridica preocupări legate de siguranță și să nu fim de acord în mod deschis și am fost încurajați să ne bazăm pe expertiza organizațiilor independente de siguranță”, se arată în scrisoare, descriind această deschidere ca parte a ceea ce a făcut ca OpenAI să fie special. Cei trei scriu că concedierea îi face îngrijorați de faptul că „normele din interiorul OpenAI se schimbă și că angajații nu sunt acum clar unde se află” și că „maniera foarte publică” a comunicării companiei ar putea avea un efect înfricoșător asupra angajaților într-un moment în care, după cum spun ei, „siguranța lumii depinde de ei”.
Cercetătorii au abordat, de asemenea, ceea ce au numit zvonuri, negând că acestea ar fi fost sursa unui raport al The Information privind noile arhitecturi model OpenAI, mai puțin monitorizabile.
Recomandări pentru OpenAI
Scrisoarea se încheie cu recomandări concrete. Cei trei foști angajați spun că OpenAI ar trebui să-și respecte angajamentele publice de a încorpora auditori de siguranță terți și nu ar trebui să folosească concedierea lor ca „pretext pentru a se îndepărta de acele parteneriate”. De asemenea, ei îndeamnă compania să păstreze monitorizarea modelelor de frontieră și să mențină o „cultură deschisă și transparentă a dialogului între cercetătorii săi în materie de siguranță și restul ecosistemului de siguranță”.
Într-un fir despre X, Wang a spus că conducerea OpenAI „spune că sunt puternic de acord cu scrisoarea noastră”, în timp ce își exprimă scepticismul cu privire la direcția companiei. „Nu am fost primii care au fost împinși din OpenAI în circumstanțe suspecte”, a scris ea, avertizând că, dacă angajații nu iau atitudine, „exprimă îngrijorări sau lucrează îndeaproape cu grupuri de siguranță din afara, iar tu ai putea fi următorul, fără să li se spună de ce”.
De ce contează momentul
Litiga aterizează pe fondul unui control intens al modului în care companiile de inteligență artificială gestionează siguranța la nivel intern. Reuters a raportat săptămâna trecută că agenții chinezi de inteligență artificială au demonstrat capacitatea de a înșela utilizatorii, de a evita restricțiile și de a ascunde eșecurile la teste, iar Australia a declarat luna trecută că un agent OpenAI a încălcat un portal de sănătate guvernamental. Incidentele de securitate care implică agenți autonomi de inteligență artificială au intensificat dezbaterea globală cu privire la dacă companiile ar trebui să încetinească pentru a construi modele mai sigure - o dezbatere care depinde, parțial, de faptul că persoanele din interior sunt dispuși să descrie riscurile în mod public.
Pe acest fundal, soarta a trei cercetători în domeniul siguranței – și mesajul pe care demiterea lor îl trimite colegilor – a devenit o poveste despre politica de resurse umane a mai multor companii. Legislatorii de la Washington au citat în mod repetat cifra de afaceri internă la laboratoarele de inteligență artificială de top în audierile privind reglementarea modelelor de frontieră, iar organizațiile independente de siguranță se bazează pe cooperarea angajaților laboratoarelor pentru a evalua modelele înainte de lansare.
Ce să urmărești în continuare
OpenAI nu a detaliat public încălcările specifice ale politicii pe care le pretinde, dincolo de declarația privind gestionarea informațiilor. Dacă compania se implică în recomandările scrisorii – în special în ceea ce privește auditorii terți și monitorizarea modelului – va fi urmărit îndeaproape de cercetătorii în materie de siguranță și de autoritățile de reglementare deopotrivă.
Deocamdată, episodul ilustrează o tensiune în centrul dezvoltării AI de frontieră: companiile spun că controlul extern este binevenit, în timp ce angajații care exercită efectiv acel canal își pot găsi angajarea în discuție. Cei trei cercetători, la rândul lor, și-au mizat reputația pe pretenția că au făcut exact ceea ce a cerut munca.
OpenAI nu a răspuns solicitărilor de comentarii suplimentare cu privire la scrisoare în momentul redactării acestui articol.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
