Cercetătorii de la Google DeepMind resping în mod public contractele de muncă despre care spun că le interzic să critice pentru totdeauna compania cu privire la riscurile legate de inteligența artificială – inclusiv după ce au demisionat – iar Google a cedat acum teren, spunând că nu va aplica restricțiile postangajare și că le-a eliminat deja din termenii pentru noi angajări.
Washington Post a raportat marți că personalul DeepMind cere libertatea de a spune publicului ceea ce știu despre inteligența artificială, protestând față de ceea ce raportul descrie drept o interdicție pe viață de a critica compania. Disputa s-a desfășurat pe forumurile interne la Google înainte de a se răspândi în viziunea publicului și atinge una dintre cele mai contestate întrebări din industria AI: dacă angajații de la laboratoarele care construiesc sisteme de frontieră pot avertiza lumea exterioară despre riscurile la care sunt martori la locul de muncă. For more context on this story, see our ongoing more AI stories.
Ce spun contractele
Potrivit raportării Postului, contractele angajaților DeepMind au inclus clauze de non-dispreț care continuă să îi oblige pe lucrători chiar și după încheierea angajării. În astfel de condiții, un cercetător plecat care a criticat public practicile de siguranță ale Google – sau pur și simplu a dezvăluit informații despre sistemele AI ale companiei – ar putea, teoretic, să se confrunte cu expunerea legală pentru tot restul carierei.
Un participant la discuția internă a descris aranjamentul în comentarii citate de cititorii Hacker News care discutau despre articol: se pare că contractul includea un limbaj care specifica că renunțarea nu eliberează un angajat de obligația de a ne disprețui. Pentru cercetătorii în materie de siguranță, a căror valoare profesională depinde adesea de capacitatea lor de a publica și de a vorbi deschis, efectul este o formă de tăcere permanentă.
Răspunsul Google
Presiunea pare să fi produs rezultate. Vineri, un director Google a răspuns la discuția internă despre clauza de non-dispreț și a spus că compania nu o va aplica împotriva lucrătorilor care au părăsit compania, potrivit Post.
Până marți, un purtător de cuvânt al Google a mers mai departe, spunând ziarului într-un e-mail: „Întotdeauna am încurajat un dialog deschis despre siguranță și responsabilitate”. Purtătorul de cuvânt a adăugat: „Recent, ne-am actualizat condițiile pentru noile angajări, care includeau eliminarea aspectului post-încetare a clauzelor de non-dispreț”.
Aceasta este o concesie semnificativă. Clauzele de non-dispreț post-angajare au devenit un punct de foc în industria tehnologiei tocmai pentru că împiedică publicul să audă despre problemele din interiorul companiilor după ce angajații au plecat deja - momentul în care indivizii au cel mai puțin de pierdut și cea mai mare credibilitate. Decizia Google de a scoate componenta post-terminare din contractele de nou-închiriere sugerează că compania a considerat că costul reputațional al apărării clauzelor este mai mare decât orice beneficiu de confidențialitate pe care l-au oferit.
O tensiune de lungă durată la AI Labs
Disputa se potrivește unui model care s-a desfășurat peste industria de frontieră AI. Cercetătorii în domeniul siguranței s-au trezit în mod repetat prinși între obligațiile de confidențialitate față de angajatori și convingerea că publicul merită să știe despre riscurile prezentate de sisteme mai capabile decât orice implementat anterior.
DeepMind în sine a văzut plecări proeminente legate de preocupări legate de siguranță, iar laboratoarele rivale s-au confruntat cu propriile demisii importante din partea cercetătorilor care au spus că nu mai pot rămâne tăcuți despre modul în care angajatorii lor abordează riscul. Petițiile angajaților și scrisorile deschise au devenit un mecanism recurent prin care personalul din laboratorul de inteligență artificială încearcă să influențeze comportamentul companiilor lor - în ceea ce privește contractele militare, angajamentele de siguranță și transparența.
Protestul DeepMind adaugă o nouă dimensiune juridică acestei dinamici: în loc să conteste ceea ce construiește compania, angajații contestă mecanismele contractuale care guvernează dacă ar putea vorbi vreodată despre asta. Avocații de ocupare a forței de muncă observă că aplicabilitatea clauzelor largi de non-dispreț variază în funcție de jurisdicție, iar autoritățile de reglementare din Statele Unite au luat măsuri anterior împotriva companiilor care au folosit acorduri de separare prea largi pentru a reduce la tăcere lucrătorii care pleacă.
Contează și momentul. Google concurează pentru talentul de cercetare AI împotriva OpenAI, Anthropic, Meta și a unei cohorte în creștere de startup-uri bine finanțate, iar cercetătorii cel mai probabil să cântărească întrebările de risc sunt cei mai sensibili dacă ar putea vreodată să vorbească public despre ceea ce văd. O companie cunoscută pentru că îi atrage foștii angajați se confruntă cu un argument mai greu de recrutare pentru exact acești candidați – un calcul comercial care ar fi putut să fi influențat decizia Google de a-și actualiza termenii atât de repede.
De ce contează
Companiile de frontieră AI ocupă o poziție neobișnuită. Ei angajează pe câțiva dintre puținii oameni de pe Pământ cu cunoștințe practice despre cele mai capabile sisteme AI, dar acești angajați sunt, de obicei, legați de acorduri dense de confidențialitate care durează mai mult decât angajarea lor. Dacă fiecare martor credibil al practicilor interne de siguranță a unui laborator este constrâns din punct de vedere legal să vorbească, evidența publică depinde în întregime de ceea ce companiile aleg să dezvăluie despre ele însele.
De aceea, rezultatul acestei dispute se extinde dincolo de Google. Modul în care companiile de inteligență artificială constrâng – sau protejează – discursul viitor al cercetătorilor lor poate determina dacă avertismentele despre sisteme puternice ajung la autoritățile de reglementare, jurnaliştii și publicul suficient de devreme pentru a conta, sau ajung doar în retrospectivă. Concesiunea Google elimină o clauză de garanție pe viață din termenii săi de angajare nouă; dacă angajații existenți primesc o claritate echivalentă rămâne, deocamdată, întrebarea deschisă ridicată de oamenii care lucrează acolo.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
