Výzkumníci z Google DeepMind veřejně odmítají pracovní smlouvy, které jim prý zakazují kritizovat společnost za rizika AI navždy – i poté, co skončí – a Google nyní připustil, že nebude vynucovat omezení po skončení pracovního poměru a již je odstranil z podmínek pro nové zaměstnance.
The Washington Post v úterý uvedl, že zaměstnanci DeepMind požadují svobodu říkat veřejnosti, co vědí o AI, a protestují proti tomu, co zpráva popisuje jako doživotní zákaz kritizovat společnost. Spor se rozvinul na interních fórech společnosti Google, než se dostal do veřejného mínění, a dotýká se jedné z nejspornějších otázek v odvětví umělé inteligence: zda zaměstnanci v laboratořích vytvářejících hraniční systémy mohou varovat vnější svět před riziky, kterých jsou při své práci svědky. For more context on this story, see our ongoing more AI stories.
Co říkají smlouvy
Podle zpráv listu Post obsahovaly smlouvy zaměstnanců DeepMind klauzule o neznevažování, které zaměstnance zavazují i po skončení jejich pracovního poměru. Za těchto podmínek by odcházející výzkumný pracovník, který veřejně kritizoval bezpečnostní praktiky společnosti Google – nebo jednoduše zveřejnil informace o systémech umělé inteligence společnosti – mohl teoreticky čelit právnímu nebezpečí po zbytek své kariéry.
Účastník interní diskuse popsal toto ujednání v komentářích citovaných čtenáři Hacker News diskutujícími o článku: smlouva zjevně obsahovala slova upřesňující, že výpověď nezbavuje zaměstnance povinnosti neznevažovat. Pro bezpečnostní výzkumníky, jejichž odborná hodnota často závisí na jejich schopnosti publikovat a mluvit otevřeně, je to forma trvalého umlčení.
Odpověď společnosti Google
Zdá se, že tlak přinesl výsledky. V pátek jednatel společnosti Google reagoval na interní diskusi o klauzuli o neznevažování a řekl, že společnost ji nebude vymáhat vůči pracovníkům, kteří ze společnosti odešli, uvádí Post.
V úterý zašel mluvčí Google ještě dále a řekl novinám v e-mailu: "Vždy jsme podporovali otevřený dialog o bezpečnosti a odpovědnosti." Mluvčí dodal: "Nedávno jsme aktualizovali naše podmínky pro nové nábory, které zahrnovaly odstranění aspektu neznevažování po ukončení smlouvy."
To je smysluplný ústupek. Klauzule o neznevážení po skončení pracovního poměru se staly bodem vzplanutí v technologickém průmyslu právě proto, že brání veřejnosti slyšet o problémech uvnitř společností poté, co zaměstnanci již odešli – ve chvíli, kdy mají jednotlivci nejméně ztráty a největší důvěryhodnost. Rozhodnutí společnosti Google odstranit komponentu po ukončení smlouvy ze smluv s novými nájemci naznačuje, že společnost usoudila, že náklady na reputaci na obranu doložek jsou vyšší než jakákoli výhoda týkající se důvěrnosti, kterou poskytla.
Dlouhodobé napětí v laboratořích AI
Spor zapadá do vzoru, který se odehrává napříč odvětvím umělé inteligence. Výzkumníci v oblasti bezpečnosti se opakovaně ocitli v pasti mezi závazky mlčenlivosti vůči svým zaměstnavatelům a přesvědčením, že veřejnost si zaslouží vědět o rizicích, která představují systémy schopnější než cokoli dříve nasazeného.
Samotná DeepMind zaznamenala výrazné odklony spojené s bezpečnostními obavami a konkurenční laboratoře čelily svým vlastním vysoce postaveným rezignacím od výzkumníků, kteří uvedli, že již nemohou mlčet o tom, jak jejich zaměstnavatelé přistupují k riziku. Zaměstnanecké petice a otevřené dopisy se staly opakujícím se mechanismem, jehož prostřednictvím se zaměstnanci laboratoří AI snaží ovlivnit chování svých společností – ohledně vojenských zakázek, bezpečnostních závazků a transparentnosti.
Protest DeepMind dodává této dynamice nový právní rozměr: spíše než zpochybňování toho, co společnost buduje, zaměstnanci zpochybňují smluvní mašinerii, která řídí, zda o tom mohou vůbec mluvit. Pracovní právníci poznamenávají, že vymahatelnost širokých doložek o neznevažování se liší podle jurisdikce a regulační orgány ve Spojených státech již dříve zasáhly proti společnostem, které k umlčení odcházejících pracovníků používaly příliš široké dohody o oddělení.
Rozhoduje také načasování. Google soutěží o talenty na výzkum AI s OpenAI, Anthropic, Meta a rostoucí kohortou dobře financovaných startupů a výzkumníci, kteří s největší pravděpodobností zváží rizikové otázky, jsou ty nejcitlivější, zda by vůbec mohli veřejně mluvit o tom, co vidí. Společnost známá tím, že roubí bývalé zaměstnance, čelí tvrdšímu náboru přesně těchto kandidátů – komerční kalkulace, která možná zavážila při rozhodnutí Googlu aktualizovat své podmínky tak rychle.
Proč na tom záleží
Společnosti Frontier AI zaujímají neobvyklé postavení. Zaměstnávají některé z mála lidí na Zemi s praktickými znalostmi nejschopnějších systémů umělé inteligence, ale tito zaměstnanci jsou obvykle vázáni hustými dohodami o mlčenlivosti, které přetrvají jejich zaměstnání. Pokud je každý věrohodný svědek interních bezpečnostních postupů laboratoře právně zakázaný mluvit, závisí veřejný záznam zcela na tom, co se společnosti rozhodnou o sobě zveřejnit.
To je důvod, proč výsledek tohoto sporu přesahuje Google. To, jak společnosti s umělou inteligencí omezují – nebo chrání – budoucí projev svých výzkumníků, může ovlivnit, zda se varování o výkonných systémech dostanou k regulačním orgánům, novinářům a veřejnosti dostatečně brzy, aby na tom záleželo, nebo dorazí až zpětně. Koncese společnosti Google odstraňuje jednu doživotní klauzuli o roubíku z podmínek nového nájmu; To, zda se stávajícím zaměstnancům dostane rovnocenné srozumitelnosti, zůstává prozatím otevřenou otázkou, kterou si kladou lidé, kteří tam pracují.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
