Pracovníci v divizi umělé inteligence společnosti Google tlačí na vedoucí pracovníky, aby je osvobodili od dohod o neznevažování, argumentujíc tím, že podle exkluzivní zprávy The Washington Post od Gerrita De Vyncka, která cituje lidi uvnitř společnosti, musí mít možnost informovat veřejnost o rizicích technologií, na jejichž rozvoji pracují.
Podtitul zprávy omezuje jádro stížnosti: "Pracovní smlouvy odrazují zaměstnance od varování veřejnosti před riziky AI," řekli současní pracovníci. Následné pokrytí příběhu popsalo klauzule jako doživotní zákaz kritizovat Google, přičemž titulky napříč agregátory a mezinárodními portály spor charakterizovaly jako „Zaměstnanci DeepMind protestují proti doživotnímu zákazu kritizovat Google“ a konkrétněji dva zaměstnanci DeepMind žádají Google, aby zrušil to, čemu říkají doživotní gag. Další kontext k tomuto příběhu naleznete v našich probíhajících přelomových zprávách o AI.
Co dělníci požadují
Podle zpráv chtějí zaměstnanci společnosti Google DeepMind – divize Alphabet, která stojí za velkou částí hraničního výzkumu společnosti AI –, aby je vedení zbavilo smluvních závazků neznevažování, aby mohli otevřeně mluvit o bezpečnostních obavách spojených se systémy, které vytvářejí, aniž by čelili právní odvetě.
Jak shrnuje zpráva, dotyčné dohody zavazují zaměstnance k mlčení nejen o firemních postupech, ale také o technologických rizicích a interních rozhodnutích, která utvářejí způsob, jakým systémy umělé inteligence pronikají do světa. Argument pracovníků je přímočarý: lidé, kteří jsou technologii nejblíže, a tedy nejblíže jejím způsobům selhání, jsou smluvně omezeni, aby veřejnosti sdělovali, co vědí.
Podle následného pokrytí Google neřešil konkrétní požadavky. Zpráva Washington Post připisuje účet sporu současným pracovníkům uvnitř společnosti spíše než oficiálnímu prohlášení společnosti Google a odpověď společnosti, pokud existuje, zůstává nejdůležitější otevřenou otázkou v příběhu.
Proč je to důležité pro bezpečnost AI
Spor se dostává do citlivého okamžiku pro průmysl AI. Debata o tom, kolik by měly hraniční laboratoře prozradit – o schopnostech, potenciálu zneužití a interním testování – se zintenzivnila s tím, jak jsou modely stále schopnější a ekonomicky výhodnější. Pokud lidé vykonávající práci nemohou veřejně kritizovat praktiky svého zaměstnavatele, tvrdí kritici, veřejnost a tvůrci politik ztrácejí jeden z mála kanálů včasného varování, které mají.
Historie oboru nabízí jasný precedens. Geoffrey Hinton, který strávil více než deset let ve společnosti Google a jehož výzkum neuronových sítí podporuje moderní boom umělé inteligence, společnost v roce 2023 výslovně opustil, aby mohl volně mluvit o rizicích umělé inteligence. Tento týden šel ještě dále, řekl The Guardian, že by se mohlo ukázat, že by bylo lepší, kdyby lidstvo AI nevyvíjelo, a varoval před AI „Chornobylem“ – jako je útok s umělou inteligencí způsobující masivní výpadek napájení nebo týdenní selhání finančního systému – který dorazí letos nebo příští rok.
Hinton mohl mluvit, protože odešel. Naproti tomu pracovníci DeepMind se snaží změnit podmínky, aby nemuseli dělat stejnou volbu mezi kariérou a hlasem.
Transparentnost-verzus-tajný obchod
Spor odráží strukturální napětí v odvětví AI. Společnosti argumentují tím, že restriktivní pracovní podmínky chrání obchodní tajemství, zabraňují zavádějícím tvrzením a brání tomu, aby se vnitřní neshody v polovině vývoje rozšířily na veřejnost. Zaměstnanci a zastánci bezpečnosti namítají, že stejné termíny mohou skrývat skutečná nebezpečí – a že společnost, která je přesvědčena o svých bezpečnostních postupech, se informovaných interních kritiků nemusí bát.
Zpráva Washington Post uvádí záležitost jako jednu z pobídek: pracovní smlouvy, slovy současných pracovníků citovaných listem, odrazují zaměstnance od varování veřejnosti před riziky AI. Tento rámec činí spor větší než personální politika jedné společnosti. Je to test, zda primárním zdrojem informací veřejnosti o rizicích AI na hranicích bude vlastní marketing laboratoří, nebo lidé uvnitř těchto laboratoří s přímými znalostmi.
Co říká komunita vývojářů
Diskuse o zprávě se rychle dostala na titulní stránku Hacker News, kde se komentátoři rozdělili kvůli etice situace. Nejhlasitější tvrzení tvrdilo, že omezení pracovníci by měli jednoduše chodit: "Měli by skončit a varovat. Cokoli jiného je pokrytecké." Jiní zatlačili a poznamenali, že zaměstnanci nejsou povinni podstupovat mučednici své kariéry a že kolektivní smluvní reforma je realističtější cestou než individuální odchod.
Tato debata – přestaňte, zůstaňte a zatlačte, nebo zůstaňte zticha – je přesně tím svazkem, o kterém dělníci říkají, že se snaží uniknout.
Na co se dívat
Kam to půjde, rozhodnou tři věci. Zaprvé, zda Google žádost uznává, a co je důležitější, zda na ní jedná – odpověď společnosti na konkrétní požadavky zatím v záznamu chybí. Za druhé, zda pracovníci eskalují, například tím, že se veřejně organizují nebo se obrátí na regulační orgány, pokud je odpověď ne. A za třetí, zda ostatní hraniční laboratoře čelí podobnému tlaku; pokud jsou v tomto odvětví běžné termíny neznevažování, spor DeepMind by se mohl stát šablonou pro organizaci práce zaměřenou na transparentnost umělé inteligence.
Pro tuto chvíli je novinkou samotná žádost: skupina výzkumníků, kteří jsou přímo a denně vystaveni hraničním systémům umělé inteligence, se domnívá, že veřejný zájem vyžaduje jejich hlasy, a formálně požádala o povolení je používat. To, jak Google odpoví, napoví mnohé o tom, kolik nesouhlasu je hraniční AI rasa připravena tolerovat.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
