Исследователи из Google DeepMind публично выступают против трудовых договоров, которые, по их словам, запрещают им критиковать компанию по поводу рисков искусственного интеллекта навсегда — в том числе после того, как они уйдут — и Google теперь уступил, заявив, что не будет обеспечивать соблюдение ограничений после трудоустройства и уже удалил их из условий для новых сотрудников.

Газета Washington Post сообщила во вторник, что сотрудники DeepMind требуют свободы рассказывать публике все, что они знают об ИИ, протестуя против того, что в отчете описывается как пожизненный запрет на критику компании. Спор разворачивался на внутренних форумах Google, а затем стал достоянием общественности и затрагивает один из самых спорных вопросов в индустрии искусственного интеллекта: могут ли сотрудники лабораторий, создающих передовые системы, предупреждать внешний мир о рисках, с которыми они сталкиваются на работе. Подробнее об этой истории — в нашем новости об ИИ.

Что говорится в контрактах

Согласно сообщению Post, контракты сотрудников DeepMind включают положения о неунижении достоинства, которые продолжают связывать работников даже после окончания их работы. В таких условиях уходящий исследователь, который публично раскритиковал методы безопасности Google — или просто раскрыл информацию о системах искусственного интеллекта компании — теоретически может столкнуться с юридическим преследованием до конца своей карьеры.

Участник внутренней дискуссии описал эту договоренность в комментариях, цитируемых читателями Hacker News, обсуждавшими статью: контракт, по-видимому, включал формулировку, указывающую, что увольнение не освобождает сотрудника от обязательства не унижать достоинство. Для исследователей безопасности, чья профессиональная ценность часто зависит от их способности публиковаться и говорить открыто, эффектом является своего рода постоянное замалчивание.

Ответ Google

Похоже, давление дало результаты. В пятницу руководитель Google ответил на внутреннюю дискуссию по поводу положения о неунижении и заявил, что компания не будет применять его в отношении сотрудников, покинувших компанию, сообщает Post.

Ко вторнику представитель Google пошел еще дальше, сообщив газете в электронном письме: «Мы всегда поощряли открытый диалог о безопасности и ответственности». Представитель добавил: «Недавно мы обновили наши условия для новых сотрудников, включая удаление положений о неунижении достоинства после увольнения».

Это значимая уступка. Положения о неунижении достоинства после трудоустройства стали горячей точкой во всей технологической отрасли именно потому, что они не позволяют общественности услышать о проблемах внутри компаний после того, как сотрудники уже ушли — момент, когда людям есть что терять меньше всего и больше всего доверия. Решение Google исключить компонент после увольнения из контрактов с новыми сотрудниками позволяет предположить, что компания посчитала, что репутационные издержки защиты этих положений выше, чем любые преимущества конфиденциальности, которые они предоставляют.

Длительная напряженность в лабораториях искусственного интеллекта

Спор соответствует модели, которая наблюдается во всей передовой индустрии искусственного интеллекта. Исследователи безопасности неоднократно оказывались между обязательствами по соблюдению конфиденциальности перед своими работодателями и убеждением, что общественность заслуживает знать о рисках, создаваемых системами, более эффективными, чем все, что применялось ранее.

Сама DeepMind стала свидетелем заметных отклонений, связанных с проблемами безопасности, а конкурирующие лаборатории столкнулись с громкими увольнениями исследователей, которые заявили, что больше не могут хранить молчание о том, как их работодатели подходят к риску. Петиции и открытые письма сотрудников стали постоянным механизмом, с помощью которого сотрудники лабораторий искусственного интеллекта пытаются влиять на поведение своих компаний — на военные контракты, на обязательства по безопасности и на прозрачность.

Протест DeepMind добавляет новое юридическое измерение к этой динамике: вместо того, чтобы оспаривать то, что строит компания, сотрудники оспаривают договорной механизм, который регулирует, могут ли они когда-либо говорить об этом. Юристы по трудовому праву отмечают, что возможность исполнения общих положений о неущемлении достоинства варьируется в зависимости от юрисдикции, и регулирующие органы в Соединенных Штатах ранее выступали против компаний, которые использовали слишком широкие соглашения о прекращении трудового договора, чтобы заставить замолчать увольняющихся работников.

Время также имеет значение. Google конкурирует за талантливых исследователей ИИ с OpenAI, Anthropic, Meta и растущей группой хорошо финансируемых стартапов, и исследователи, которые, скорее всего, взвесят вопросы о рисках, наиболее чувствительны к тому, смогут ли они когда-либо говорить публично о том, что они видят. Компания, известная тем, что затыкает рот бывшим сотрудникам, столкнулась с более жесткими условиями набора именно этих кандидатов — коммерческий расчет, который, возможно, повлиял на решение Google так быстро обновить свои условия.

Почему это важно

Компании Frontier AI занимают необычное положение. В них работают одни из немногих людей на Земле, обладающих практическими знаниями о наиболее эффективных системах искусственного интеллекта, однако эти сотрудники, как правило, связаны жесткими соглашениями о конфиденциальности, которые действуют дольше, чем их работа. Если каждому заслуживающему доверия свидетелю соблюдения внутренней безопасности в лаборатории по закону запрещено высказываться, публичная отчетность будет полностью зависеть от того, что компании решат раскрыть о себе.

Именно поэтому исход этого спора выходит за рамки Google. То, как компании, занимающиеся искусственным интеллектом, ограничивают или защищают будущие высказывания своих исследователей, может определить, дойдут ли предупреждения о мощных системах до регуляторов, журналистов и общественности достаточно рано, чтобы иметь значение, или же они поступят только в ретроспективе. Уступка Google исключает один пункт о пожизненном запрете из условий найма новых сотрудников; получают ли существующие сотрудники такую ​​же ясность, на данный момент остается открытым вопросом, поднятым людьми, которые там работают.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →