Согласно эксклюзивному отчету The Washington Post Геррита Де Винка, в котором цитируются люди внутри компании, сотрудники подразделения искусственного интеллекта Google требуют от руководителей освободить их от соглашений о неунижении, утверждая, что они должны иметь право информировать общественность о рисках технологии, над продвижением которой они работают.

Подзаголовок доклада отражает суть жалобы: «Трудовые договоры удерживают сотрудников от предупреждения общественности о рисках, связанных с ИИ, говорят нынешние работники». В последующем освещении этой истории эти положения описывались как пожизненный запрет на критику Google, а заголовки агрегаторов и международных СМИ описывали спор как «Сотрудники DeepMind протестуют против пожизненного запрета на критику Google», а точнее, два сотрудника DeepMind просят Google отменить то, что они называют пожизненной шуткой. Дополнительную информацию об этой истории можно найти в наших текущих последних новостях в области искусственного интеллекта.

Чего просят рабочие

Согласно отчету, сотрудники Google DeepMind — подразделения Alphabet, стоящего за большей частью передовых исследований компании в области искусственного интеллекта, — хотят, чтобы руководство освободило их от договорных обязательств по неунижению, чтобы они могли открыто говорить о проблемах безопасности, связанных с системами, которые они создают, не сталкиваясь с юридическими репрессиями.

Как следует из резюме отчета, рассматриваемые соглашения обязывают сотрудников хранить молчание не только о корпоративных практиках, но также о технологических рисках и внутренних решениях, которые определяют, как системы ИИ доходят до мира. Аргумент рабочих прост: люди, наиболее близкие к технологии и, следовательно, наиболее близкие к ее способам отказа, по контракту ограничены в возможности сообщать общественности то, что они знают.

Судя по последующим репортажам, Google не удовлетворил конкретные требования. Отчет Washington Post приписывает версию спора нынешним сотрудникам компании, а не официальному заявлению Google, и ответ компании, если таковой имеется, остается самым важным открытым вопросом в этой истории.

Почему это важно для безопасности ИИ

Спор возник в чувствительный момент для индустрии искусственного интеллекта. Споры о том, какую информацию должны раскрывать передовые лаборатории — о возможностях, возможном неправильном использовании и внутреннем тестировании — обострились по мере того, как модели становятся все более функциональными и экономически более значимыми. Критики утверждают, что если люди, выполняющие работу, не могут публично критиковать методы своего работодателя, общественность и политики теряют один из немногих имеющихся у них каналов раннего предупреждения.

История этой области предлагает яркий прецедент. Джеффри Хинтон, проработавший более десяти лет в Google и чьи исследования нейронных сетей лежат в основе современного бума искусственного интеллекта, покинул компанию в 2023 году специально для того, чтобы иметь возможность свободно говорить о рисках, связанных с искусственным интеллектом. На этой неделе он пошел еще дальше, заявив The Guardian, что, возможно, человечеству лучше никогда не разрабатывать ИИ, и предупредил о «Чернобыле» ИИ — например, атаке с использованием ИИ, вызывающей массовое отключение электроэнергии или недельный сбой финансовой системы — который появится в этом или следующем году.

Хинтон мог высказаться, потому что он ушел. Сотрудники DeepMind, напротив, пытаются изменить условия, чтобы им не приходилось делать одинаковый выбор между карьерой и голосом.

Торговля прозрачностью и секретностью

Спор отражает структурную напряженность в индустрии искусственного интеллекта. Компании утверждают, что ограничительные условия найма защищают коммерческую тайну, предотвращают вводящие в заблуждение заявления и не позволяют внутренним разногласиям вылиться на всеобщее обозрение на середине разработки. Сотрудники и защитники безопасности возражают, что одни и те же термины могут скрывать подлинные опасности, и что компании, уверенной в своих мерах безопасности, нечего бояться информированных внутренних критиков.

В отчете Washington Post этот вопрос рассматривается как один из стимулов: трудовые договоры, по словам нынешних работников, цитируемых газетой, удерживают сотрудников от предупреждения общественности о рисках, связанных с ИИ. Такая постановка делает спор более масштабным, чем кадровая политика одной компании. Это проверка того, будет ли основным источником информации для общественности о передовых рисках ИИ собственный маркетинг лабораторий или люди внутри этих лабораторий, обладающие непосредственными знаниями.

Что говорит сообщество разработчиков

Обсуждение отчета быстро достигло первой полосы Hacker News, где мнения комментаторов разделились по поводу этичности ситуации. Большинство сторонников высказалось за то, что вынужденные работники должны просто идти: «Они должны уволиться и предупредить. Все остальное — лицемерие». Другие выступили против, отметив, что сотрудники не обязаны жертвовать своей карьерой и что реформа коллективных договоров является более реалистичным путем, чем индивидуальный выход.

Эти дебаты — уйти, остаться и давить или молчать — это именно то препятствие, которого, по словам рабочих, они пытаются избежать.

Что посмотреть

Три вещи определят, куда это пойдет. Во-первых, подтверждает ли Google запрос и, что более важно, выполняет ли он его — ответ компании на конкретные требования пока отсутствует в записях. Во-вторых, если ответ отрицательный, будут ли рабочие вести эскалацию, например, организуясь публично или обращаясь к регулирующим органам. И в-третьих, сталкиваются ли с подобным давлением другие пограничные лаборатории; Если в отрасли будут распространены условия недопущения унижения, спор с DeepMind может стать шаблоном для профсоюзных организаций, ориентированных на прозрачность ИИ.

На данный момент сам запрос является новостью: группа исследователей, ежедневно непосредственно имеющих дело с передовыми системами искусственного интеллекта, считает, что общественные интересы требуют их голоса, и официально попросили разрешения использовать их. Ответы Google многое расскажут о том, сколько инакомыслия готова терпеть передовая раса ИИ.

---

Будьте впереди ИИ

Получайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.

Подробнее новости AI →