Генеральный директор Proton Энди Йен отменил спорный план компании по «повторному собеседованию» сотрудников по поводу использования ими искусственного интеллекта, чтобы решить, кто сохранит их рабочие места, заявив сотрудникам на общем собрании в пятницу, что повторные собеседования «уже послужили своей цели». Изменение произошло на следующий день после того, как 404 Media опубликовало расследование агрессивного внутреннего продвижения искусственного интеллекта в компании, занимающейся конфиденциальностью, и многие сотрудники по-прежнему не убеждены, что это означает реальные изменения.
Proton, швейцарская компания, стоящая за Proton Mail, вызвала резкую критику после того, как 404 Media сообщила на прошлой неделе, что планирует провести повторное собеседование с сотрудниками по поводу использования ими искусственного интеллекта, результаты которого будут связаны с продолжением трудоустройства. AI Buzz Wire рассказал об первоначальном плане повторного интервью, когда о нем впервые сообщалось, в рамках [нашего постоянного освещения индустрии искусственного интеллекта] (https://aibuzzwire.news). В новом отчете, основанном на беседах с восемью нынешними и одним бывшим сотрудником, а также на чатах Slack, аудиосовещаниях совещаний и внутреннем манифесте по искусственному интеллекту, написанном техническим директором Proton Бартом Батлером, описывается компания, которая продвигает внедрение искусственного интеллекта быстрее, чем это было удобно ее сотрудникам службы безопасности, что обусловлено, по крайней мере частично, целями по получению прибыли.
«Это чушь и мышление неудачника»
Самый цитируемый разговор в ходе расследования исходил от самого Йена. Когда сотрудник канала безопасности Proton в Slack призвал компанию потратить хотя бы несколько дней на пентест только что написанного кода перед его отправкой, Йен ответил в конце августа: «Это чушь и мышление неудачника. Конечно, возможно быть быстрым и безопасным. Перестаньте думать, [что это не так]».
В манифесте Батлера по искусственному интеллекту, опубликованном внутри компании, инженерам прямо говорилось: «Ваша старая работа ушла». Он написал, что неспособность внедрить ИИ представляет собой «экзистенциальную угрозу успеху самой миссии» — формулировка, которая резко противоречит общественному имиджу «Протона» как тщательного хранителя конфиденциальности пользователей.
Что Йен сказала сотрудникам
На пятничном общем собрании Йен открыл своего рода признание: «Я лично хочу признать, что с моей стороны произошел сбой в общении, и есть много вещей, о которых, вероятно, можно и нужно было сообщить по-другому», — сказал он, согласно 404 Media. Но он соединил извинения с обязательством продолжать основной натиск: «В дальнейшем я все равно буду настаивать».
Что касается самих повторных интервью, Йен сказал, что руководство собиралось в течение предыдущих двух дней, а также разговаривало с правлением Proton Foundation, в попечители которого входят Йен, веб-изобретатель сэр Тим Бернерс-Ли, профессор Карисса Велиц, Динчао Лу и Антонио Гамбарделла. «Они внимательно следят за ситуацией», — сказал Йен. Вывод: «Мы решили фактически отменить повторные интервью». Его обоснование: «Я думаю, что на самом деле, скажем так, непреднамеренно, они фактически уже выполнили свою задачу» — то есть сотрудники теперь говорят и изучают ИИ.
Батлер был более откровенен в отношении ошибки. «Эффективное и прагматичное использование ИИ не означает, что мы отказались от безопасности, хорошей архитектуры или надежных принципов разработки программного обеспечения», — сказал он, добавив, что Йену «необходимо и он взял на себя обязательство добиваться большего» в том, как он общается с сотрудниками. Позже на встрече, отвечая на комментарии сотрудника, он сказал: «Мы облажались, мы знаем, что облажались».
Сотрудники видят «контроль ущерба»
Реакция среди сотрудников «Протона», по данным 404 Media, разделилась. Один сотрудник отметил, что «некоторые довольны прогрессом. Другие считают, что это ничего не изменит, потому что для Энди [Йена] это не повлечет никаких последствий», добавив, что они «предпочли бы реальную ответственность со стороны руководства». Тот же сотрудник указал на то, что контрольный пакет акций Yen является структурным ограничением того, что может сделать совет директоров.
Другие отметили, что произошедшее произошло одновременно с отменой: руководство заявило, что вещи, которые будут оцениваться в ходе повторных собеседований, вместо этого станут компонентом оценки эффективности. «Они ясно сказали, что направление не изменилось», - сказал один из сотрудников. «Меня как пользователя Proton это не успокаивает. Как сотрудника, повторные собеседования не отменялись до тех пор, пока это не стало достоянием общественности, несмотря на опасения, высказанные многими из нас. Я думаю, что это выходит за рамки проблем со связью и болей роста».
«Сейчас кажется, что все соответствует тому, что речь идет о борьбе с ущербом», — добавил сотрудник. За пределами «Протона» многие пользователи в социальных сетях призвали Йена уйти в отставку в течение 24 часов после публикации расследования, сообщает 404 Media.
Что будет дальше
Йен сообщил сотрудникам, что грядут «организационные изменения»: в следующем месяце будет проведена реорганизация, направленная на «перераспределение талантов между командами», и настаивал, что «из-за ИИ не будет потери рабочих мест». Эта гарантия теперь будет проверена на соответствие реальности, согласно которой показатели использования ИИ, как ожидается, будут учитываться в обзорах производительности, а это тот самый механизм, который, как опасались сотрудники, будет усилен повторными собеседованиями.
Этот эпизод стал примером ограничений нисходящих мандатов ИИ. Бизнес Proton построен на обещании доверия, и прошедшая неделя показала, как быстро агрессивное внутреннее продвижение искусственного интеллекта — каким бы коммерческим мотивом оно ни было — может поставить под угрозу это обещание. Восстанавливает ли его отмененное повторное интервью, реорганизация и обязательство более вежливо «подтолкнуть» — это совсем другой вопрос.
