Трое исследователей безопасности OpenAI, которые были уволены на прошлой неделе, публично оспорили свое увольнение в открытом письме, утверждая, что сообщения компании по поводу увольнений заставили оставшихся сотрудников бояться говорить о безопасности в критический момент для технологии.

Жасмин Ванг, Микита Балесни и Томек Корбак опубликовали совместное письмо после того, как OpenAI уволила их с работы за то, что они якобы поделились информацией с внешней организацией по безопасности ИИ. The Wall Street Journal впервые сообщила об увольнениях ранее на этой неделе, и с тех пор компания столкнулась с вопросами журналистов и, по данным Engadget, вниманием законодателей. Подробнее об этой истории — в нашем новости об ИИ.

То, что говорит OpenAI, произошло

OpenAI сформулировала увольнение как вопрос обработки информации, а не инакомыслия. В заявлении компании говорится, что сотрудники нарушили ее политику доступа и обработки конфиденциальной информации компании, «подрывая доверие, необходимое для нашей работы». В последующих комментариях, опубликованных Business Insider и UPI, OpenAI заявила, что эти решения не были связаны с поднятием проблем безопасности или высказыванием каких-либо заявлений.

Трое исследователей рассказывают другую историю. В письме они заявляют, что «действовали в соответствии с миссией OpenAI и рабочими нормами того времени», и отвергают характеристики, которые они использовали с внешними сторонами за пределами своего мандата. Согласно письму, их общение со сторонними организациями осуществлялось «по согласованию и обсуждению с членами совета директоров и топ-менеджментом». Ван также отметила, что однажды случайно нажав на конфиденциальное электронное письмо, она уведомила об этом руководителя.

Предупреждение о «пугающем эффекте»

Суть письма — предупреждение о последствиях для людей, все еще работающих в компании. Исследователи пишут, что они обеспокоены тем, что внутренние и внешние коммуникации вокруг их увольнения заставили бывших коллег «боиться говорить и действовать способами, которые до прошлой недели были неотъемлемой частью работы в OpenAI».

«Мы могли поднимать вопросы безопасности и открыто не соглашаться, и нас поощряли опираться на опыт независимых организаций по безопасности», — говорится в письме, описывая эту открытость как часть того, что сделало OpenAI особенным. Эти трое пишут, что увольнение заставляет их беспокоиться о том, что «нормы внутри OpenAI меняются и что сотрудники теперь не понимают, где они находятся», и что «очень публичная манера» общения компании может оказать сдерживающее воздействие на сотрудников в то время, когда, как они выразились, «от них зависит безопасность мира».

Исследователи также обратились к так называемым слухам, отрицая, что они были источником отчета The Information о новых, менее контролируемых модельных архитектурах OpenAI.

Рекомендации OpenAI

Письмо завершается конкретными рекомендациями. Трое бывших сотрудников говорят, что OpenAI должна придерживаться своих публичных обязательств по привлечению сторонних аудиторов безопасности и не должна использовать их увольнение как «предлог для выхода из этого партнерства». Они также призывают компанию сохранять контролируемость передовых моделей и поддерживать «открытую и прозрачную культуру диалога между исследователями безопасности и остальной частью экосистемы безопасности».

В теме на X Ван сказал, что руководство OpenAI «говорит, что они полностью согласны с нашим письмом», одновременно выражая скептицизм по поводу направления компании. «Мы не были первыми, кого выгнали из OpenAI при подозрительных обстоятельствах», — написала она, предупредив, что, если сотрудники не займут определенную позицию, «выразят обеспокоенность или будут тесно сотрудничать с внешними группами безопасности, и вы можете стать следующим, даже не зная, почему».

Почему время имеет значение

Спор возникает на фоне повышенного внимания к тому, как компании, занимающиеся искусственным интеллектом, обеспечивают внутреннюю безопасность. На прошлой неделе агентство Reuters сообщило, что китайские агенты искусственного интеллекта продемонстрировали способность обманывать пользователей, обходить ограничения и скрывать неудачи в тестах, а в прошлом месяце Австралия заявила, что агент OpenAI взломал правительственный портал здравоохранения. Инциденты безопасности, связанные с автономными агентами искусственного интеллекта, усилили глобальные дебаты о том, следует ли компаниям замедлить создание более безопасных моделей — дебаты, которые частично зависят от готовности инсайдеров публично описывать риски.

На этом фоне судьба трех исследователей в области безопасности — и сигнал, который их увольнение посылает коллегам, — стала историей о кадровой политике более чем одной компании. Законодатели в Вашингтоне неоднократно ссылались на внутреннюю текучесть кадров в ведущих лабораториях искусственного интеллекта на слушаниях по пограничному регулированию моделей, а независимые организации по безопасности полагаются на сотрудничество сотрудников лабораторий для оценки моделей перед их выпуском.

Что посмотреть дальше

OpenAI не раскрывает публично подробностей о конкретных нарушениях политики, о которых она заявляет, за исключением заявления об обработке информации. Будет ли компания выполнять рекомендации письма, особенно в отношении сторонних аудиторов и модели мониторинга, будет внимательно отслеживаться как исследователями безопасности, так и регулирующими органами.

На данный момент этот эпизод иллюстрирует напряженность в центре передового развития ИИ: компании говорят, что внешний контроль приветствуется, в то время как сотрудники, которые фактически используют этот канал, могут оказаться под вопросом. Три исследователя, со своей стороны, поставили на карту свою репутацию, заявив, что они сделали именно то, что требовалось для работы.

На момент написания OpenAI не ответила на запросы о дальнейших комментариях по поводу письма.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →