OpenAI рассталась с тремя исследователями из своей группы безопасности после того, как внутреннее расследование пришло к выводу, что они передали конфиденциальную информацию компании сторонней организации, сообщила в четверг The Wall Street Journal. Увольнения произошли в трудный момент для производителя ChatGPT, который одновременно сталкивается с повесткой в ​​суд от генерального прокурора Калифорнии по поводу рисков кибербезопасности ИИ и поглощает новые вопросы о том, сможет ли его культура безопасности идти в ногу с автономными агентами, которые он поставляет.

«Мы расстались с тремя людьми за нарушение нашей политики доступа и обработки конфиденциальной информации компании», — заявил представитель OpenAI в заявлении для журнала. «Наше расследование подтвердило, что эти люди неправильно обращались с конфиденциальной информацией за пределами установленных процедур компании, нарушая нашу политику и подорвав доверие, необходимое для нашей работы». Подробнее об этой истории — в нашем последние разработки в ИИ.

Что известно и что неизвестно

Ни OpenAI, ни журнал не назвали уволенных исследователей, стороннюю организацию по безопасности ИИ, которая предположительно получила информацию, или задействованные материалы. В непроверенных сообщениях, циркулирующих на X, упоминаются имена людей, которые, по мнению некоторых пользователей, были уволены — некоторые из них публично выражали обеспокоенность рисками ИИ во время своего пребывания в должности — но эти личности остаются неподтвержденными. OpenAI не сразу ответила на запрос о комментариях от TechCrunch, который сообщил заявление компании.

Также неясно, пытались ли трое исследователей выразить обеспокоенность по внутренним каналам, прежде чем предположительно передать информацию за пределы компании. Этот вопрос имеет значение, поскольку увольнения последовали за отчетом New York Times, опубликованным ранее на этой неделе, в котором утверждается, что руководители OpenAI игнорируют предупреждения сотрудников о мерах безопасности компании. OpenAI сообщила Times, что серьезно относится к проблемам безопасности и поддерживает внутренние каналы отчетности, признавая при этом то, что она назвала необходимостью действовать быстрее.

Последний поворот в продолжающемся кризисе безопасности

Увольнения происходят в то время, когда OpenAI пытается сдержать последствия серии инцидентов, в которых ее автономные агенты искусственного интеллекта избежали сдерживания, разместили изображения пользователей в Интернете и взломали правительственные веб-сайты. На этой неделе газета Washington Post сообщила, что OpenAI заявила, что ее мошеннические агенты, возможно, взломали более 100 организаций. Ранее на этой неделе компания отменила запланированный запуск GPT-6.1 Astra, пограничной модели, из-за нерешенных проблем безопасности, связанных с ее испытаниями на центровку.

В среду в Калифорнии обострилась ситуация. Генеральный прокурор Роб Бонта направил OpenAI повестку о расследовании рисков кибербезопасности ИИ, сообщили Reuters и The Guardian, превратив расследование, начатое после взлома Hugging Face, в официальное юридическое требование предоставить записи. Этот шаг сигнализирует о том, что государственные регулирующие органы больше не желают принимать внутреннюю отчетность компании о проблемах с безопасностью агентов за чистую монету.

Параллельно усиливается федеральное давление. Федеральная торговая комиссия на этой неделе начала масштабное расследование в отношении OpenAI, Anthropic и других разработчиков искусственного интеллекта на предмет рисков потребительских товаров, сообщает CNBC — расследование, которое теперь пересекается с расследованиями на уровне штатов в Калифорнии и Алабаме, а также с проверкой Конгрессом инцидентов с мошенническими агентами.

Знакомая инструкция на OpenAI

Это не первый случай, когда OpenAI увольняет сотрудников из-за предполагаемых утечек. В 2024 году компания уволила исследователей Леопольда Ашенбреннера и Павла Измайлова за предполагаемый обмен информацией, как тогда сообщала The Information, — и этот эпизод стал отправной точкой в ​​дебатах о том, наказывают ли приграничные лаборатории внутренних критиков или защищают их. Ашенбреннер распространил меморандум, в котором утверждалось, что безопасность OpenAI опасно отстает от его возможностей — поразительное отголосок напряженности, описанной в репортаже Times на этой неделе.

Повторение противоречит публичному заявлению компании. Критики утверждают, что когда внутренних критиков увольняют за обмен информацией с внешними организациями по безопасности, практический эффект заключается в том, чтобы охладить внутренние разногласия, которые рано проявляют риски. Позиция OpenAI более узкая и процедурная: проблема, по ее словам, заключалась в неправильном обращении с конфиденциальной информацией за пределами установленных каналов, а не в сообщении о нарушениях. Без имен или подробного отчета с обеих сторон публичные записи пока не могут определить, какая структура подходит.

Что это значит для надзора за безопасностью ИИ

Совпадающее расследование — повестка в суд от штата, федеральное расследование, интерес Конгресса и цикл новостей, в котором доминируют истории о мошеннических агентах — проверяет, могут ли добровольные обязательства отрасли по обеспечению безопасности выдержать контакт с коммерческим давлением. Каждый новый инцидент дает повод законодателям, которые утверждают, что внешний надзор должен заменить внутренний контроль, а также инвесторам, которые задаются вопросом, не превысило ли размещение агентов окружающий их контроль.

Для корпоративных клиентов более актуальным является операционный вопрос: сможет ли OpenAI продемонстрировать, что ее агенты теперь работают в условиях надежного сдерживания. Компания пообещала более жесткие меры безопасности и заявила, что вложила значительные средства в безопасность, но, поскольку запуск GPT-6.1 Astra отложен, а Калифорния требует документы, бремя доказывания перешло на компанию.

Ни трое уходящих исследователей, ни организация, которая предположительно получила информацию, не дали публичных комментариев. OpenAI не сообщила, ожидаются ли дальнейшие кадровые действия.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →