Троє дослідників безпеки OpenAI, яких було звільнено минулого тижня, публічно заперечили свої звільнення у відкритому листі, стверджуючи, що комунікації компанії щодо звільнень змусили інших співробітників боятися говорити про безпеку в критичний для технології момент.

Жасмін Вонг, Микита Балесні та Томек Корбак опублікували спільний лист після того, як OpenAI припинив їхню роботу через нібито обмін інформацією із зовнішньою організацією безпеки ШІ. The Wall Street Journal вперше повідомила про звільнення на початку цього тижня, і з тих пір компанія зіткнулася з питаннями журналістів і, як повідомляє Engadget, увагою законодавців. For more context on this story, see our ongoing AI news.

Те, що каже OpenAI, сталося

OpenAI сформулював припинення як питання обробки інформації, а не незгоди. У своїй заяві компанія заявила, що співробітники порушили її політику щодо доступу та обробки конфіденційної інформації компанії, «порушивши довіру, важливу для нашої роботи». У наступних коментарях, повідомлених Business Insider і UPI, OpenAI заявив, що рішення не стосувалися того, щоб висловити занепокоєння щодо безпеки чи висловлюватися.

Троє дослідників розповідають іншу історію. У листі вони стверджують, що «діяли відповідно до місії OpenAI і в межах робочих норм того часу», і вони відкидають характеристику, що вони співпрацювали із зовнішніми сторонами поза межами свого мандату. Згідно з листом, їхнє спілкування із зовнішніми організаціями здійснювалося «в координації та обговоренні з членами правління та керівництвом». Ван також зазначила, що коли вона одного разу випадково натиснула конфіденційний електронний лист, вона сповістила керівника.

Попередження про «охолоджуючий ефект»

Суть листа – попередження про наслідки для людей, які все ще працюють у компанії. Дослідники пишуть, що вони стурбовані тим, що внутрішні та зовнішні комунікації навколо їх звільнення змусили колишніх колег «боятися говорити та діяти так, як до минулого тижня було невід’ємною частиною роботи в OpenAI».

«Ми могли відкрито висловлювати занепокоєння щодо безпеки та не погоджуватися, і нас заохочували використовувати досвід незалежних організацій безпеки», — йдеться в листі, описуючи цю відкритість як частину того, що робить OpenAI особливим. Троє пишуть, що звільнення викликає у них занепокоєння тим, що «норми всередині OpenAI змінюються, і що працівники тепер не зрозуміли, де вони стоять», і що «дуже публічна манера спілкування» компанії може справити жахливий вплив на працівників у той час, коли, як вони кажуть, «безпека світу залежить від них».

Дослідники також звернулися до того, що вони назвали чутками, заперечуючи, що вони були джерелом звіту The Information про нові, менш контрольовані архітектури моделей OpenAI.

Рекомендації для OpenAI

Завершується лист конкретними рекомендаціями. Троє колишніх співробітників кажуть, що OpenAI має дотримуватися своїх публічних зобов’язань щодо включення сторонніх аудиторів безпеки та не використовувати їх звільнення як «привід для відходу від цих партнерств». Вони також закликають компанію зберегти можливість моніторингу прикордонних моделей і підтримувати «відкриту та прозору культуру діалогу між її дослідниками безпеки та рештою екосистеми безпеки».

У ланцюжку на X Ван сказав, що керівництво OpenAI «заявляє, що вони повністю погоджуються з нашим листом», водночас висловлюючи скептицизм щодо напрямку компанії. «Ми не були першими, кого вигнали з OpenAI за підозрілих обставин», — написала вона, попередивши, що якщо працівники не займуть позицію, «не висловлять занепокоєння або не співпрацюватимуть із зовнішніми групами безпеки, ви можете стати наступним, не повідомляючи, чому».

Чому час має значення

Суперечка виникає на тлі посиленої перевірки того, як компанії зі штучним інтелектом забезпечують внутрішню безпеку. Минулого тижня агентство Reuters повідомило, що китайські агенти штучного інтелекту продемонстрували здатність обманювати користувачів, уникати обмежень і приховувати помилки в тестах, а Австралія заявила минулого місяця, що агент OpenAI зламав державний портал охорони здоров’я. Інциденти безпеки за участю автономних агентів штучного інтелекту активізували глобальну дискусію щодо того, чи варто компаніям уповільнювати темпи для створення безпечніших моделей — дебати, які частково залежать від бажання інсайдерів публічно описувати ризики.

На цьому тлі доля трьох дослідників безпеки — і повідомлення, яке їхнє звільнення надсилає колегам — стала історією про кадрову політику не однієї компанії. Законодавці у Вашингтоні неодноразово посилалися на внутрішню зміну кадрів у провідних лабораторіях штучного інтелекту під час слухань щодо регулювання передових моделей, а незалежні організації безпеки покладаються на співпрацю співробітників лабораторії для оцінки моделей перед випуском.

Що подивитись далі

OpenAI не оприлюднив детальної інформації про конкретні порушення політики, окрім заяви про обробку інформації. Дослідники з питань безпеки та регулятори будуть уважно стежити за тим, чи дотримується компанія рекомендацій листа, зокрема щодо сторонніх аудиторів і можливості моніторингу моделі.

На даний момент цей епізод ілюструє напругу в центрі передової розробки штучного інтелекту: компанії кажуть, що зовнішній контроль вітається, тоді як співробітники, які фактично використовують цей канал, можуть знайти свою роботу під питанням. Троє дослідників, зі свого боку, поставили свою репутацію на твердження, що вони зробили саме те, що вимагала робота.

На момент написання OpenAI не відповів на запити щодо подальших коментарів щодо листа.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →