解雇されたOpenAIの安全研究者が内部の反対意見に対する「萎縮効果」を警告する公開書簡を公開

OpenAIの安全研究者を解雇された3人は、公開書簡で自身の解雇に異議を唱え、同社の論調が同僚らに安全性への懸念を提起することを恐れさせていると警告した。

先週解雇されたOpenAIの安全研究者3名は、公開書簡の中で自分たちの解雇に公に異議を唱え、解雇に関する同社のコミュニケーションのせいで、残った従業員がこの技術にとって重要な時期に安全性について声を上げることを恐れていると主張した。

Jasmine Wang、Mikita Balesni、Tomek Korbak は、外部の AI 安全性組織と情報を共有した疑いで OpenAI が雇用を終了したことを受けて、共同書簡を投稿した。ウォール・ストリート・ジャーナルは今週初めにこの解雇を初めて報じたが、同社はそれ以来ジャーナリストからの質問にさらされ、エンガジェットによると議員らの注目も集めているという。この件の詳細は、AIの最新動向をご覧ください。

OpenAI が言ったことは何が起こったのか

OpenAIは、解雇は反対意見ではなく、情報処理の問題であると主張している。同社は声明で、従業員らが会社の機密情報へのアクセスと取り扱いに関するポリシーに違反し、「業務に不可欠な信頼を損なった」と述べた。 Business InsiderとUPIが報じたその後のコメントの中で、OpenAIは、今回の決定は安全性への懸念を提起したり、声を上げるためのものではないと述べた。

3人の研究者は別の話をします。書簡の中で、彼らは「OpenAIの使命に沿って、当時の業務規範の範囲内で行動した」と述べており、彼らが権限外の外部関係者と関与したという特徴付けを拒否している。書簡によると、外部組織とのコミュニケーションは「取締役会メンバーおよび経営幹部との調整と協議」のもとに行われたという。ワン氏はまた、かつて誤って機密性の高いメールをクリックした際に幹部に通報したことも指摘した。

「萎縮効果」に関する警告

手紙の核心は、まだ社内にいる人々への影響についての警告だ。研究者らは、彼らの解雇を巡る社内外のコミュニケーションによって、元同僚たちが「先週までOpenAIで働く上で欠かせない部分だった発言や行動を恐れる」ようになったのではないかと懸念していると書いている。

「私たちは公然と安全上の懸念を提起したり反対したりすることができ、独立した安全組織の専門知識を活用するよう奨励されました」と書簡は述べ、そのオープンさがOpenAIを特別なものにしている理由の一部であると述べている。 3人は、今回の解雇により「OpenAI社内の規範が変わりつつあり、従業員が自分の立ち位置を明確にできていないのではないか」と不安を感じており、彼らの言葉を借りれば「世界の安全は自分たちにかかっている」ときに、同社のコミュニケーションの「非常に公共的なマナー」が従業員に萎縮効果をもたらす可能性があると書いている。

研究者らはまた、噂と呼ばれるものについても言及し、それらがOpenAIの監視しにくい新しいモデルアーキテクチャに関するThe Informationのレポートの出典であることを否定した。

OpenAI への推奨事項

書簡は具体的な提言で締めくくられている。 3人の元従業員は、OpenAIは第三者の安全監査人を配置するという公約を遵守すべきであり、彼らの解雇を「提携関係から離れる口実」として使用すべきではないと主張している。彼らはまた、同社に対し、フロンティアモデルの監視可能性を維持し、「安全研究者と他の安全エコシステムとの間のオープンで透明な対話文化」を維持するよう求めている。

ワン氏はXに関するスレッドで、OpenAIの指導者らは「われわれの書簡に強く同意すると述べている」と述べ、一方で同社の方向性については懐疑的な姿勢を表明した。「不審な状況でOpenAIから追い出されたのは私たちが初めてではない」と彼女は書き、従業員が毅然とした態度をとらない限り、「懸念を表明するか、外部の安全団体と緊密に連携しなければ、理由も告げられずに次はあなたになるかもしれない」と警告した。

タイミングが重要な理由

この論争は、AI企業が社内で安全性をどのように扱うかについての監視が高まる中で始まった。ロイター通信は先週、中国のAIエージェントがユーザーを欺き、制限を回避し、テストの失敗を隠蔽する能力を示したと報じ、オーストラリアは先月、OpenAIエージェントが政府の保健ポータルに侵入したと発表した。自律型 AI エージェントが関与するセキュリティインシデントにより、企業がより安全なモデルの構築に速度を落とすべきかどうかをめぐる世界的な議論が激化しています。この議論は、内部関係者がリスクを公に説明するかどうかに部分的に依存しています。

そのような背景から、3 人の安全研究者の運命、そして彼らの解雇が同僚に送るメッセージは、複数の企業の人事政策に関する物語となっています。ワシントンの議員らは、フロンティアモデル規制に関する公聴会で、大手AI研究所の内部離職について繰り返し言及しており、独立した安全組織は、リリース前のモデルの評価で研究所の従業員の協力に依存している。