ゲリット・デ・ヴィンク氏によるワシントン・ポストの独占報道によると、グーグルの人工知能部門の従業員らは、自社が開発しようとしている技術のリスクについて国民に自由に知らせるべきだと主張し、幹部に対し非差別協定の解除を求めているという。ゲリット・デ・ヴィンク氏が社内関係者の話として報じた。
報告書の副題は不満の核心に切り込んでおり、「雇用契約のせいで職員はAIのリスクについて国民に警告することができなくなっていると現役職員は述べている」としている。この記事の後続の報道では、この条項はGoogle批判の生涯禁止に相当するものであるとされ、アグリゲーターや国際報道機関の見出しはこの論争を「DeepMindスタッフがGoogle批判の生涯禁止に抗議」と特徴付け、具体的にはDeepMindスタッフ2名がGoogleに、彼らが言うところの生涯ギャグを解除するよう求めたというものである。 For more context on this story, see our ongoing breaking AI news.
What the workers are asking for
報道によると、Google DeepMind（同社の最先端AI研究の多くを支援するAlphabet部門）のスタッフは、法的報復に直面することなく、自社が構築するシステムに関連する安全性の懸念についてオープンに話せるよう、契約上の軽蔑禁止義務から社員を解放することを経営陣に求めているという。
報告書の要約が伝えているように、問題の協定は従業員を企業慣行だけでなくテクノロジーリスクや、AIシステムが世界に普及する方法を形作る内部決定についても沈黙するよう拘束している。労働者らの主張は単純明快だ。テクノロジーに最も近い人々、したがってその故障モードに最も近い人々は、自分たちが知っていることを公衆に話すことが契約上制約されている。
Per the follow-on coverage, Google has not addressed the specific demands.ワシントン・ポストの報道は、この紛争の原因はグーグルの公式声明ではなく、社内の現従業員によるものだとしており、会社の対応があったとしても、それがこの記事の中で最も重要な未解決の問題であることに変わりはない。
Why it matters for AI safety
The dispute lands at a sensitive moment for the AI industry.モデルの能力が高まり、経済的にも重要になるにつれて、フロンティアラボが機能、悪用の可能性、内部テストなどをどこまで開示すべきかについての議論が激化している。仕事に携わる人々が雇用主のやり方を公に批判できなければ、国民と政策立案者は数少ない早期警告の手段を失うことになる、と批評家は主張する。
The history of the field offers a pointed precedent. Googleに10年以上勤務し、そのニューラルネットワーク研究が現代のAIブームを支えたジェフリー・ヒントン氏は、AIのリスクについて自由に話せるようにするため、2023年に明確に同社を退社した。今週彼はさらに踏み込んで、人類はAIを開発しない方が良かったことが判明するかもしれないとガーディアン紙に語り、AIによる「チェルノブイリ」（大規模な停電や1週間にわたる金融システム障害を引き起こすAIによる攻撃など）が今年か来年に到来すると警告した。
Hinton could speak out because he left. The DeepMind workers, by contrast, are trying to change the terms so they do not have to make the same choice between a career and a voice.
The transparency-versus-secrecy trade
The dispute reflects a structural tension in the AI industry.企業側は、雇用条件を制限することで企業秘密が保護され、誤解を招く主張が防止され、開発途中で社内の意見の相違が公の場に飛び出すのを防ぐことができると主張している。従業員や安全支持者らは、同じ条件では真の危険が隠蔽される可能性があると反論し、自社の安全慣行に自信を持っている企業は情報に通じた社内批判者をほとんど恐れる必要はない、と反論している。
ワシントン・ポスト紙の報道は、この問題をインセンティブの一つとして位置づけている。同紙が引用した現役労働者の言葉を借りれば、雇用契約はスタッフがAIのリスクについて国民に警告するのを妨げている、というものだ。 That framing makes the dispute bigger than one company's HR policy.これは、フロンティア AI のリスクに関する一般大衆の主な情報源が、研究所自身のマーケティングなのか、それとも直接知識を持っている研究所内の人々なのかを試すテストです。
What the developer community is saying
この報告書に関する議論はすぐに Hacker News のトップページに掲載され、コメント投稿者は状況の倫理をめぐって意見が分かれた。最も賛成票を投じた意見は、拘束された労働者はただ歩くべきだと主張し、「労働者は辞めて警告すべきだ。それ以外のことは偽善的だ」と主張した。従業員にはキャリアを犠牲にする義務はなく、個人の退職よりも集団的な契約改革の方が現実的な道だと指摘して、反対する意見もあった。
辞めるか、留まって推進するか、沈黙するかというこの議論は、まさに労働者たちが逃れようとしている束縛だという。
何を見るか
3 つのことがこの問題の行き先を決定します。まず、Google がその要求を認めるかどうか、そしてさらに重要なことに、Google がそれに応じるかどうか、具体的な要求に対する同社の対応は今のところ記録に残っていない。第二に、答えが「ノー」の場合、従業員がたとえば公に組織するか規制当局に頼ることによってエスカレートするかどうか。そして第三に、他のフロンティア研究所も同様のプレッシャーに直面しているかどうか。もし軽蔑を許さない条件が業界全体で一般的であれば、DeepMindの紛争はAIの透明性を重視した労働組織の雛形となる可能性がある。
今のところ、この要請自体がニュースになっている。フロンティアAIシステムに日々直接接している研究者のグループは、公共の利益のためには彼らの声が必要であると信じており、その使用許可を正式に求めている。 Googleがどう答えるかによって、フロンティアAI種族がどれだけの反対意見を許容する用意があるかが大きく分かるだろう。
---
AI の先を行く最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。
AI ニュースをもっと読む→
