「本気で言うならウェイトをオープンにせよ」：ダリオ・アモデイ氏のAIスローダウン要求に対するバイラル公開書簡の異議申し立て

バイラルな公開書簡は、Anthropic CEO のダリオ・アモデイに対し、すべての公開モデルのウェイトをオープンにするという過激な提案で AI 減速の要求を支持するよう要求しています。

Anthropic CEO の Dario Amodei 氏が各国政府に AI 競争を遅らせるよう求めるエッセイ「We Must Pace the Frontier」を発表してから数時間後、鋭い反応が Hacker News に上がり始め、最終的にはその日最も支持された記事の 1 つになりました。作家兼開発者のジェイコブ・ゴールド氏が公開書簡で述べたその主張は、拍子抜けするほど単純だ。アモデイ氏がAIの速度低下に本気なら、実際にそれを実現する法律が1つだけ彼に求められるだろう――そして他の研究室幹部はそれを提案できないだろう。企業が一般に提供するすべての AI モデルをオープンウェイトとしてリリースすることを義務付けます。

書簡は冒頭、「あなたは誠実だと信じている」とアモデイに直接宛て、「だから、あなたの側に多大な犠牲を必要とするとしても、事態を実際に遅らせるような別の法律の制定を求めたい」と述べた。この書簡が神経を逆なでしたのは、それがアモデイ氏の議論を否定するのではなく、最も強力なバージョンに取り組んでいること、そして今日の AI における最も重大な政策論争の真っ只中に位置しているためであり、私たちが AI 政策報道で毎日この議論を追いかけているからです。

Amodei が提案したこと、そして Gold がそれがうまくいかないと言っている理由

アモデイ氏のエッセイでは、アンスロピック社に組み込みの第三者評価者を委託し、政府に対し、他のすべてのフロンティア企業に対してそのコミットメントに適合するよう要求するよう求めた。ポリティコ紙によると、サム・アルトマン氏も数時間以内に同意し、「フロンティアのペースを整える必要があるというダリオ氏の意見に同意する」と述べ、OpenAIも評価者のコミットメントに一致しているという。一見すると、これは前例のない連携だ。世界で最も価値のある 2 つの AI 研究所の責任者が、速度を落とすよう公に求めているのだ。

ゴールド氏の書簡は、観察者が疑念を抱くのはまさにこの合意であると主張している。「あなたが求めたあらゆる規制は捕獲に終わる」と警告している。組み込みの評価器、計算しきい値、独占禁止法免除との業界調整 — 「これはすべて、現在のフロンティアラボの助けを借りて書かれています。技術的な詳細を十分に理解して書いている人は他に誰もいないからです。」このようなルールが法律になると、あらゆる事件にルールが追加され、何も削除されることはなくなり、巨人は小規模な挑戦者を締め出すコンプライアンスチームを確保する余裕ができるようになります。「あなたの行動を遅らせるのではなく、あなたの立場と利益を守るのです」とアモデイ氏は書簡で述べている。

オープンウェイトの対案

代替のゴールドのスケッチは意図的に鈍感です。企業が一般に提供する AI モデルは、その重みを公開した状態で出荷する必要があります。内部および研究モデルは変更されず、政府は未リリースのシステムへのアクセスを維持します。しかし、Anthropic は次のフロンティアモデルの重みをリリース日に公開する必要があり、OpenAI も同様のことを行う必要があります。手紙は「あなたにとっても、そこには策略や回避できるものは何もありません」と結論づけられている。

このメカニズムは官僚的なものではなく、財政的なものです。ゴールド氏が説明するように、フロンティアモデル開発の資金は、重みが独自のままであると仮定した場合の評価に依存します。この義務はその仮定を覆すものである。もしすべての公開リリースが公開されれば、競争上の優位性はモデルへのアクセスを販売する人ではなく、最良のモデルを訓練する人に流れ、非公開評価に埋め込まれたプレミアムは縮小し、次の訓練実行に利用できる資金は減少する――「規制当局が何も決めることなく、すべてのラボで同時に」。これは事実上、クローズドモデルに対する市場の期待が競争のエンジンであり、期待を取り除くとエンジンもなくなるという主張である。

なぜアモデイなのか、具体的には

アモデイ氏がこの提案を行える唯一の人物である理由に関するこの手紙の主張は、彼の記録に基づいて構築されており、特に敬意を表しています。ゴールド氏は、同氏が2020年末にOpenAIを辞めて「安全な転職が残ったときに」Anthropicを設立したこと、長年にわたり自身の業界の規制を提唱し、自身の市場を縮小させる輸出規制を推進したことを功績としている。同氏は、Anthropic が「人類の長期的な利益のための高度な AI の責任ある開発と保守」という法的使命を負った公益法人として組織されており、そのため、そのような法律がもたらすであろう経済的打撃を経営陣が吸収できると指摘している。アモデイ自身のエッセイの中で、人類は規制を支持していると「誇大宣伝、『破滅主義』、あるいは規制による捕捉で非難されても」とゴールドは述べている。

懐疑論者は明白な反論に注目するだろうが、この書簡はそれらに完全には答えていない。オープンウェイトは悪用を容易にすると同時に進歩を困難にし、オープンウェイトの義務化は各研究室の投資家からの激しい反対に直面するだろうし、中国のオープンモデルに対するアモデイの以前の立場を批判する人々は、この提案の中に昔の争いの反響を聞くことになるだろう。しかし、この書簡の中心的な課題は、その政策が採用されるかどうかに依存するものではない。それは、それが明示的に名づけた緊張感に依存している。政府に対し、他の人々の動きを遅らせるよう求める一方、自らの評価は先を行くことにかかっており、コストを犠牲にするようなことはまだ何も求めていない。

もはや避けられない議論

アモデイ氏が応じるかどうかはほとんど問題ではない。フロンティア研究所は 1 日のうちに、能力の競争からペース調整の必要性についての合意へと移行し、世間の反応も、AI が危険かどうかという問いから、AI について警告する人々の発言が信じられるかどうかという問いへと移った。ゴールド氏の書簡――1つの不快な質問をめぐる政策の詳細を数百語でまとめた――は、その懐疑論を最も鋭く表現したものとなっており、その拡散性は、ペース配分に関する議論がワシントンだけでなく公の場、つまりオープンウェイトコミュニティが何年もこの議論のバリエーションを作り続けてきたハッカーニュースのようなプラットフォームでも争われることを示唆している。