サンフランシスコのモスコーンセンターは今週、異例の公の場での意見の相違を主催した。SalesforceのDreamforceカンファレンスで互いに数時間以内に同じステージに登場したNvidia、Anthropic、OpenAIのリーダーらは、AIの進歩をどの程度の速さで許すべきかという問題に対して、全く異なる答えを提示した。

Nvidia CEO のジェンセン・ファン氏は、Salesforce の責任者であるマーク・ベニオフ氏に対し、速度と安全性という枠組みは間違っていると語った。 CNBCによると、ファン氏は「それは誤った選択だ」と語った。 「間違いなく両方を同時に手に入れることができます。」 この件の詳細は、人工知能の最新情報をご覧ください。

彼の立場は、その日の早い時間にAnthropic CEOのDario Amodei氏が、その後OpenAI CEOのSam Altman氏が、1週間の間に研究ブログからワシントンでのカンファレンスの基調講演へと移り変わった議論の中で表明したものとは全く対照的であった。

Amodei のスローダウンピッチが基調講演プラットフォームを取得

まずアモデイ氏が登場し、約12,000人の聴衆を前に行われたSalesforce年次基調講演にベニオフ氏とともに出席した。この出演は、アモデイ氏が週末に発表したエッセイに続き、業界に対しモデル開発のペースを緩めるよう促しており、同氏によれば、この提案は「商業的優位性やAIにおける米国のリードを犠牲にすることなく」能力向上のスピードを抑えることができるという。

CNBCによると、アモデイ氏は自主規制を業界のリーダーシップテストとして位置づけた。 「それが業界を前進させ、模範を示し、誰もが常により良くなれると伝える方法だと思います」と彼はベニオフに語った。

このエッセイはすぐに、OpenAIのサム・アルトマン氏、SpaceXのCEOイーロン・マスク氏、Google DeepMind会長のデミス・ハサビス氏など、他の業界幹部らから一般の支持を集めた。この問題は、業界の研究者らが AI が壊滅的な害を引き起こす可能性について警鐘を鳴らした数日後に上陸し、景気減速の議論に新たな緊急性を与えた。

黄: 新しい法律ではなく、市場原理

フアン氏の会社は、最先端のモデルをトレーニングおよび実行するハードウェアを販売することで世界で最も価値のある企業になったが、トレードオフの前提と新たな規制の考えの両方を拒否した。無謀な行動を規制する市場原理はすでに存在しており、自社の製品に対して責任を持って行動するかどうかはモデル開発者次第だと同氏は主張した。

「できるだけ早く走ってください」とフアンさんはベニオフに言った。 「しかし、ある時点で会社が制御不能になった、または製品が安全ではなくなると感じた場合は、少し立ち止まって、自分が正しく対処できるかどうかを確認してください。」

この違いが重要だ。フアン氏は企業が決して一時停止すべきではないと主張しているのではなく、法律や業界全体で調整されたペース調整協定によって強制されるのではなく、決定は各企業に委ねられるべきだとだけ主張している。その前日、ロサンゼルスで開催されたオールインサミットで、フアン氏はドナルド・トランプ大統領からのスピーカーフォン通話に応じ、トランプ大統領はAIデータセンターの建設を妨害しようとする人々に懸念を表明した。 「私たちはそんなことを許すつもりはありません」とファン氏は答えた。

アルトマン氏: 安全性には「修飾語は必要ない」

Dreamforce のステージでアルトマンの出番はその日の後半に来て、彼はファンよりもアモデイの近くに位置しました。ベニオフ氏との談話の中で、アルトマン氏は、現行モデルの性能を考慮すると、機能よりも安全性と監視を優先する必要があると語った。

同氏は、安全への取り組みを競合他社の行動に依存する企業をターゲットにした。アルトマン氏は、「『他の企業に責任がある場合にのみ、当社が責任を負う』といったことを言う企業もある」と述べ、人々が「何があっても」安全を確保するために企業が何をするのか尋ねたとき、その答えには条件を付ける余地を残すべきではないと付け加えた。 「それには修飾語が存在するべきではない。」

ベニオフが真ん中に座る

ベニオフ氏は3人の幹部全員の司会を務めているが、ペースの面でどちらのチームを選ぶかは拒否した。同氏は記者団に対し、「スピードを落とすべきだと感じたらスピードを落とすべきだ。スピードを上げるべきだと感じたらスピードを上げるべきだ」と述べた後、企業は「責任を負うべきだ」と付け加えた。

このカンファレンスでは、ビジネス関係がいかに複雑になっているかも明らかになった。火曜日、Salesforce と Nvidia は、Nvidia のオープンウェイト Nemotron モデルの 1 つをベースに構築された Salesforce の Agentforce プラットフォーム用の新しい推論モデルを発表しました。 8月下旬、SalesforceとAnthropicは戦略的パートナーシップを拡大し、営業担当者がClaude内部からSalesforceデータにアクセスできる「Claudeforce」を発表した。

分割が重要な理由

Dreamforce のやりとりは、AI ガバナンスに関する議論の中心的な論点、つまり抑制を調整し、潜在的に法文化すべきか、それとも競争圧力や個別の企業判断に任せるべきかということを具体化しました。

Amodei の提案は依然として自主的なものであるが、OpenAI、DeepMind、xAI の CEO によるこの提案の支持は、大手フロンティア研究所のリーダーたちが減速を支持して公に一致した初めてのこととなる。世界で最も価値のある企業からの黄氏の反論は、警戒を義務付けると特に中国の競合他社に有利になると主張する経営者や政策立案者たちを庇うものとなっている。

CNBCが関連分析で指摘したように、トランプ大統領は新たなAI規則に反対しており、この姿勢は業界自身の減速を求める声を弱めるものである。そのため、自主的なペース調整協定には、安全擁護派が必要だと主張する強制メカニズムが欠如しており、今のところ企業の名誉制度に関する議論は堅調なままだ。

研究者らが壊滅的なリスクについて公に警告し、この分野の最大手企業のリーダーたちがステージ上で公然と反対していることから、市場がその間にどのような行動をとろうとも、ペース配分の問題がワシントンの次の政策サイクルを支配する可能性が高い。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →