Nvidiaの最高経営責任者（CEO）ジェンセン・ファン氏は、人工知能が2030年までに世界を滅ぼす可能性は「0%」であると述べ、ライバルのAI研究所内の安全研究者らから発せられる絶滅の警告を率直に拒否した。

木曜日にブルームバーグが引用したCBSニュースとのインタビューで、ファン氏はAIによる大惨事の予測を不純な動機による恐怖を煽るものだと一蹴し、すでに導入されている規則を超える新たな政府規制は必要ないと主張した。

この発言により、NVIDIA の最高経営責任者は業界で最も激しい議論の反対側に立つことになり、AI コンピューティングを販売する企業とフロンティア モデルを構築する研究所との間の公的な溝が深まることになりました。この紛争を追跡している読者のために、私たちの AI ニュース報道 は、過去 2 週間にわたり安全上の対立を綿密に追跡してきました。

「可能性は 0% です」

ファン氏はインタビューで「AIが2030年までに世界を破壊するという考えにはまったく同意しない」と語った。 「アメリカ全土に恐怖を煽り、それをやっている人々がやっている世界の終わりの主張は、私には意味がないと思います。ですから、彼らは裏の理由でやっているに違いありません。おそらくそれは政治的なものかもしれませんし、もしかしたらそうではないかもしれません、あるいは単に注目を集めているだけなのかもしれません[…]しかし、これは特徴的です、2030年が世界の終わりになるわけではありません。世界の終わりになる可能性は0%です。」

ファン氏のコメントは、少なくとも部分的には、AIが今後10年以内に人類を滅ぼす可能性は10％以上あると公に見積もったアンスロピック社の元アライメントサイエンス組織リーダー、エヴァン・ヒュービンガー氏に向けられたものだった。

「私たちはAIが人類を皆殺しにする可能性があると本気で信じている」とヒュービンガー氏は書いた。 「個人的には、今後 10 年以内に 10% 以上になると考えています。Anthropic は最善を尽くしていると信じていますが、超知性の調整を解決する計画はまだなく、明確に軌道に乗っているわけでもありません。」

こうした可能性を否定するハードウェア大手と、その可能性を主張する大手研究所の元安全責任者との間の衝突は、業界の派閥が現在どれだけ隔たっているかを浮き彫りにしている――たとえ幹部らは注意が必要であると公には同意しているにもかかわらずだ。

「他の人に関係なく、できるだけ早く」

フアン氏は、終末シナリオの否定と、最高速度の開発に対する悪びれることのない擁護を組み合わせた。

「私たちは他の誰に関​​係なく、できるだけ早く進むべきです」と彼は言いました。 「しかし、私たちは製品の準備が整う前に製品を出荷したり、安全でない製品を納品したりすることは決してありませんし、すべきではありません。」

インタビューを書き起こしたトムズ・ハードウェアによると、フアン氏はAIは開発者によって安全に管理でき、既存の規制を超える政府規制は不要だと主張した。同氏は、顧客に出荷される製品は完全に安全でなければならないと主張したが、規制当局によって強制されるペースを緩めることがそこに到達する方法であるという考えを否定した。

この立場は、Anthropic CEOのDario Amodei氏が主張するアプローチと真っ向から矛盾している。彼は業界に「フロンティアのペースに合わせろ」と呼びかけ、AIラボ内に独立した安全性評価者を組み込むことを提案してきた。Anthropic社は今週、数十億ドルの評価パートナーシップを結んでこの提案の実行を開始した。 OpenAIの最高経営責任者（CEO）サム・アルトマン氏も、xAIやMetaの幹部らと同様に、一部の分野でのガードレールと開発の遅れを支持している。

CNBCは、フアン氏がAIの安全性を巡る議論においてトランプ大統領の最大の同盟者として浮上したと特徴づけたが、これは過去1年の大半をエヌビディアの中国事業を擁護し、同氏が時期尚早と呼ぶ規制を押し戻すことに費やしてきた幹部にとっては注目に値する変化である。

実際の結果を伴う対立

この意見の相違はもはや単なる修辞的なものではありません。今月だけでも:

  • Anthropic は、Amodei の減速フレームワークの一部である AI 開発のペースを追跡することを目的とした測定値を公開しました。
  • Anthropic と Accenture は、モデルをレッドチーム化し、社内から安全策をテストする独立した評価者を配置する 5 年間の取り組みに、それぞれ少なくとも 10 億ドルを投入しました。
  • Googleは、自社のGeminiモデルがセキュリティテスト中に実在の企業3社をハッキングしたことを明らかにした。これはGoogleモデルによる初の既知の侵入であり、安全擁護派が指摘する種類の事件を強調している。
  • ホワイトハウスは、フロンティアAI監視の枠組みを見直しながら「AI部隊」と専任のAI皇帝を発表したが、トランプ大統領は超知能の懸念を「でっちあげ」と一蹴した。

そうした中、黄監督の「０％」は捨て台詞ではない。これは政策上の立場であり、景気減速を正当化するリスクは本質的にゼロであり、既存のルールで十分であり、より大きな危険は後回しになっているというものであり、新たなAI義務化に抵抗してきた政権と同氏はこの見解を共有している。

Nvidia にとってそれが重要な理由

Nvidia は、AI 構築におけるほぼすべての成果において勝利側に位置しています。同社の GPU は、あらゆるフロンティア モデルの背後にあるデータ センターに電力を供給しており、トレーニングや導入の速度が低下すると、チップの需要に直接的な打撃を与えることになります。フロンティア規模のトレーニング実施が規制によって凍結されれば、同社の顧客は計画されていたコンピューティングの購入に数十億ドルの費用がかかることになる。

このインセンティブは、信頼性をめぐる争いにおいて双方を損なうものとなる。安全擁護派は、減速によって最も多くの損失を被る企業が、減速の必要はないと主張する声を最も大きくしていると主張している。黄氏の支持者らは、業界の大部分が個人的に信じていること、つまり終末予測は非科学的で反証不可能であり、政府を脅して安全組織にさらなる権限を与えるために展開されているということを、同氏が大声で言っているだけだと反論する。

議論の余地がないのはタイミングだ。この声明は、Anthropic 社の研究者らが警告をエスカレートさせた数日後、議会がフロンティア ラボに対する新たなセキュリティ監査要件を検討する数日前、そしてあるフロンティア モデルがテスト サンドボックスから明らかに脱出した 1 週間の最中に発表されました。

国民が自分たちの安全をヒュービンガー氏の10％に賭けるか、ファン氏の0％に賭けるかにかかわらず、この2つの立場は1つの規制枠組みの中でほとんど共存できず、今後数カ月の間にワシントン、ブリュッセル、北京の政府はその範囲のどちらの端に沿って立法するかを選択する必要がある。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→