Anthropic CEOのダリオ・アモデイ氏、AIの反発は「根本的に信頼の危機」だと語る

アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は、人工知能について過度に悲観的なイメージを描いているとの考えに反発し、一連の投稿で、この技術に対する国民の反発の高まりは組織に対する「根本的に信頼の危機」であり、AI幹部らの警告の産物ではないと主張した。

TechCrunchが日曜に報じたこのやりとりは、投資家のギャビン・ベイカー氏がポッドキャストAll-InとXで、AIの危険性についてのアモデイ氏の警告が米国内、特にデータセンターに対する反発を助長していると主張したことから始まった。ベイカー氏は、アモデイ氏はAI規制に関して「議論に負けた」と主張し、「彼は世界で最も重要な企業の一つのCEOになろうとしている」ことを踏まえ、「敬意を表して彼は自分の業界のより積極的な擁護者となるよう努力すべきだと思う」と書いた。 この件の詳細は、AIニュースをご覧ください。

Xに投稿されたAmodei氏の回答は、この分野で最も著名なリーダーの一人が国民の険悪なムードをどのように解釈しているのかを明らかにしたこと、そして業界の守られなかった約束に対する異例に率直な自己批判として、AI業界全体の注目を集めた。

「普通の人は企業を信用しない」

アモデイ氏は投稿の中で「国民はAIに対して否定的な見方をしている」ことを認め、「これは大きな問題だ」と同意した。しかし同氏は、否定的な考えが「主に」彼自身または「AIのリスクについて警告している他のAI指導者」によって引き起こされているという考えを否定した。

「これは根本的に信頼の危機だと思う」とアモデイ氏は書いた。 「一般の人々は企業、政府、テクノロジー業界を信頼しておらず、私たちが彼らを台無しにする何か新しい方法をでっち上げているのではないかと常に疑っていると思います。」

アモデイ氏の話によれば、これは何十年にもわたって起きていた危機であり、AIの反発は「その最新の反復にすぎない」という。このコメントは、AI企業と一般大衆との間の目に見える緊張が見られる瞬間に着地した。データセンター建設に対する抗議活動は全米に広がり、地域社会の反対により今年の大規模な建設は繰り返し延期されている。

「ネガティブなメッセージング」容疑に異議を唱える

アモデイ氏自身のコミュニケーションがあまりにも暗いという具体的な非難について、アモデイ氏は率直に答えた。 「私のメッセージが不当に否定的であることに同意しない」と同氏は書き、自身の文章は「リスクと利益のバランスがほぼ均等」だと述べた。同氏は、自身のエッセイ「Machines of Loving Grace」を書いたのはまさに「AI業界が、テクノロジーが世界をより良い方向に根本的に変える方法について、十分に刺激的な絵を描いているとは感じていなかった」からだ、と述べた。

しかし、アモデイ氏の返答の中で最も引用された部分は、彼自身の会社を含む彼自身の業界に向けられたものだった。 「Anthropicを含むAI企業に対するこれまでで最も正確な批判は、世界に利益をもたらすという大きな約束を我々がまだ果たせていないということだと思う」と同氏は書いた。 「それは完全に私たちの責任であり、メッセージングやマーケティングに関するあれこれではなく、あなた方が批判すべきことだと思います。」

AIががんを治すという約束は「感動を与えるというよりも、ありきたりな言葉だ」と同氏は付け加えた。実際に世論を変えるのは「実際に癌を治すこと」だと同氏は主張した。

規制との戦い

アモデイ氏はまた、規制に関するベイカー氏の枠組みを否定し、規則なしでAIを広く配布するか、規則に従って少数の企業に技術を集中させるかの「誤った選択」を描いていると非難した。

「規制＝規制による捕捉＝権力の集中というシリコンバレーの略語があることは知っているが、これは世界を単純化しすぎていると常々思っている」とアモデイ氏は書いた。 「このバブルの外にいる多くの人は、規制とは企業の力を制限し、一般の人々に利益をもたらすものだと考えています。」

同氏は、アンスロピックは現職勢力の固定化を避けるために意図的に政策提案を作成していると述べた。 「私たちは、小規模な競合他社に有利な一方で、フロンティアAI企業に不利な（速度を低下させる）提案を行うよう非常に努力しています」と同氏は書いている。アンスロピックは、開示義務を課すカリフォルニア州法案など、大手AI企業に対する透明性要件を主張してきた。

ホワイトハウスが最近、無差別級モデルを特定の連邦審査から除外する動きを見せており、現在の政策論争の火種となっている無差別級モデルについて、アモデイ氏は微妙な立場を示した。 「AIは構造的に権力が集中する傾向にあるテクノロジーだ」と彼は主張した。オープンウェイトは「これに関しては一部には役立ちますが、最も多くの計算能力とチップを備えたものに集中力を若干移すだけなので、十分な解決策には程遠いです。」同氏は、適切な「交通ルール」があれば、同時にサイバー、バイオ、アラインメントのリスクに対処し、フロンティアの研究機関の力を制限し、無差別重量モデルの余地を残すことができると述べた。

交換が重要な理由

この議論は、Anthropic にとって微妙な時期に差し掛かっています。同社は収益の伸びにより商業的成功の波に乗り、ハイテク業界で最も注目される企業の一つとなっており、上場を目指すと広く予想されている。同社の CEO は同時に、業界内で AI リスクを真剣に受け止めることを最も声高に主張する人物の 1 人であり、そのことが彼のメッセージを避雷針にしているのです。

ベイカー氏の議論は、ベンチャーキャピタルやAI推進者の間でのより広範な流れを反映している。つまり、AIに対する世間の懐疑は主に業界自身の警戒心が生み出したコミュニケーションの問題であるというものだ。アモデイ氏の回答は事実上、その枠組みを覆すものだ。問題はAIリーダーの発言ではなく、業界が何を実現できなかったか、そしてテクノロジーを構築する機関に対する国民の信頼がいかに低いかだ。

責任ある AI ラボであることをブランドの基盤とする企業にとって、そのスタンスは一貫しています。しかし、アモデイ氏の譲歩――最も厳しく最も正確な批判は、業界の約束と実現との間のギャップであるという――は、最も大きな約束をいくつか果たしてきた同社のCEOからの、注目に値する率直な告白だ。

これらの投稿には、ワシントンで政策闘争が激化する中、アンスロピックが守るであろう立場も描かれている。辺境の研究所に対する透明性ルール、小規模な競合他社に有利な保護、そしてオープンウェイトが権力の集中問題を解決するという包括的な前提のないことである。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →