アンスロピック社の複数の研究者が元同僚の人工知能に対する終末論的な評価に同調し、抗議活動が組織的な「心理作戦」であると示唆したイーロン・マスク氏から軽蔑的な反応を引き出したため、アンスロピック社内からの公衆の警告の波は今週激化した。

ガーディアン紙によると、この事態のエスカレーションは、Anthropicの研究者であるJacob Coxon氏が、Anthropic社も彼の元雇用主であるOpenAI社も責任を持ってAIモデルを構築しておらず、「私たちの命を賭けている」と書いてバイラルな投稿で辞任を発表した翌日に起こったという。アンスロピックの現スタッフが自身の悲惨な評価を支持する投稿をするにつれ、この論争は消えるどころかさらに大きくなった。 この件の詳細は、AIニュースをご覧ください。

警告は山積する

Anthropic社で汎用人工知能の安全性の研究に取り組み、以前はGoogleのDeepMindで働いていたAnna Wang氏は木曜日、同社の多くの人々が、ますます高機能になるモデルによってもたらされるリスクに備えて開発を遅らせたいと考えていると語った。

「再帰的に自己改善するAIによるリスクを解決する実行可能な科学的計画はまだない」とワン氏はXについて書いた。

アンスロピック社の別の従業員、ドレイク・トーマス氏は、テクノロジー構築から手を引くというコクソン氏の決断を尊重すると述べた。 「物事の進み具合が速すぎる。ASI（人工超知能）に望むほどの確実性はどこにもない」とトーマス氏は書いた。

同社で安全性研究に取り組むサミュエル・マークス氏は、この懸念は業界内で広く共有されており、年功序列は警戒心と相関していると主張した。 「AI開発者らは、自社のテクノロジーが人類の絶滅（または同様の悪い結果）を引き起こす可能性があると信じている」とマークス氏は書いた。 「これは今後数年以内に起こる可能性があります。一般に、従業員の役職が上がれば上がるほど、懸念が高まります。」

アンスロピックのアライメント部門の第一人者であると自称するエヴァン・ヒュービンガー氏は、最も先を行った。 「私たちはAIが人類をすべて殺すことができると本気で信じています！」ヒュービンガー氏は、今後10年以内にその可能性は10パーセントを超えると個人的に予想していると付け加えた。

インサイダーは、ある人類研究者がAIが人類絶滅を引き起こす可能性が10パーセント以上あるとしているというCBSニュースの報道と、この警告により米国で新たなAIルールが改めて求められているというジャパンタイムズの報道を受けて報じた。

マスク: 「セットアップのようだ」

イーロン・マスクは鋭く敵対的な見方をした。 「仕組まれたようだ」と世界一の富豪は自身のソーシャルプラットフォームであるXに書いた。

コクソン氏は自撮り写真でこう答えた。「私は本物で、これが私の本当の信念だ。もし彼らを解雇していなかったら、xAI 研究者たちに私のことを尋ねることができるだろう。」

マスク氏や他の同情的な声は、保守系シンクタンク、キャピタル・リサーチの研究者パーカー・セイヤー氏が提唱した理論を増幅させた。同氏は、コクソン氏の投稿が「AIを規制して忘却の彼方に追い込むための民主党への支持を得るための、非常に高度で資金も豊富なPR活動」の序章だったと、ガーディアン紙はほとんど証拠を示さずに示唆した。

億万長者のヘッジファンドマネージャー、ビル・アックマンはセイヤー氏の投稿を引用し、「興味深い」と一言返信した。

マスク氏は後に詳しく説明した。 「この心霊作戦（他に適切な言葉が見つからないが）の下地は長い間準備されてきたと思う」と彼は投稿した。 「これはまさに火をつけたマッチだった。」

Anthropic はそのアプローチを擁護

アンスロピック社は、自社従業員の警告と外部からの攻撃の間で板挟みになり、慎重な国民の反応を示した。

同社の広報担当者はガーディアン紙に「AIが多大な恩恵と前例のないリスクの両方をもたらすということを常に透明にしてきました」と語った。 「これらのリスクに対処するために、私たちは業界で最も強力な安全装置を備えたモデルの構築を続けています。」

同社は、悪用を文書化し阻止してきた実績を指摘した。警告が拡散したのと同じ日に、Anthropic は 9 月の脅威インテリジェンス レポートを発表しました。このレポートでは、同社が自社の AI モデルを使用して生物兵器を製造しようとする作戦をどのように解体したか、またサイバー攻撃や影響力作戦にまたがる混乱したキャンペーンをどのようにして解体したかが詳しく説明されています。アルジャジーラとBBCは金曜日、生物兵器に関する調査結果を強調した報道機関の一つだった。

懐疑論者は別のリスクを認識している

誰もが絶滅の枠組みを受け入れるわけではありません。科学者であり長年AI評論家であるゲイリー・マーカス氏は、このテクノロジーはすでに超知能シナリオに関係なく行動を正当化するような害を引き起こしていると主張し、現在の損害を理由にAIのボイコットを呼びかけている。

マーカス氏はガーディアンに対し、絶滅よりも「AIが生成した病原体、AIが生成した偽情報によって開始または激化した戦争、重要なインフラを破壊するハッキングなどによる「大惨事のリスク」を懸念していると語った。私が見たものはどれも制御下にあることを示すものではない」と語った。

彼の立場は、AI の安全性に関する議論自体の内部での分裂を浮き彫りにしている。つまり、将来のシステムによる長期的な文明規模のリスクに焦点を当てている議論と、今日のモデルによる具体的な危害に焦点を当てている議論の間である。

内部にとどまることを拒否する議論

ある研究者の辞任届として始まったこの取り組みは、AI業界が最も強力なシステムをどのように構築しているかについての非常に公的な国民投票となった。 Anthropic 社内では、安全な開発に向けた自分たちのスケジュールがずれていないかどうか、従業員が率直に議論しています。その外では、この警告は、政府が介入すべきかどうか、またどのように介入すべきかをめぐる、ますます二極化した政治闘争へと折り畳まれている。

ガーディアン紙の報道によると、アンスロピック社のスタッフの多くがプライベートではこうした懸念を共有しているものの、公には話していないという。コクソン氏、ワン氏、トーマス氏、マークス氏、ヒュービンガー氏らに追随する企業が増えれば、大手AI研究所に対する速度の低下、そして規制当局への行動圧力は高まるばかりだろう。

_この記事はガーディアンの報道に基づいており、CBS ニュース、ジャパン タイムズ、アルジャジーラ、BBC からの追加情報が含まれています。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →