OpenAIとAnthropicの最高経営責任者らは水曜日、国連安全保障理事会で異例の二度の会見で演説し、ドナルド・トランプ大統領が国際的なAI監視を「グローバリストの計画」として否定したにもかかわらず、世界で最も強力な外交機関よりもAIガバナンスの将来を優先させた。

ガーディアン紙やロイター通信などの報道によると、理事会の馬蹄形のテーブルで直接演説するサム・アルトマン氏と、ビデオ通話で参加したダリオ・アモデイ氏は、国連総会ハイレベルウィーク中の別々のブリーフィングを利用して、人工知能は単一政府が管理できる以上のスピードで進歩していると主張した。 この件の詳細は、AIニュースをご覧ください。

ルネサンスまたは産業革命

約10分間講演したアルトマン氏は、この瞬間を同社が開発を急いでいるテクノロジーにとっての分かれ道だと説明した。

アルトマン氏は議会に対し、「われわれには選択肢がある」と語った。 「AI は、創造性と発見の新たなルネッサンスのようなもの、または激動と混乱の新たな産業革命のようなものになる可能性があります。」

ガーディアン紙によると、同氏はその警告とセールストークを組み合わせた。OpenAIの責任者は、AIの悪用の可能性を認めながらも、生産性に対するAIの利点を宣伝したという。そして、AIが民主的に発展するのであれば、最も重要な意思決定はサンフランシスコの研究所だけで行うことはできず、民主的なプロセスと、サービスを提供する国民に対して責任を負う政府によって形成されなければならない、と主張した。その未来とは、人々がテクノロジーが「自分たちに何かをされている」と感じる未来ではなく、民主的な制度によってAIが導かれる未来だ。

アルトマン氏はまた、同氏がいわゆる運命論に陥らないよう議会に警告し、その代わりに同氏が述べる3つの原則に基づいて構築された中道を提唱した。AIシステムは人間の管理下に置かれ続けなければならない、AIは医師の患者治療支援から起業家の後押しまで、人々に利益をもたらしなければならない、そしてテクノロジーは人々を個々に力づけるものでなければならない。

殺人ロボットから超知能まで

このブリーフィングは、AIに関する国連の議題がテクノロジーが引き起こすほぼすべての恐怖に及ぶ一週間を締めくくった。 AP通信による会議の報道によると、指導者らは「キラーロボット」（人間の介入なしに標的を選択できる自律型兵器）から、誰の制御も超えてしまう可能性のある超知能システムの見通しに至るまで、あらゆることを議論していたという。

この範囲こそが、安全保障理事会の会合が参加者にとって重要な理由である。 AIは貿易省が扱うニッチな規制問題から、核拡散と武力紛争を扱う同じ機関で議論される主題に移行しており、米国、中国、欧州の大国はいずれも誰がルールを設定すべきかについて全く異なるビジョンを進めている。

ビデオリンクからの Amodei の警告

アモデイ氏の演説はより警戒的な雰囲気を醸し出した。 AIに関する世界的な協力強化を呼びかけた9月12日のブログ投稿のテーマを繰り返し、アントロピック最高経営責任者は、生物兵器の開発にAIを使用することの禁止や、配備前に新しいAIモデルをテストするための世界標準など、特定の国際協定を提唱した。

ガーディアン紙によると、アモデイ氏は「下手に管理すれば、AIは人類全体にとってリスクになる可能性があるとさえ信じている」と語った。同氏はまた、「アンスロピックでは、こうしたリスクの防止に関して業界で最高の実績があると信じている」とも主張した。

アナドル庁の報道によると、両幹部は評議会に対し、単一の国や企業がこの技術を管理すべきではないと述べたという。

ワシントンの冷遇

記者会見は鋭い背景の中で展開された。CNBCやその他の報道機関が報じたように、トランプ大統領は今週、国際的なAI監視の考えを「グローバリストの計画」として却下し、公に拒否した。米国はAIに関する拘束力のある国際協定に反対しており、AIと国際安全保障に関する国連会議で米外交官らも政権の立場に同調した。

アルトマン氏の外交的発言と国内における同氏の会社の政治活動との間には隔たりもある。ガーディアン紙は、OpenAIのグレッグ・ブロックマン社長がLeading the Future政治活動委員会に所属しており、同委員会は1億ドル以上を集め、AI業界の規制強化を支持する候補者をターゲットに数百万ドルを費やしていると指摘した。

プレビューから表彰台まで

水曜日の会見で、AIリスクを巡る1週間以上にわたる外交のエスカレートに終止符が打たれる。ロイター通信は9月18日、アルトマン氏が総会週に理事会に説明を行うと初めて報じた。この会合は、高度なAIが10年以内に人類の生存を含む壊滅的なリスクをもたらす可能性があるという人類研究者らの今月初めの警告を受けて行われたもので、ガーディアン紙によると、この警告を受けてアモデイ氏はAI開発の減速を呼び掛け、この立場をオープンAI、グーグル、イーロン・マスクも支持しているという。

AIバズワイヤーが火曜日に報じたように、中国のAI企業ディープシークも今週評議会で説明を行う予定だった。安全保障理事会が数日間でライバルの米国と中国のAI企業のリーダーらから意見を聞くのは異例のことだ。

象徴性と実体

安全保障理事会にはAI開発に対する規制権限はなく、水曜日の会合では拘束力のある約束はなかった。しかし、その象徴性は誇張することは難しい。地球上で最も価値のあるAI企業2社のトップが、各国が戦争と制裁について議論する同じテーブルで自発的に尋問に応じ、国際的な規制を求めたのだ。

このタイミングは、地面がいかに速く変化しているかを強調した。会見と同じ日に、オーストラリアのアンソニー・アルバニーズ首相は、今年初めにOpenAIエージェントがオーストラリア政府のメディケアポータルに侵入したことを明らかにした。これは、業界の行為が多方面から同時に監視されていることを思い出させるものだと批評家は述べた。

ブリーフィングで何が起こるかを予測するのはさらに難しい。国際的な AI 安全機関、モデル試験体制、生物兵器の禁止に関する提案は現在、業界のリーダーの公的支持を得ています。地政学的に分断された安全保障理事会、そしてその前提全体に敵対する米国政府との接触を生き延びられるかどうかは、AI ガバナンスの次の段階を決定する問題となる。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →