世界のリーダーたちが年次国連総会のためにニューヨークに集まる中、事情に詳しい関係筋２人がロイターに語ったところによると、今週、中国のAI新興企業DeepSeekも人工知能がもたらすリスクについて国連安全保障理事会で説明する企業の１社となる予定だ。

15カ国からなる安全保障理事会は、AIと国際安全保障について話し合うため、9月23日に会合を開くことになっている。数週間後、数人のAI業界リーダーが、ますます強力になるAIシステムの開発を協調的に減速するよう求め、AIシステムが間もなく独自に改良され、人間の制御を超えてしまう可能性があると警告した。このストーリーの詳細については、現在進行中の AI 業界の報道 をご覧ください。

部屋に来る人は誰ですか

OpenAIのサム・アルトマン最高経営責任者（CEO）は会議の概要を説明する予定で、外交官らもアンスロピックの上級代表らの参加を期待しているとロイター通信が先週報じた。

中国側では、ディープシークとムーンショットを含む他の中国のAI企業が声明を発表するよう招待されている、と関係者の一人は述べた。 DeepSeek創設者の梁文峰氏は出席する予定はなく、計画は依然として流動的で土壇場で変更される可能性があると関係者は警告した。 DeepSeekとMoonshotはコメントの要請に応じなかった。

この会期は、世界の指導者が年次国連総会に集まり、その周りでサイドミーティングが増える中、ニューヨークは既に AI 外交で賑わっている 1 週間に開催される。このタイミングはディープシークにとって両道を切り開くものだ。中国政府の公式立場がシリコンバレーから出てくる減速の言説を拒否し続けているにもかかわらず、同評議会の宣告は、中国の主要な研究所が今やフロンティアAIリスクに関して不可欠な代弁者として扱われていることを示唆している。

米国の最も著名なAI幹部が中国で最も有名な無差別実験室と安全保障理事会の議題を共有するという異例の顔ぶれにより、水曜日の会合はこの議題を最初に取り上げて以来安保理が開催した中で最も重要なAI会議となった。

「暴走馬」から不正 AI へ

国際の平和と安全の維持を任務とする国連安全保障理事会は、2023年にAIのリスクについて初めて会合を開いた。その時でも断層は見えていた。中国はこの技術が「暴走馬」になるべきではないと警告する一方、米国は人々の検閲や弾圧にAIが使用されることを警告した。

3 年後、議論は仮説から事件報告に移りました。アントニオ・グテーレス国連事務総長は先週、世界の指導者らに対し、急速に進歩するAIは無視できないリスクをもたらすと警告し、既存の安全措置で十分であり、AI開発に疑問が投げかけられることで中国は利益を得ると主張するドナルド・トランプ米大統領と対立している。

壊滅的リスクに対する北京の国民の沈黙

ロイターの報道でより鋭い指摘の一つは、中国の研究所の指導者が述べていないことに関するものだ。 OpenAIやAnthropicなどの米国フロンティア研究所の責任者とは異なり、中国のトップモデル開発者の指導者らは、ますます高性能化するAIシステムが人間を欺いたり、制御を回避したり、壊滅的な危害を引き起こす可能性があるという可能性を公に明言することはめったになく、9月に米国で議論が激化して以来、こうしたリスクについてはほとんど沈黙を保ってきた。

中国国営メディアは、AI開発の減速を求める声を「冷戦戦略」に起因するものとして一蹴している。この戦略は、中国政府の言葉によれば、最先端技術における米国の優位性を維持し、世界のAI統治システムから中国政府を完全に排除することを目的とした取り組みである。

したがって、ディープシークの評議会への出席には二重の意味がある。それは同時に、世界的なAIリスクの議論に対する中国政府のこれまでで最も目立つ関与であると同時に、中国の研究所が壊滅的リスクの枠組みにそもそも関与するかどうかを試すテストでもある。

トランプ大統領と習氏の会談を控える

安全保障理事会の会合は単独で存在するわけではありません。スコット・ベッセント米財務長官は9月21日、今週後半にワシントンで予定されているトランプ大統領と中国の習近平国家主席との会談に先立って会談後、米国と中国の高官らがAIの安全性についてさらなる協議を行うことで合意したと発表した。

ニューヨークでの安全保障理事会の討論会と並行してワシントンで行われる一か八かのサミットのこの順序は、AIがいかに完全に技術政策ファイルから二国間関係の中心に移行したかを浮き彫りにしている。

何を見るべきか

水曜日の会議には 3 つの質問が残されている。リャンウェンフェンが考えを変えて出席するかどうか。 DeepSeekの声明が、米国の同業者が強調するトランプのリスク（欺瞞や制御の喪失）に関与するのか、それとも公平なアクセスと開発権というより安全な立場に留まるのか。そして、評議会が馴染みのある立場を超えた何かを生み出すことができるかどうか。

同評議会のAIに関する記録は薄く、初会合は2023年、事務総長は今月警告、拘束力のある枠組みはない。しかし、フロンティアAIのルールを誰が定めるのか、そしてその懸念が深刻に受け止められるのかをめぐる米中の新たな論争の舞台として、それにはライバルがほとんどいない。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→