OpenAIの最高経営責任者サム・アルトマン氏は、来週ニューヨークで開催される国連総会に向けて世界の指導者が集まる年次会合の際に、国連安全保障理事会に直接報告する予定だとロイター通信が金曜、OpenAIの広報担当者の話として報じた。

この説明は、水曜日に予定されている人工知能と国際安全保障に関する安全保障理事会の公開会議で行われ、その際に15人のメンバーからなる機関が総会のハイレベル週間に招集される。この会合は9月の理事会議長国であるフランスが招集し、フランスのジャンノエル・バロー欧州・外務大臣が議長を務める。 この件の詳細は、人工知能の最新情報をご覧ください。

OpenAIの広報担当者はロイターに対し、「サム・アルトマン氏は来週、国連安全保障理事会の公開会議で直接概要を説明する予定だ」と語った。

アルトマンが言うべきこと

ロイター通信によると、アルトマン氏の発言は、国際的な調整と共通の安全基準の必要性、そして世界中の人々がAIの恩恵を受けられるようOpenAIが講じている措置に焦点を当てるものと予想される。

この登場により、各国政府が高度なAIを単なる経済的機会としてではなく、国家および国際安全保障に直接影響する技術として位置づけることが増えている現在、世界で最も著名なAI幹部が国際平和と安全の維持を任務とする組織の前に立つことになる。

人間も部屋にいるかもしれない

外交官らはロイターに対し、アンスロピック氏も高レベルの出席を期待しているが、参加は確認されていないと語った。アンスロピック社はコメントの要請にすぐには応じていない。

Anthropic が登場することは、能力が高まるシステム開発の協調的な減速を求める声など、ここ数カ月のフロンティア AI リスクに対する同社の姿勢が注目を集めていることを考慮すると、特別な反響を呼ぶだろう。この安全保障理事会の会合は、数人のAI業界リーダーが協調的な減速を促し、AIが間もなく自らの能力を向上させ、人間の制御を超えてしまう可能性があると警告してからわずか数週間後に開催された。

フランスの緊急事態

理事会メンバーに配布され、ロイターが閲覧したコンセプトノートの中で、フランスは「国際社会全体の利益のために人工知能の安全で責任ある開発を促進するための行動の緊急性」を強調した。

このメモでは、AIが悪意のある目的で悪用されるリスクについて言及しており、この会議の目的は、国際の平和と安全に影響を与える行動を開発、促進、実行するための制御不能、または最新のAIモデルの使用に関連するリスクの分析を参加者に発表させることであると述べた。

おなじみのテーマに戻る評議会

安全保障理事会は以前にもAIについて取り上げたことがあります。同委員会は2023年に人工知能のリスクについて初めて会合し、中国は人工知能が「暴走馬」になるべきではないと警告し、米国は人々の検閲や弾圧に人工知能を使用することに対して警告した。水曜日のセッションは、その取り組みが大幅にエスカレートすることを意味する。以前のミーティングでは一般的な警告が聞かれたが、来週のセッションでは、AIブームの中心に製品を置く同社のCEOによるライブブリーフィングが含まれる予定だ。

アルトマン氏は、現在の商業的成功の波が到来するずっと前から、高度な AI リスクについて警告してきた。 2015年の「機械知能、パート1」と題されたエッセイの中で、彼は「超人的な機械知能の発展は、おそらく人類の存続に対する最大の脅威である」と書いた。これはOpenAIの台頭以前からの考え方であり、同氏が評議会で演説する際に必然的に再浮上することになるだろう。

なぜそれが重要なのか

この会見の象徴性はいくら強調してもしすぎることはない。安全保障理事会で演説するテクノロジー企業の幹部は、核拡散やサイバー戦争と並んで、AIが国際安全保障の議題のどこまで押し上げられているかを示唆している。これはまた、議論自体の変化を反映している。著作権、雇用、誤った情報に関する議論に支配された2年間を経て、国連の招集権限は、制御の喪失、悪意のある使用、共通の国際基準の欠如など、フロンティアリスクに真っ向から向けられている。

そこから何が起こるかは別の問題です。安全保障理事会には AI 開発に対する規制権限はなく、新興テクノロジーに関する決議には歴史的に拘束力がありません。しかし、この会議は各国政府に立場を主張する舞台を与え、AI企業にとってはどの製品の発表にも匹敵するような外務大臣や国家元首の聴衆を得ることができる。フランスが緊急性を求めており、米国の両大手AI研究所の出席が見込まれていることから、水曜日のセッションはAIガバナンスが世界の安全保障外交の議題に固定項目となった瞬間を示すものとなるかもしれない。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →