国連のアントニオ・グテーレス事務総長は今週、人工知能に関してこれまでで最も強力な警告の一つを発し、各国政府が国連総会のハイレベル週間に向けてニューヨークに集まる準備をしている中、世界は「AIの安全性をめぐって最下位を目指して競争する余裕はない」と宣言した。世界指導者年次総会に先立って記者団に語ったグテレス氏は、AIの暴走を気候危機と不平等の深刻化と並べて、地球が直面する3つの存亡の脅威として位置付けた。
ロイター通信、国連ニュース、および世界中の報道機関が報じたこの発言は、緊迫したタイミングで行われた。米国政府がより軽いタッチを示唆しているのと同じように、国連はAIガバナンスに関する国際協調の拘束力を求めており、ロイター通信は、トランプ大統領がAI規制強化の必要性を軽視したことを受けて国連事務総長が警鐘を鳴らしたと指摘した。
「深い不確実性の時代」
グテーレス事務総長は、指導者たちがニューヨークに到着する6日前に記者団に会見し、世界は「深い不確実性の時代」に入ったと述べた。同氏は、保健、教育、気候科学などの分野におけるAIの「巨大な可能性」を認めたが、そのリスクについて人間が理解するよりも速く技術が進歩していると警告した。
同氏は、「世界はAIの安全性をめぐって競争をする余裕はない」と述べ、国内のルールだけでは十分ではないと主張した。 「国家的な行動は不可欠ですが、世界的な調整も不可欠です。」
事務総長はまた、フロンティアAI開発の自主的な一時停止が、少数の国に限定され、検証不可能であったり、適用が不均等であったりする孤立した状況において機能し得るかについても懐疑的な姿勢を表明した。米中間のAI軍拡競争への懸念が高まる中、同氏は、地政学的な分断により調整の必要性が低下するどころか、調整が困難になることを認めた。同氏は、「リスクが大きくなりすぎた場合にはAIの開発を遅らせる必要があると考えるのであれば、善意以上のものが必要だ」と述べた。
国連の新たな AI ガバナンス機構
このレトリックの背後には、過去 2 年間にわたって静かに形成されてきたガバナンス アーキテクチャがあります。未来のための協定の一環として2024年に国連加盟国によって採択されたグローバル・デジタル・コンパクトでは、AIのリスクと機会を評価する科学機関と、各国政府がアプローチを調整できる年次フォーラムという2つの新しいメカニズムが求められている。総会は2025年8月に両方を正式に設立した。
1つ目であるAIに関する独立国際科学委員会は、7月1日に暫定報告書を発表した。同委員会は、AIの能力は、特に推論、コーディング、科学研究において急速に進歩している一方で、誤った情報、差別、プライバシー侵害、サイバー攻撃、制御が困難になる可能性のある「超知能」の形態などのリスクを指摘していると結論づけた。
2 番目の「AI ガバナンスに関するグローバル対話」は、このペアの対応側として設計されています。パネルは証拠を提供し、各国はそれをどう扱うかを決定します。
グテーレス氏は、パネルが情報に基づいた世界的な意思決定の基盤であると指摘し、政府に対し「人間の尊厳を中心にしながら、AIを安全、透明性、責任あるものにする」ガードレールを構築するよう求めた。彼はまた、発展途上国の AI インフラストラクチャと能力の構築を支援する AI 児童安全誓約と AI のための世界基金という 2 つの具体的な取り組みを推進しました。
拡大する大西洋を越えた分断
国連事務総長の介入は、欧州の規制推進と米国の規制緩和方向との間の明白な分裂のさなかに上陸した。欧州連合がAI法を施行し、国連機関が評価メカニズムを構築する一方で、米国政府はイノベーションと競争力を重視しており、ロイター通信は、グテーレス氏や他の当局者が提起し続けているAIリスクへの懸念をトランプ大統領が軽視していると報じた。
効果的な規制につながるサミットを国連がどれくらい早く開催できるかとの質問に対し、グテーレス氏は、来週の総会中に開催することは不可能だが、官民、科学、市民社会部門の「全員が参加」し、すぐに開催されるはずだと述べた。
彼の口調の緊迫感は、業界内部からの最近の一連の警告を反映している。今月初め、アンスロピックの元研究者は高度なAIが人類の存亡を脅かす可能性があると公に警告し、グテーレス氏自身の発言はこのテクノロジーの軌道を国際社会がもはや先送りできない問題として位置づけた。
次に何が起こるか
総会のハイレベル週間が始まると、ガザとウクライナでの戦争に関する議論と並んで、AIが目立って取り上げられることになる。国連の科学委員会と世界的対話がトークショップから国家政策に真の影響力を持つメカニズムに進化できるかどうかは依然として未解決の中心的な問題であり、多国間機関が統治しようとしているテクノロジーに近いスピードで動けるかどうかが試される問題でもある。
今のところ、世界の指導者たちに対する事務総長のメッセージは明確だ。リスクは世界的だがガバナンスはそうではなく、その溝を埋める余地は狭まりつつある。
_時代の先を行きましょう。 AI Buzz Wire で、AI ルールをめぐる世界的な戦いと人工知能に関する最大のストーリーをフォローしてください。
