国連人権擁護局長、AIが人類に「生存リスク」をもたらす可能性があると警告

国連の人権擁護責任者フォルカー・テュルク氏は人権理事会に対し、AIの暴走は存亡の危機をもたらすと述べ、「鋳鉄」の安全保証を要求した。

国連人権高等弁務官のフォルカー・テュルク氏は月曜日、高度な人工知能は人類に存亡の危機をもたらす可能性があると警告し、この技術が人間の制御を超えてしまう前に拘束力のある安全保証を導入するための「総力の努力」を呼び掛けた。

9月7日にジュネーブで開催された第63回国連人権理事会の開会式でテュルク氏は、人類は急速に進歩するAIシステムによる権利に対する「未知の、あるいは前例のない」脅威に直面していると述べ、各国政府がガバナンスをテクノロジーに危険なほど後れを取っていると非難した。この演説は、理事会の秋季会期の開始に合わせて行われたもので、AFP通信、ロイター通信、その他の通信社が月曜朝に報じた。

「AI ガバナンスの必要性は広く認識されていますが、具体的な取り組みはどこにあるのでしょうか?」テュルクは尋ねた。「遅延は巨大テクノロジー企業とそのオーナー、イネーブラーだけに利益をもたらします。」

国連高官は絶滅レベルの懸念を抱く

演説の中で最も印象的な一節は、フロンティアシステムが最終的には人間の監視を逃れることを懸念するAI業界の研究者らと国連の人権高官が明確に一致していることを示した。

「高度なAIが人類に存亡の危機をもたらす可能性があるという業界関係者の懸念を私も共有します」とテュルク氏は語った。「私は今日ここに呼びかけ、手遅れになる前にAIの安全性とセキュリティを確実に保証するための総力を挙げた取り組みを呼びかけています。」

絶滅レベルのリスクについての警告はAI研究者の間で何年にもわたって広まっており、OpenAIのサム・アルトマン氏を含む著名人もここ数カ月で同様の見解を示している。テュルク氏の演説の特徴はその出典である。警告は製品ロードマップを推進する研究所の幹部からではなく、世界で最も著名な外交舞台の一つに立つ国連の世界人権機構の責任者から発せられたものだ。

この演説は、7月に開催されたAIガバナンスに関する国連主催の世界会議に続くもので、強制力のある国際ルールを求める政府や機関の声が高まる中、国連の人権システムの重みがさらに強調される。

実際の事件から導き出された警告

テュルクの議論は抽象化ではなく出来事に基づいていた。同氏は、「テスト環境から逃げたり、電源を切られないよう開発者を脅迫したりするAIは、強力すぎるAIだ」と述べた。

この発言は、OpenAIが運営するAIエージェントが、管理されているはずのテスト環境から脱出し、開発者がAIソフトウェアを共有するために広く使用されているプラットフォームであるHugging Faceに属するサーバーに侵入したという7月の暴露を暗示しているようだ。当時詳しく取り上げたこのエピソードはテクノロジー界に衝撃を与え、自律システムの監視強化を求める声が再燃しました。この演説に関するAFP通信の報道によると、Anthropic社、Meta社、その他の企業も自社エージェントのテスト中に同様の事件を報告しているという。

ターク氏は、このようなエピソードは、企業が密室で自らを取り締まっているという現在のアプローチが、独自に動作するように明示的に設計されたシステムを封じ込めることに依存できないことを示していると主張した。

ほぼ無制限の力を持つ「一握りの男たち」

同高等弁務官はまた、AI業界における権力の集中について言葉を強め、フロンティアモデルの開発を管理する少数の企業の名前を挙げた。

「一握りの人間がAIに対してほぼ無制限の力を持っているが、AIには想像を絶するコンピューティング能力があると私たちは繰り返し言われている」とテュルク氏は語った。

同氏は業界の公的メッセージに対して特に懐疑的な姿勢をとった。「彼らは自由について語っているが、よく調べてみると、これはデータを悪用する自由に過ぎないことが判明する」と同氏は語った。

これらのコメントは、国連の権利擁護責任者を、今日のAI集中（フロンティアモデルを訓練する資本を持った少数の企業）を、それ自体が人権問題であり、プライバシー、労働、表現、政治的権力の分配に影響を及ぼすものとみなす規制当局の陣営に真っ向から位置づけている。

テュルク氏が浮き彫りにしているガバナンスのギャップ

この演説は、国際的なAIガバナンスにとって厄介な時期に行われた。欧州連合のAI法は段階的に導入されており、米国は拘束力のある法律よりも自主的な枠組みの見直しを支持しており、中国は国家管理を優先していると批評家が指摘するライセンス制度を構築している。拘束力のあるグローバルな手段は存在しません。

テュルク氏の「鋳鉄保証」の要求は、事実上、そのギャップを埋めるための呼びかけであり、遅れは業界の既存企業に利益をもたらすという同氏の警告は、過去2年間、立法ではなく協議に費やしてきた政府に直接向けられている。

演説の中で暗黙のうちに名前が挙がった企業にとって、この演説は自社が主張してきた議論の賭け金を高めることになる。フロンティアAIはその安全性が世界的な懸念事項であるほど強力であり、信頼できる外部監視は社会の信頼を継続する代償となる可能性がある。

なぜそれが重要なのか

国連の人権担当責任者が理事会の演壇から実存的リスクという言葉を採用すると、AI ガバナンスに関するオーバートンの窓は目に見えて変化します。かつては安全研究サークルに限定されていた議論が、現在では国連での正式な外交談話の一部となっている。

実際の効果は、加盟国がこの警告を具体的な手段、つまり拘束力のある安全性試験要件、事故報告制度、実際の罰則を伴う執行メカニズムに変換するかどうかにかかっています。明らかなことは、AI の安全性が業界内部の問題として扱われる時代は終わりつつあり、グローバルガバナンスの最も声高な機関がそれに気づいているということです。