ローマ法王レオ、AI破滅懸念は「フェイクニュース」ではないと述べ、NVIDIAのジェンセン・ファン氏を批判

ローマ法王レオ14世は、AIの安全性を巡ってジェンセン・ファン氏とドナルド・トランプ氏を反発し、AIが暴走する可能性があるという懸念は「フェイクニュース」ではなく、真剣な行動が必要だと述べた。

教皇レオ14世は月曜、人工知能の暴走に関する懸念は「フェイクニュース」ではなく、真剣に受け止めるべきだと述べ、政府のガードレールなしでテクノロジーを開発すべきだと主張するテクノロジー企業幹部らを厳しく非難した。 AFP、AP、アルジャジーラが報じたロイター通信によると、4日間のフランス訪問を終えてローマに戻る教皇機内での記者会見で、教皇はまた、最初は名前は出さなかったが、AI規制に対するNVIDIAの最高経営責任者（CEO）ジェンセン・フアン氏の姿勢にも狙いを定めたという。

この発言はAI政策にとって重要な瞬間に着地した。ロイター通信の報道によると、ドナルド・トランプ大統領は火曜日、メタ社のマーク・ザッカーバーグ氏やアンスロピック社のダリオ・アモデイ氏を含むテクノロジーリーダーをホワイトハウスに迎える予定で、有力な科学者らが壊滅的なリスクを警告しているにもかかわらず、業界は規制に反対している。政府と AI 業界の衝突を追跡している読者のために、ワシントンからブリュッセル、バチカンまで AI Buzz Wire が最新の AI 開発を追っていますをご覧ください。

「懸念は真剣に受け止められるべきだ」

教皇は機内記者会見で、AIが人類に壊滅的なリスクをもたらすことを防ぐために、世界の2大AI大国である米国と中国が何をすべきかについて質問された。トランプ大統領は以前、AIが暴走するという懸念を「でっち上げ」だと発言していた。

「AIの専門家である多くの専門家が提起した懸念は真剣に受け止められるべきだと思う」と法王は述べ、AI専門家が提起した安全性の問題は議論され、それに基づいて行動されるべきだと主張した。同氏は世界に対し、「対話、研究、調査を促進し、AIが人類を滅ぼす可能性のある地点に到達しないようにする方法を見つける」よう求めた。

ジェンセン・ファンとの交流

最も的を射た瞬間は、レオがその日の朝読んだという発表に言及したときだった。それは、チップメーカーであるエヌビディアのトップが特定のAIモデルにガードレールを挿入する方法について説明したというものだった。教皇はこの使者についてあからさまに懐疑的な姿勢を表明した。

「しかし、制限を設けるべきではなく、政府の規制もすべきではないと主張するのは彼も同じだ」とレオ氏は述べた。これは、プールの報道によると、AIに関する安全性への懸念は誇張されているというトランプ氏の意見に同意したと今月初めにCBSニュースに語ったファン氏を直撃したものだ。

法王が言及した発表は、Nvidiaが新たに発表したOpen Agent Safety Platformと思われる。これは、自律型AIエージェントを監視し、不正行為を防止するために設計されたハードウェアとソフトウェアの取り組みである。皮肉なことに、この業界で最も価値のある企業は現在、安全技術を販売していると同時に、安全擁護派が強制するために必要だと主張する政府の規制に反対するロビー活動を行っている。

AI 警告に基づいて構築された教皇庁

月曜日のコメントは、レオの16か月にわたる教皇職の決定的なテーマとなったものを拡張するものである。アメリカ初の法王は、選出後数日以内にAIが人類が直面する最大の課題の1つであると特定し、自身の最初の回勅をAIと人類の保護に捧げ、5月のバチカンのイベントでAnthropicの共同創設者クリストファー・オラー氏と並んで個人的にこの文書を発表するという異例の措置をとった。

レオの下で、バチカンは国際的なAIガバナンスを支持するレトリックと取り組みを着実にエスカレートさせており、特に原子力技術、文化、芸術的創造などの分野に重点を置いている。 5月に発令された回勅は、AIの人的コストについてシリコンバレーに直接働きかけようとするバチカンの意図的な取り組みの一環であり、その取り組みは現在、公の場で挑戦的な幹部らにも広がっている。教皇は、意思決定者を招集する取り組みは継続する必要があると述べ、「政治指導者、AIの指導者、社会組織、団体を引き続き招待し、集まって、すでに何が起こっているのか、そして将来何が起こり得るのかを検討する必要がある」と述べた。

「それに真剣に興味を持っている人は十分にいると思います…しかし、私たちは取り組み続けなければなりません」と彼は付け加えた。

ローマ法王がシリコンバレーの皮を被る理由

レオの介入は、業界の現在の姿勢の中心的な矛盾をターゲットにしているため、重要です。ここ数週間、OpenAIは調整の失敗を理由にフロンティアモデルのリリースを中止し、NVIDIAやその他の研究機関はエージェントセーフティ製品を急いで生産し、ジェフリー・ヒントンやヨシュア・ベンジオを含む著名な科学者らは暴走する「知性の爆発」について警告しており、実際、法王の発言と同日だった。しかし、業界の主導的な声は、政府の規制がイノベーションを抑制すると主張し続けている。

教皇のメッセージは、両方が同時に真実であることはありえない、というものであった。安全ソフトウェアの販売を正当化できるほどリスクが現実であれば、ルールを正当化できるほど十分に現実であるということだ。今週、ホワイトハウスがAI幹部らのレッドカーペットを展開する中、レオ氏はバチカンを率直にそう表明する数少ない世界機関の一つと位置付けている。