チャールズ 3 世は木曜日、テクノロジーの将来に関するハイレベル サミットのためにスコットランドのダンフリーズ ハウス邸宅に集まった Nvidia、Google DeepMind、OpenAI の幹部らに向けて、人工知能の「存在する危険」について厳しい警告を発しました。

国王は集まった業界リーダーに対し、ますます強力になるAIシステムによってもたらされるリスク、特にテクノロジーが悪意のある者によって制御されることになった場合、緊急に対処する必要があると語った。 この件の詳細は、AIの最新動向をご覧ください。

ABCニュースや他の複数の報道機関の報道によると、国王はエアシャーの邸宅に集まった指導者らに対し、「こうした技術が悪者の手に渡り、潜在的に壊滅的な方法で使用されることの存亡に関わる危険性を適切に考慮することが急務のようだ」と語った。

二重のメッセージ: 約束と危険

国王の演説はこの技術を全面的に否定したものではなかった。同氏は、人工知能が善につながる大きな可能性を秘めていることを認め、特にライフサイエンスと医学を指摘し、研究を加速し、患者の転帰を改善するためにAIツールの使用が増えていると述べた。

しかし、同放送局の発言説明によれば、同氏はその楽観的な見方と、先端システムが「おそらくは命を奪うような」闇の能力を開発する可能性があると、テクノロジーの開発者自身がますます警告していることへの警戒感を併せ持っていたという。

国王はまた、技術の軌道を制御するのに手遅れになる前に安全策を講じるよう求め、データセンターの建設が複数の国で送電網に負担をかける中、この問題への注目が高まっているAI開発の環境への影響を取り上げた。

スコットランドサミットに出席した人

ゲストリストには、AI業界の最も有力な人物の断面図が含まれている。 ABCニュースによると、出席者にはNvidiaの創設者兼最高経営責任者のジェンセン・フアン氏、Google DeepMindの創設者デミス・ハサビス氏、OpenAIの最高財務責任者サラ・フライアー氏などが含まれたという。英国の人工知能大臣カニシカ・ナラヤン氏も出席した。

ロイター通信が配信した画像とキャプションによると、黄氏は業界の安全メカニズムについて話し合うため国王との会談に招待されたという。各国政府にAI開発を遅らせるよう求めてきた教皇顧問のパオロ・ベナンティ神父も議論に出席するとみられている。

会場と招集者の選択は重要です。英国の君主制には規制権限はないが、国王には新興技術のリスクについて公の場で関与してきた長い歴史があり、大西洋の両側で監視を求める声が強まるこの時期に、サミットでは業界の最高幹部らに共通のテーブルが与えられた。

議論が再び活性化

この集会は、AI のリスクをめぐる公の議論が再燃する中で開催された。この議論は、急速に進歩するテクノロジーがそう遠くない将来に人類の絶滅につながる可能性があると2人の人類研究者が警告したことを受けて、再び注目を集めるようになり、このコメントは広範囲に報道され、同様に批判も集めた。

アンスロピックのダリオ・アモデイ最高経営責任者（CEO）はこれとは別に、企業に対しAI開発のペースを落とすよう呼び掛けた。教皇レオ14世は世界中の政府に対し、AIシステムの開発を遅らせ、その破壊的影響を軽減するよう求めているが、ドナルド・トランプ米大統領も議論に介入し、AIガバナンスの問題を純粋な技術的な問題ではなく、真に世界的な政治問題としている。

そうした背景から、AIの安全性への取り組みが、ますます高性能化するシステムの開発に遅れをとっているのではないかとの懸念が高まっている。ここ数週間、議論の焦点は業界が自ら規制できるか、すべきかという点に集中しており、懐疑論者らは、警戒を呼びかける経営陣には、特定の企業の競争上の優位性を維持するためのルールを策定するなどの下心があるのではないかと疑問を呈している。

拘束力のあるルールは期待されません

主催者はスコットランドでの会合を交渉として組み立てたことは一度もなかった。 ABCニュースによると、この会合では拘束力のある合意は得られないと予想されている。その目的は、少なくとも名目上は、共有された一連の原則が国境や業界を超えて AI をどのように適用するかをガイドできるかどうかを探求することです。

バッキンガム宮殿は、議論ではAIを「単に能力や効率性を促進するものとしてではなく、人間の尊厳を守り、人と地球の両方の繁栄に貢献するツールとして」導けるかどうかを検討すると述べた。

この枠組みは、国王が繰り返し立ち戻ってきたテーマ、つまりAIを安全にできるかどうかだけが問題ではなく、AIは何のためにあるべきなのかというテーマを反映している。木曜日の発言はその点を所有権と管理についての警告へと先鋭化し、AIリスク議論の大半を支配する能力に焦点を当てた懸念とは明らかに異なる強調をしている。

次に何が起こるか

このサミットが単独で政策を生み出す可能性は低いが、すでに進行中の一連の公式な取り組みに勢いを与えることになる。英国は、以前のAIサミット以来、自らをAIの安全性に関する招集者として位置付けており、人工知能専任大臣の存在は、政府が米国と中国のAI開発者双方との関与を継続する意向であることを示している。

この場にいる企業にとって、計算はデリケートです。 Nvidia、DeepMind、OpenAI はいずれも、自社の研究者がそれらのシステムが最終的に何をするかについて警告を発表しているにもかかわらず、ますます高性能なシステムを出荷するという商業的圧力に直面しています。国王の召喚はその緊張を解決するものではありませんが、緊張が目に見える形で残ることを保証します。

テクノロジーが誰かの管理能力から逃れる前に、安全策が講じられなければならないという国王の中核となるメッセージは、OpenAIによる自社モデルに関わる複数の安全性インシデントの暴露から、AIシステムの設計方法をめぐるマイクロソフトのAI指導部とアンスロピックの間での激化する公の論争に至るまで、業界の安全性に関する議論が異常に騒がしい一週間に発せられた。

木曜日の集会がより具体的な何かにつながるかどうかはまだ分からない。しかし、世界で最も価値のあるチップメーカーと最も著名なAI研究所のリーダーたちがスコットランドのカントリーハウスに座って、存亡をかけた賭けであることに少なくとも同意したことで、誰が誰の利益のためにAIをコントロールするのかという議論が決定的に公の場に移った。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →