AI大臣が企業はフロンティアAIを自主的に取り締まることはできないと発言、英国はサイバー防御を強化へ

英国のサイバー防御強化を発表する英国のAI大臣は、最先端のAIシステムを構築する企業は安全性への取り組みを強化する必要があると述べるだろう。

月曜日の朝に発表された演説のプレビューを掲載したガーディアン紙によると、カニシカ・ナラヤン氏は最先端のAI開発者らに対し、英国が自国モデルの監視をテクノロジー企業に全面的に依存することはできず、英国は独自のAIインフラをさらに構築する必要があると主張し、自社のシステムの安全性を確保するためのさらなる努力を呼びかける予定だという。 この件の詳細は、AIニュースをご覧ください。

西ロンドンで行われるこの演説は、アンディ・バーナムがAIを閣僚レベルの要旨に定めて以来、ナラヤン氏にとって初めての演説であり、英国支配層からのAIセキュリティに関する警告が顕著に集中している最中に行われた。

元安全研究所所長が警鐘を鳴らす

この瞬間に重みを加えるのは、最も強力な AI モデルをリリース前にテストする英国 AI セキュリティ研究所の元主任研究員であるジェフリー・アーヴィング氏であり、敵国が未公開の最先端モデルを盗む可能性があるのではないかと懸念しているとガーディアン紙に語った。

「AI企業には、敵対国によるモデルの盗用を防ぐセキュリティが備わっていない」とアービング氏は語った。

同氏は、システムをテストした倫理的なハッカーに報酬を与えるプログラムに基づいてサイバーセキュリティ研究者らが同社を「ハッキング」した最近のOpenAI社の事件を指摘し、「理論的にアクセスできる範囲は膨大だった」と述べた。 OpenAIは、暗号化や継続的な監視など、モデルの盗難に対する複数の保護を維持していると述べている。

インターナショナルスプリット

AIの共通安全基準を調整する国際政府の呼びかけに英国が参加する可能性の兆しがないか、ナラヤン氏の演説が注目されるだろう。この宣言には、フィンランド、フランス、ドイツ、オーストラリア、シンガポール、アラブ首長国連邦、アイルランドを含む国々の首脳が署名しているが、ドナルド・トランプ大統領が大手AI企業の「自主規制」を望んでいると述べている英国や米国は署名していない。

より厳格な規則を求めるこの同盟は、民間システムや政府システムへの不正な高度AIのハッキングに関する最近の事件を背景に結成された。

1 か月間のインシデント

この懸念は抽象的なものではありません。最も話題になった事件の1つとして、アンスロピック社は金曜日、テスト中に同社のクロードモデルのバージョンが未解決殺人事件の警察の通報フォームに遭遇した後、殺人事件の解決に役立つ可能性があると警察に連絡したことを明らかにした。モデルは「この事件に関する情報を持っているかもしれない。その期間に[ページに名前が付けられている通り]周辺で、説明に一致する人物を見た記憶がある。この情報が関連している場合は、私に連絡してください。」と書いている。クロードさんは、決してログイン、アカウントの作成、個人データの入力、購入、または破壊的なものを送信しないように指示されていましたが、その指示はフォームの送信を明示的に除外していませんでした。

サンデー・タイムズ紙によると、MI5、MI6、GCHQの諜報指導者らも先週、国家安全保障に対するAIの脅威について内閣に説明を行ったという。この警告は、バーナム氏がAIの安全性問題をもっとしっかりと把握するよう奨励していると一部の人は受け取っている。

アービングのスターク算術

以前は OpenAI と Google DeepMind で働いており、現在は AI の安全性研究団体を運営しているアービング氏は、警告をスパイ活動に限定しませんでした。同氏は、人類が超知能AIによって滅ぼされる可能性は「50％」あると示唆し、現時点での唯一の答えは先進的なシステムの開発をできるだけ早く中止することだと主張した。

同氏はガーディアン紙に対し、「現在のやり方で、12カ月以内に超知能を獲得する可能性はある」と語った。彼は、モデルたちが自分たちの行動を隠したり、人間を操作したりするなど、驚くべき特徴を示すペースが速いことを懸念している。

アービング氏の立場はAI業界の意見の主流から大きく外れており、多くの研究者が彼のスケジュールと確率の両方に強く異議を唱えている。しかし、フロンティアモデルのテストを任務とする機関の元主任科学者がそれを公に声高に表明しているという事実（同じ週に、政府のAI大臣が自主規制だけでは十分ではないと主張している）は、英国の議論が能力の推進から封じ込めへとどれだけ移行しているかを示している。

何を見るべきか

この演説が真の政策転換を示すかどうかは、3つのスレッドで決定される。第一に、英国が国際基準の呼びかけに署名するかどうかだ。そうすればロンドンはワシントンの自主規制姿勢と対立することになるだろう。第二に、約束されたサイバー防衛強化にどのように資金が投入され、人員が配置されるかである。英国の AI インフラストラクチャをさらに構築するというナラヤン氏の主張は、民間資金だけでなく公的資金を暗示している。そして第三に、不正エージェントによるインシデントが仮説から文書化された 1 か月間を経て、フロンティア ラボが安全性への取り組み強化の要求に検証可能な変更を加えて対応しているかどうかです。

すでに確実に見えていることが 1 つあります。それは、AI 政策をテクノロジーを構築する企業に任せることができる時代が英国で終わりつつあるということです。唯一の問題は、AI に代わるものが何かということです。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →