Google DeepMind のデミス・ハサビス氏、フロンティアモデルのテストに米国主導の FINRA スタイルの AI ウォッチドッグを呼び掛ける

DeepMind CEO の Demis Hassabis は、AGI の前の「貴重な窓」を引き合いに出して、リリース前にフロンティア AI モデルをテストするために、FINRA をモデルとした米国主導の独立標準化団体を提案しています。

Google DeepMindのCEO、デミス・ハサビス氏は、フロンティアAIモデルを公開前に評価・規制するため、金融業界規制庁（FINRA）をモデルにした米国主導の独立した標準化団体の創設を提案し、人類には汎用人工知能が安全に開発されることを保証する「貴重な窓」があると警告した。

火曜日の朝、Xに掲載された「フロンティアAIのフレームワークと新時代の幕開け」と題したフレームワーク文書の中で、ハサビス氏は、米国が最も強力なAIシステムのための信頼できる規制インフラをどのように確立できるかについて、詳細な提案を提示した。この計画では、フロンティアモデルをテストし、その導入のためのベストプラクティスを開発する新しい組織の設立が求められています。この組織は AI 業界から資金提供を受けていますが、単一の企業から独立して運営されています。

最新の AI ニュース速報と詳細な政策分析については、AI Buzz Wire が業界を形作る動向を追跡しています。

提案された標準化団体がどのように機能するか

ハサビスの提案では、AI研究所は公開の最大30日前までに審査のためにフロンティアモデルを自主的に標準化団体と共有することになる。この導入前評価では、モデルの安全性、セキュリティ、および潜在的な誤用リスクを評価します。評価プロトコルが効果的で堅牢であることが証明されたら、フレームワークはプロセスを形式化し、フロンティアモデルが米国市場に導入される前にこのプロトコルに合格する必要があるようにすることを想定しています。

この提案は、最近の政府によるフロンティア AI システムの見直しによって明らかになったギャップに直接対処しています。今年の初め、米国政府は、Anthropic の Mythos モデルと OpenAI の Sol モデルのそれぞれのリリース前に、臨時の安全性レビューを実施しました。これらのレビューは、技術的な深みが欠けていることと、モデルが公的展開に十分安全であると判断される時期についての不透明な意思決定について、大きな批判を集めました。

ハサビスの枠組みの下では、こうした決定は、米国政府の支援を受けながらも政治的圧力から隔離された、技術専門家を配置した専門組織によって処理されることになる。研究所は標準化団体と協力して、リリース後に発見された重大な脆弱性に対処することも求められるだろう。

AGI 以前の「貴重な窓」

このフレームワークのリリースに伴うアクシオス、CNBC、およびエコノミストとのインタビューで、ハサビス氏は、現時点は汎用人工知能が登場する前にガバナンスメカニズムを確立できる狭いチャンスであると強調した。彼はこの期間を「貴重な窓」と表現し、その窓が無期限に開いたままではないことを暗示しています。

ハサビス氏は長年、プロアクティブな AI ガバナンスを提唱してきました。同氏の枠組みは、米国が正式なAI規制当局を創設すべきかどうか、創設する場合はどのような形を取るべきかについての議論が激化する中で登場した。 FINRA モデルが注目に値するのは、金融業界の自主規制組織が会員企業から資金提供を受けているものの、政府の監督下で運営されており、業界の専門知識と公的説明責任の両方が与えられているためです。

トランプ政権の抵抗

この提案は大きな政治的逆風に直面している。トランプ政権は、人工知能に関する新たな規制機関の創設に対して深い懐疑的な姿勢を示している。ホワイトハウスのAI顧問でa16zのゼネラルパートナーでもあるスリラム・クリシュナン氏（その後その職を離れている）は、行政府内にAI規制当局を設置するという考えを公に否定し、「AIのためのFDAは存在しない」と率直に述べた。

こうした姿勢により、政府当局者らは業界の最も著名な指導者らと対立することになった。 Anthropic や OpenAI などの企業は導入前の安全性テストを幅広くサポートしていますが、そのようなテストのメカニズムと権限については依然として議論が続いています。 Hassabis の提案は、標準化団体を最初は業界資金による自主的なものとして位置づけ、正式化はプロセスがその価値を証明した後に行われると位置づけることで、この針に糸を通そうとしている。

既存の取り組みに基づく構築

フレームワークはゼロから始まるわけではありません。これは、いくつかのフロンティア AI 企業が安全性テストとレッドチームに関してすでに行っている自主的な取り組みに基づいています。また、先進的なモデルを評価するための予備的な枠組みを確立した英国の AI 安全性協会や G7 のヒロシマ AI プロセスなどの国際的な取り組みも活用しています。

しかし、ハサビス氏の提案はさらに前進しており、リリース前にすべてのフロンティアモデルをテストする義務を負った、恒久的で十分なリソースを備えた組織の設立を求めているが、これは現在の機関が提供していないレベルの精査である。 FINRA の例えは、小規模な諮問委員会ではなく、何百人もの技術専門家による大規模で専門的な運営を示唆しています。

この提案は導入後のモニタリングにも言及しており、モデルが公開された後に発見された脆弱性について研究機関が標準化団体と協力することを義務付けている。これは、いくつかの注目度の高いモデルのリリース後に発生したジェイルブレイクや誤用事例が示すように、安全性リスクは発売時に終わらないという認識の高まりを反映しています。

業界の反応と次のステップ

このフレームワークは、AI 政策コミュニティ全体で大きな注目を集めました。支持者らは、信頼できる導入前テスト制度があれば、フロンティアモデルに対する国民の信頼を築き、壊滅的な悪用のリスクを軽減できると主張している。一部の自由市場支持者を含む批評家は、テストの義務化は中小企業やオープンソース開発者にとって規制上の障壁を生み出し、大手の既存企業を固定化させる可能性があると警告している。

ハサビスの提案には、どのモデルが「フロンティア」、つまり将来の規制体制の範囲を決定する基準となる質問に該当するかは明記されていない。また、特に米国の機密システムをクラッキングするために AI モデルが使用されているという最近の懸念を考慮すると、標準化団体が機密アプリケーションやデュアルユースアプリケーションをどのように扱うかは未解決のままです。

提案のタイミングは慎重です。今後数年以内にAGIの実現がますます現実味を帯びてくる中、ハサビス氏は、危険な能力が出現してからではなく、今すぐガバナンスインフラを構築する必要があると主張している。ワシントンが彼の呼びかけに応じて行動するかどうかはまだ分からない。