英国がOpenAIとAnthropicの支援を受けて1億ポンドを投じて世界初のAIバイオセキュリティ研究所を立ち上げた

英国政府は AI バイオセキュリティ研究所に 1 億ポンドの資金を提供し、さらに OpenAI と Anthropic が生物学的脅威の検出に最大 2 億ポンドを投入する予定です。

英国政府は、1億ポンドの政府資金とOpenAIとAnthropicからの最大2億ポンドの支援を受けて、世界初のAIバイオセキュリティ専門組織と言われるAIバイオセキュリティラボの創設を発表した。内閣府は金曜日、より広範な国家AIバイオセキュリティイニシアチブの一環としてこの計画を発表した。

総合すると、政府と業界は、創薬を加速する同じ AI システムが危険な病原体を操作する障壁を低くしないことを保証することを任務とする機関に最大 3 億ポンドの資金を投入すると約束している。

AI バイオセキュリティラボが行うこと

政府の発表によると、この研究所（略称AIBL）は、最先端のAIと生物科学の才能を結集させ、英国の生物学的脅威を理解し、予防し、検出し、対応する能力を向上させる実践的な技術能力を開発する予定だという。初期の作業プログラムは、新たな生物学的脅威の早期発見の強化と、ワクチン、治療法、その他の医療対策の開発の加速という 2 つの優先事項に焦点を当てています。

この研究所は、英国の国家バイオセキュリティセンターやライフサイエンス産業と提携してフロンティアAIを活用し、英国、そして政府が主張する世界が病気の発生に対してより迅速に対応できるようにするという明言された目標を掲げている。これは、2023 年以降、パンデミックへの備えを枠組み化し、脅威を生物学的リスクの単一の連続体として設計した英国の既存の生物安全保障戦略に基づいています。

政府が今動く理由

内閣府の発表は、デュアルユース問題に関して異例に直接的だ。 AIの進歩は、科学的発見の前例のない機会を生み出していると同時に、生物学的リスクの状況を変えていると同報告書は指摘している。AIは病気の理解を改善し、対策の開発を進めることができるが、ますます高性能なシステムは有害な活動に対する障壁を下げる可能性もある。

この懸念は、過去 1 年間で仮説から実証へと移りました。 AI モデルが実行可能なウイルス様ゲノムを設計した研究を含む、科学報道で広く取り上げられた研究は、有益な能力と危険な能力の間の境界線が、バイオセキュリティコミュニティがかつて想定していたよりも薄いことを示しています。英国の答えは、攻撃面が成熟する前に、その方程式の守備面を制度化することだ。

OpenAI と Anthropic Take On の取り組み

今回の発表で最も注目すべき点は資金調達構造だ。政府は、1億ポンドの公的資金を超えて、OpenAIとAnthropicが両社間で最大2億ポンドの資金提供を行っていると述べている。ザ・シティA.M.同紙は、Google DeepMind もこの取り組みの業界支援者の一人であると報じたが、政府自身のリリースでは、同社の取り組みの情報源として OpenAI と Anthropic を挙げている。

研究室にとって、この取り決めはよく知られた取り組みの形式です。 Anthropic は安全研究を中心に商業的アイデンティティの多くを構築してきたが、OpenAI はその安全インフラが展開の目標に追いついていないという継続的な批判に直面している。政府主導のバイオセキュリティ機関に資金とスタッフを投入することで、両社は安全への取り組みが実際にどのような意味を持つのかという疑問に対して、具体的で対外的に信頼できる答えを得ることができる。

また、仕事上の関係も広がります。英国は、2023 年の AI 安全性サミット以来、自らをフロンティアモデル監視の実験場として位置付けており、両社はすでにメジャーリリース前に政府関連の評価を通じてモデルをルーティングしています。独自の予算を持つ常設機関は、その場限りの協力をインフラに変えます。

官民の AI 安全性のテストケース

このラボはテンプレートとして注意深く監視されます。 AIBL が、政府とフロンティア AI 企業が共同で運用上のバイオセキュリティ機能を構築できることを実証するのであれば、他の首都でも同様の機関が登場することを期待し、フロンティアの研究所がモデルが大規模に展開される場所であればどこでも同等の取り決めを求めることを期待してください。これがPRの約束をプレスリリースにロンダリングする手段になれば、自主的な安全の誓約に対する懐疑的な見方が強まるだろう。

研究所の人員配置、フロンティアモデルへのアクセス、規制当局との関係、その検出能力が公衆衛生システムとどのように共有されるかなど、発表が明らかにしていない詳細に多くが依存する。政府は、パートナーシップがこの研究所の研究の中心となり、その研究はAIの進歩によって可能になるものを含む幅広い生物学的リスクに対する回復力を強化すると述べている。

すでに明らかなことは、政策の方向性です。政府はもはや AI バイオセキュリティをワークショップ論文の研究課題として扱っていません。彼らは9桁の予算で常設の機関に資金を提供し、AI産業を支払いパートナーとして迎え入れている。英国は最初のプロジェクトを実行する権利を主張している。他国がこのモデルを模倣するかどうかは、科学よりも信頼に左右されるだろう。そして、AIBLの初期の発見が、世界の他の国々がそのモデルに基づいて構築できるほど十分にオープンに公開されるかどうかに依存するだろう。

世界中の政府がフロンティアに対応する最新の AI 政策の展開をフォローしてください。