人工知能モデルは間もなく生物学を習得できるほど強力になり、利点と重大なリスクを同程度にもたらすだろうと、テンセントの主任AI科学者は土曜日に香港で稀に公の場に姿を現し、AIシステムが生命科学を完全に吸収したときに何が起こるかについての議論の高まりに声を加えて警告した。

サウスチャイナ・モーニング・ポスト紙によると、テンセント・ホールディングスのチーフAIサイエンティストで元OpenAI研究者でもあるヤオ・シュンユー氏は、「AIモデルのサイバー能力、そして間もなくモデルのバイオ能力は、実際に危害を加えることができる閾値に達するだろう」と、香港科学院と未来科学賞が共催した科学シンポジウムで述べた。 この件の詳細は、AIニュースをご覧ください。

無差別級の擁護者が責任を求める

ヤオ氏の警告は、その内容よりもむしろその出典が注目に値する。彼は、中国最大のテクノロジー企業の 1 つである Tencent に入社する前に、OpenAI で評判を築きました。Tencent は、オープンウェイト AI モデル (基礎となるパラメーターが公開されており、誰でもダウンロード、変更、実行できるシステム) の最も積極的なパブリッシャーの 1 つに位置しています。

SCMPによると、ヤオ氏は、「すべての中国企業、あるいはオープンモデル企業は、これらのセキュリティーと安全性に関する懸念について、非常に責任を持って真剣に取り組む必要がある」と、同氏の付随メッセージを指摘しているとのことだ。

SCMPの報告書によると、この評価は、フロンティアAIシステムが医学や生物学にますます適用され、新薬やその他の治療法の発見を加速する可能性がある中で行われた。この変化はすでに中国の製薬産業を再構築しているという。しかし、セキュリティ専門家は、同じ機能が悪意のある攻撃者による生物兵器の製造や次のパンデミックの引き金となる可能性があると長年警告してきた。有能なモデルがガードレールなしで誰でも実行できるオープンウェイトソフトウェアとしてリリースされると、そのリスクを取り締まるのはさらに難しくなる。

生物学は AI 専門家の間でコーディングに次ぐ主要なフロンティアであると広く認識されており、この分野では AI の急速な進歩がすでに世界のサイバーセキュリティを根底から覆しています。サイバー能力と同様に、生物学的能力も二重用途です。有望な薬剤候補を設計する同じモデルは、原理的には攻撃者を支援する可能性があります。どちらの側がより多くの利益を得られるかについては、本格的な議論があります。

Tencent 独自の安全ハンドブック

姚氏の発言は、自身の会社が新しい主力モデルを出荷してから数日後に到着したため、非常に重みがあった。 SCMPの報道によると、テンセントは水曜日にHy4をリリースし、ベンチマーク会社Artificial Analysisによると、中国で生産されたモデルの中で2番目に性能が良いとランク付けされた。

Tencent はリリース発表の中で、Hy4 に組み込まれた安全対策について説明しました。同社は、トレーニング段階で関連データをフィルタリングすることでサイバー防御機能を維持しながら、モデルのサイバーハッキング機能を削除したと述べた。生物学的側面について、テンセントは、Hy4の生物学的能力は高リスク閾値を「かなり下回っている」ままであると述べた。その理由は、このモデルがまだ基礎的な生物学的知識を実用的なプロトコルに変えることができていないからだ、言い換えれば、教科書的な理解とステップバイステップの操作ガイダンスとの間のギャップである。

この枠組み、つまりモデルが一般知識を使用可能な手順に変換できるかどうかを測定することは、AI システムのバイオセキュリティ評価における一般的な基準となっています。 Hy4 がそのラインに達していないというテンセントの主張は、モデル自体のメーカーによる主張であり、そのような評価の外部検証は業界全体で依然として限られています。

タイミングは競争上のプレッシャーも反映します。この発表に関するSCMPの以前の報道によると、テンセントは中国のAI企業間のますます激化する無差別級レースにHy4を投入し、ここ数週間でDeepSeek、Z.ai、Alibabaがすべて新モデルを出荷したという。ウェイトの公開が競争上の必要不可欠であるエコシステムにおいて、ヤオ氏の「非常に責任ある」リリース慣行の呼びかけは、安全性レビューの実施を最も困難にする運動そのものの内部に規範を設定しようとする試みであると読み取れる。

警告から自律ラボへ

姚氏の登場が特に興味深いのは、テンセントが同時にAIを研究室の奥深くまで押し込んでいることだ。同氏はコンピューターサイエンスの学生の部屋を前に、AIシステムを利用して複雑な実験をエンドツーエンドで実行する「自律型科学実験室」の計画の概要を説明し、同社が目標としている種類の研究の例として逆タンパク質フォールディングを挙げた。

ヤオ氏は、安全で有能な科学AIに対する技術的障害はやがて解消されるだろうと主張した。 SCMPによると、同氏は「技術的な変更はすべて解決できると思うが、それも時間の問題だ」と述べた。 「より大きな課題は社会的、組織的なものだと思います。」

SCMPの報告によると、約1,000人の参加者が集まった2026年の未来科学賞週間中に、ヤオ氏はコンピューターサイエンスの学生（これらのモデルに基づいて構築する可能性が最も高い人々）で埋め尽くされた部屋で講演した。

この区分、つまり解決可能なエンジニアリングの問題と未解決のガバナンスの問題は、静かに太平洋の両側で AI 幹部の標準的な立場になりつつあります。テンセントにとって、これは防御策でもある。自律的な研究所に次の行動を賭けている企業には、バイオリスクの閾値は公開で操作、監査、尊重できることを規制当局に説得するあらゆる動機がある。

今のところ、短期的な問題は、無差別加重モデルを発行している企業が、能力が基準を超える前に、あるいはその後に、測定可能なバイオリスクしきい値を採用するかどうかである。ヤオ氏の警告は、テンセントが少なくとも時計は動いていると信じていることを示唆している。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →