腾讯首席人工智能科学家周六在香港罕见地公开露面时警告称，人工智能模型很快将强大到足以掌握生物学，带来同等程度的好处和严重风险，并加入了关于人工智能系统完全吸收生命科学时会发生什么的日益激烈的争论。
据《南华早报》报道，腾讯首席人工智能科学家、前 OpenAI 研究员姚舜宇在香港科学院和未来科学奖联合主办的科学研讨会上表示：“人工智能模型的网络能力，以及很快模型的生物能力，将达到实际上可能造成伤害的阈值。” 更多相关背景，请参阅我们的人工智能资讯。
开放式重量倡导者呼吁承担责任
姚明的警告与其说是其内容，不如说是其来源。在加入中国最大的科技公司之一腾讯之前，他在 OpenAI 建立了自己的声誉，而腾讯将自己定位为最积极的开放权重人工智能模型发布者之一，该模型的底层参数公开发布，任何人都可以下载、修改和运行。
据《南华早报》报道，姚明表示，这使得他所附的信息指出：“所有中国人或任何开放模式公司都需要对这些安全和安全问题非常负责任和严肃”。
据《南华早报》报道，前沿人工智能系统越来越多地应用于医学和生物学，它们可以加速新药和其他治疗方法的发现，这一转变已经重塑了中国的制药行业。然而，安全专家长期以来一直警告说，同样的功能可能会帮助恶意行为者制造生物武器或引发下一次大流行——当有能力的模型作为任何人都可以在没有护栏的情况下运行的开放式软件发布时，这种风险就会变得更难监管。
人工智能专家普遍认为生物学是继编码之后的下一个主要前沿领域，在这个领域，人工智能的快速进步已经颠覆了全球网络安全。与网络能力一样，生物能力具有双重用途：设计有前景的候选药物的同一模型原则上可以帮助攻击者。关于哪一方受益更多存在真正的争论。
腾讯自身的安全手册
姚明的言论尤为重要，因为他的言论是在他自己的公司发布新旗舰机型几天后发表的。据《南华早报》报道，腾讯周三发布了 Hy4，根据基准测试公司 Artificial Analysis 的数据，该车型在中国生产的表现排名第二。
腾讯在其发布公告中描述了 Hy4 内置的安全措施。该公司表示，它消除了该模型的网络黑客能力，同时通过在训练阶段过滤掉相关数据来保留其网络防御能力。在生物方面，腾讯表示，Hy4的生物能力仍然“远低于”其高风险阈值，因为该模型仍然无法将基础生物知识转化为可操作的协议——换句话说，就是教科书理解和分步操作指导之间的差距。
这一框架——衡量一个模型是否能够将一般知识转化为可用的程序——已经成为人工智能系统生物安全评估的通用标准。腾讯声称 Hy4 未达到该标准的说法是该模型自己的制造商的断言，整个行业对此类评估的外部验证仍然有限。
这个时机也反映了竞争压力。据《南华早报》早先报道，腾讯推出 Hy4，加入中国人工智能公司之间日益激烈的开放式重量级竞赛，DeepSeek、Z.ai 和阿里巴巴在最近几周都推出了新模型。在一个发布权重是竞争必需品的生态系统中，姚对“非常负责任”的发布实践的呼吁被解读为试图在使安全审查最难执行的运动中制定规范。
从警告到自治实验室
姚明的出现特别有趣的是，腾讯同时正在将人工智能推向更深入的实验室。他向一屋子计算机科学专业的学生发表讲话，概述了“自主科学实验室”的计划，该实验室将使用人工智能系统端到端地运行复杂的实验，并以反向蛋白质折叠作为该公司目标工作类型的一个例子。
姚认为，安全、强大的科学人工智能的技术障碍迟早会消失。据《南华早报》报道，他表示：“我认为所有的技术变革都可以得到解决——这只是时间问题。” “我认为更大的挑战是社会和组织方面的。”
场地强调了该信息的目标受众：在 2026 年未来科学奖周期间，姚明对满屋子计算机科学专业的学生（最有可能建立这些模型的人群）发表了讲话，据《南华早报》报道，该活动吸引了大约 1,000 名参与者。
这种划分——可解决的工程问题与未解决的治理问题——正在悄然成为太平洋两岸人工智能高管的标准立场。对于腾讯来说，这也是一种防御性的：一家将下一步行动押注于自主实验室的公司完全有理由说服监管机构，生物风险阈值可以公开设计、审计和尊重。
目前，近期的问题是发布开放权重模型的公司是否会在能力跨越阈值之前或之后采用可测量的生物风险阈值。姚明的警告表明，至少腾讯相信时间正在流逝。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
