AREX Feed Article
腾讯首席 AI 科学家姚顺雨警告 AI「生物能力」将很快触及致害门槛，称中国及开源模型公司须认真对待安全责任
周六（11 月 7 日），腾讯首席 AI 科学家姚顺雨在香港一场由香港科学院与未来科学大奖共同主办的科学研讨会上警告，AI 模型的「生物能力」将很快触及可能造成实际伤害的门槛：「模型在网络方面的能力——以及很快，模型在生物方面的能力——将达到一个真的可能造成伤害的门槛。」他接着说：「所有中国公司，或任何开源模型公司，都需要对这些安全与安保问题非常负责、非常认真。」据报道。
这番警告的背景是腾讯 11 月 4 日（周三）刚发布的旗舰模型 Hy4，它被评测机构 Artificial Analysis 评为中国实验室模型中的第二名（）。称，公司已在训练阶段过滤相关数据、剥离 Hy4 的网络攻击能力并保留网络防御，其生物能力「远低于」公司设定的高风险阈值。腾讯还承诺在「未来几天」开源 Hy4 权重（open-weight，即模型权重可被自由下载与修改），随附一份涵盖网络与生物安全评估的「系统卡」（system card）。上述安全披露目前均出自腾讯自述，未经独立验证。
一场面向计算机系学生的罕见公开露面
据 SCMP 报道，这是姚顺雨加入腾讯以来少见的公开亮相，台下坐满了计算机专业的学生。他向听众勾勒了腾讯的下一步：运营「自主科学实验室」（autonomous science labs），用 AI 系统端到端地运行复杂实验，例如逆蛋白质折叠（inverse protein folding）。「我认为所有技术上的变化都能解决，只是时间问题，」他说，「我认为更大的挑战在于社会和组织层面。」
姚顺雨（Vinces Yao）毕业于清华大学姚班，后在普林斯顿大学攻读计算机科学博士；2024 年 8 月加入 OpenAI 担任研究科学家，据报道主导开发了 OpenAI 首个发布的智能体模型及产品，并参与 Deep Research 项目；2025 年 12 月腾讯升级大模型研发架构后，他出任「CEO/总裁办公室」首席 AI 科学家，向总裁刘炽平汇报。据整理的资料，他还兼任 AI Infra 部、大语言模型部负责人；SCMP 称其为前 OpenAI「明星研究员」。
两家主办方近期确有联合办会的记录：显示，2026 年未来科学大奖周本周在香港举行多项活动，其中 11 月 6 日的科技论坛同样由香港科学院、香港未来科学大奖基金会与香港科技大学联合主办，主题为「人机共生时代：AI 的边界与人类的选择」。
过滤攻击数据、红队审计、生物评分 30.4 分：腾讯的自查
按腾讯 Hy4 发布说明的说法，安全处理发生在训练阶段：网络安全相关数据被限定为防御性材料，即概念验证（PoC）生成与漏洞补丁；漏洞利用开发（exploit development）、逆向工程、渗透测试等攻击性内容被过滤，以避免放大潜在攻击能力。腾讯与玄武实验室、科恩安全实验室的专家合作开展了红队审计，覆盖密码分析、逆向工程与漏洞利用，其结论是：Hy4 在逆向加密算法、破解二进制混淆或利用漏洞等攻击性任务上不构成更高风险。
生物安全方面的数字更具体：发布说明称，Hy4 的开放式实验设计能力在公司自建的 Hy-BioExperimentBench 基准上得 30.4/100，仍「远低于」高风险阈值；内部专家审查了模型的推理痕迹，发现它虽掌握扎实的基础生物学知识，但把知识转化为可操作实验方案的能力有限——腾讯把这称为关键瓶颈，并表示没有证据表明 Hy4 显著降低造成生物危害的门槛。
这些数字、过滤机制与审计结论全部来自腾讯自述，发布于公司官方博客，目前没有独立第三方验证；SCMP 在报道中也将其标注为腾讯发布说明中的说法。
随权重发布的系统卡，与正在收紧的监管
「我们计划开源 Hy4 的模型权重，并已与 vLLM（Inferact Inc.）和 SGLang 社区合作提供生态支持。发布权重时，我们还将发布一份详述安全评估和更多技术细节的综合系统卡。」腾讯在发布说明中写道；SCMP 报道称，发布将在「未来几天」进行。
在权重就位之前，Hy4 已可通过腾讯云与 OpenRouter 调用，并接入 CodeBuddy、WorkBuddy、元宝、ima 等产品；API 定价为每百万 token 输入 0.834 美元、输出 2.501 美元，缓存输入 0.042 美元。Hy4 在预览版约两个月后正式发布（据 The Decoder）；据腾讯介绍，它首次支持视觉感知，首次支持计算机操作（computer use，直接控制命令行与图形界面，含针对 Blender、CAD 等专业软件的训练），并称这让混元系列「首次跻身最强开源模型之列」。
发布的时间点，正值相关监管规则酝酿之际。据报道，中国商务部与科技部今年 10 月发布出口管制框架草案，拟将全球排名前十或参数超过 2 万亿的模型权重纳入管制，同时为开源发布设置自动批准的快速通道；SCMP 报道还提到，中国拟议的出口管制将对网络攻击能力越过关键门槛的 AI 系统施加更多限制。
AA 独立评测：35 分、89% 幻觉率，与腾讯自己的数字
给出了具体数字：Hy4 在其智能指数（Intelligence Index）v5 中得 35 分，在中国实验室模型中排名第二，仅次于得 46 分的 Kimi K3.1 Pro；成绩与 Grok 4.7（xhigh）持平，比 Claude Haiku 5.5（max）低 1 分。在代理式编程基准 FrontierCode 2.0 上，Hy4 得 31%，是中国实验室模型中的最高分，仅次于 Claude Fable 5.1（max）的 32%。
同一份评测也点出了短板：在无联网搜索的 AA-Omniscience v1.1 事实测试中，Hy4 准确率 50%，幻觉率高达 89%，而 Kimi K3.1 Pro 为 37%。The Decoder 解释称，这意味着 Hy4 在不知道答案时，近九成的情况选择编造而非承认不知道。
腾讯自己的测试给出了更乐观的口径：在与腾讯金融科技（FiT）合作的评估中，213 位金融从业者（其中 153 位来自头部金融机构）就 579 项真实金融任务打分，Hy4 在开源权重模型中排名第一；内部评测的幻觉率从预览版的 15.76% 降到 5.45%。腾讯同时承认，Hy4 与顶级闭源模型在研究级数学、长程编码、模型自我改进、高难度视觉问答等基准上仍有明显差距——在其自建的 Hy-FrontierMath T5 上，Hy4 得 13.0 分，GPT 6.1 Sol 为 97.5 分、Claude Opus 5.5 为 91.3 分（据 The Decoder 引述腾讯数据）。姚顺雨周六则提醒业界，中国模型与美国同行之间的差距并不大。
生物能力为何比网络能力更难「解绑」
按 SCMP 的梳理，编程能力的快速进展已在网络安全领域引发震动，而生物被普遍视为 AI 的下一个主要前沿。与网络能力一样，生物能力也是「两用」的——攻击方与防御方都能使用，至于哪一方受益更多，业内存在争论。姚顺雨认为，生物能力可能比网络能力更「复杂」、更难管理：在生物领域，攻防两种能力更难「解绑」（disentangle）。
评估环节他坦言工作尚未完成：「当你发布一个模型时，你必须非常小心地做评估……所以我们与腾讯内部最好的安全实验室合作。我认为要让评估更完整，还有很多事情要做，但我们在努力。」
自主科学实验室的方向已有可核对的实例：腾讯发布说明展示了 Hy4 在单机上用 1.5 小时从 700 万个细胞重构小鼠胚胎 3D 模型的演示，并称其在内部跨 7 个学科、123 项研究任务的 TenureTrail 基准上位列开源权重模型第一；公司还开源了由 Hy4 与 Hyra 2.0 协同开发的两个基础模型——单细胞表征模型 HyCell 与物理场建模模型 HyPDE。SCMP 指出，姚顺雨发出这一警告的背景，正是腾讯日益投入用 AI 自动化科学研究的探索。
开源、闭源，与正在靠近的监管
开源还是闭源，是中美 AI 行业的一个分歧点。姚顺雨在研讨会上说，Anthropic 等美国公司为「前沿模型应保持闭源以防重大社会危害」提供了很有力的论证；但他也举出反例：AI 平台 Hugging Face 近期一次遭网络攻击时，用一款中国开源模型协助自身防御，而闭源的美国模型因内置安全护栏拒绝了帮助。「也许最好的前进方式仍然是闭源与开源模型的混合，因为你仍然想让每个人都有能力……把这项技术用于防御。」
在风险认知上，两边正在靠近。上周在乌镇世界互联网大会上发布的一份前沿 AI 安全报告，由腾讯、华为、阿里巴巴等中国科技巨头参与撰写；报告称，AI 系统在病原体设计等任务上不断提升的能力「可能正在造成重大公共卫生风险」。上月（10 月 16 日），中国裁军事务大使李驰江在联合国大会第一委员会关于其他大规模杀伤性武器问题的专题辩论中表示，AI 与生物、化学技术不断演进、融合，误用风险上升，恐怖袭击的门槛正在降低，各国应加强生物、化学武器领域的安全治理（）。据 SCMP 报道，AI 预计还将列入本月晚些时候习近平与特朗普在深圳 APEC 峰会期间会晤的重要议程——两国已在 9 月同意启动 AI 对话与事件通报机制。
Hy4 权重与系统卡承诺在「未来几天」内发布。届时随卡公开的安全评估细节，将成为外界核对「数据过滤」、30.4 分与「远低于阈值」这些自述口径的直接依据。