AREXOpen in interactive Feed

AREX Feed Article

MLCommons 发布 MLPerf Training v6.1 成绩:GRPO 后训练基准首次进榜,Rubin 与 Ironwood 首次参测

November 16, 2026

MLCommons 于 11 月 16 日公布 MLPerf Training v6.1 基准测试成绩,套件一次新增两项基准:其一是推荐模型 DLRMv4-HSTU,采用 HSTU 注意力架构、在 Yambda 数据集上训练,取代此前的 DLRM-dcnv2;其二是 Qwen3.5-397B,用 Group Relative Policy Optimization(GRPO,组相对策略优化)做大规模 LLM 后训练。MLCommons 称后者是 MLPerf Training 的「首创性工作负载」:模型通过工具调用这类具体任务接受训练,自己学会推理,去解决软件工程问题。

规模上,本轮收到 24 家机构提交的 153 套系统、250 项测试成绩。57 套系统(37%)部署在云端,v6.0 一轮这个比例是 29%;12 套系统用上 1,000 块及以上加速器,最大的一套用到 10,240 块;系统硬件覆盖 NVIDIA、AMD 与 Google 三家加速器。MLCommons 是一个开放的 AI 工程联盟,自 2018 年起运营 MLPerf 系列基准。

Qwen3.5-397B:MLPerf Training 的第一个后训练基准

MLCommons 在 9 月 24 日的设计博客中解释了这个新基准的来由:这次加入的后训练负载是对既有预训练基准的补充,从 v6.1 提交轮(2026 年 10 月)起启用;按博客的说法,自 2025 年下半年以来,LLM 训练的多项重要进展来自对后训练的规模化。基准选用的方法是「可验证奖励的强化学习」(Reinforcement Learning with Verifiable Rewards,RLVR):一个由 LLM 驱动的编程智能体在沙盒环境里做软件工程(SWE)任务,每次尝试称为一次 rollout;每个问题采样多个 rollout,按通过与否给出二元奖励;这些轨迹再交给 GRPO,在同一组内比较奖励并更新模型,让高奖励的解法更容易被选中;更新后的权重随即进入下一轮 rollout。

被选中的模型是 Qwen3.5-397B。据博客说明,即 2026 年 2 月发布的 Qwen3.5 系列中最大的开放权重模型 Qwen3.5-397B-A17B(Apache 2.0 许可):专家混合(MoE)架构,总参数 3,970 亿、每个 token(词元)激活 170 亿;Qwen3.5 还是首个把 Gated DeltaNet(GDN)与稀疏 MoE 组合成混合架构并产品化的模型系列,每个 MoE 层激活 1 个共享专家和 512 个路由专家中的 10 个;GDN 用固定大小的压缩状态取代线性增长的 KV(键值)缓存,在长上下文场景尤其省显存。

工作组联席主席 Shriya Rishab 在公告中说:「后训练给 AI 训练的体系架构增加了一层新的复杂度。过去两年我们在这个全新基准上投入的工作,将为最先进的 AI 训练系统性能提供重要洞察。v6.1 的成绩显示,社区正在快速接纳它。」

训练、推理与智能体环境三线并行:MLPerf Training 迄今最复杂的集成

按设计博客的说法,这是 MLPerf Training 迄今最复杂的系统级集成:一套基准要同时部署训练、推理和智能体环境三套组件。运行时,数百个并发 rollout 争抢 CPU、GPU、内存和存储,资源要在三者之间平衡;博客的判断是,训练与推理必须「速率匹配」——只优化流水线中的一段,瓶颈只会挪到别处。

任务和数据来自 Apache 2.0 许可的 R2E-Gym 数据集:从 Aiohttp、NumPy、Pandas、Pillow、Sympy 等 8 个 Python 项目的 GitHub 提交中程序化生成可执行环境。智能体拿到一个预装依赖、带 Git 仓库的 Linux 容器和一条 issue(问题单)描述,任务是写出能解决问题的补丁;数据集含 700 个训练问题和 251 个不重叠的验证问题。执行框架选了 OpenHands;为了防「奖励作弊」(reward hacking)——比如模型靠删掉失败的测试而不是修 bug 来拿分——评估用的测试文件对智能体不可见、不可改。约束条件:上下文上限 65,536 token、最多 30 个智能体回合、每个提示(prompt)生成 16 次。

评测方式上,MLPerf Training 一贯的计分是「训练到预定质量指标所需的墙钟时间」,而不是纯吞吐:既要快、也要对。博客称,智能体强化学习的不确定性远高于预训练——工具调用、时序和批处理效应层层叠加,轨迹无法确定性复现——于是选定 pass@4 作为验证指标:每个验证问题跑 4 次,统计至少通过一次的比例,一次完整验证就是 1,004 条轨迹,开销可能抵得上好几个训练步。基准的质量目标是 pass@4 达到 0.69,即在 4 次机会内至少解出 69% 的验证问题;博客对比的三种指标里,pass@4 的变异系数最低(3.8%),「4 次全过」的 pass^4 波动最大(16.1%)。

参考实现基于 NVIDIA NeMo-RL:Megatron 负责策略训练,vLLM 生成轨迹,NeMo Gym 在逐任务的 Apptainer 容器里运行 OpenHands 智能体,Ray 负责协调,采用异步训练,用于训练的轨迹最多滞后一个权重版本。基准规范和参考实现已在 GitHub 公开。收敛研究在 GB300 NVL72 机架上完成:64 个计算节点、每节点 4 块 Blackwell Ultra GPU,共 256 块 GPU,BF16 精度,单次运行需 140~160 分钟。博客称,任务组的目标是让这套工作负载压进 1,024 个 GB300 GPU 小时以内,参考实现的这组数字就是留给提交者去改进的基线。

DLRMv4-HSTU:推荐基准把用户行为当序列读

MLCommons 在 10 月 1 日的设计博客中解释了用 DLRMv4-HSTU 换掉 DLRM-dcnv2 的原因:随着序列建模的进展,超大规模生产推荐系统已经从「把用户行为压缩成一小组聚合特征」转向「把每个用户的近期交互史表示成逐事件的 token 序列」;这类模型随算力和参数增长持续变强,而旧的特征交叉设计会趋于平缓。

HSTU 就是为这种做法设计的转导器(transducer):用户的交互史被拼成一条按时间排列的事件序列,每条事件带上「是什么物品、用户做了什么、何时发生」,连「跳过」这类负反馈也作为一等公民留在序列里,而不是被平均掉;整条序列由同一组转导层端到端处理,注意力带有按位置和时间距离推导的偏置。博客引用的研究称,这种架构下计算量与质量在三个数量级上呈幂律关系,而 encode-then-interaction(先编码、再做特征交互)式基线在同一区间已经拉平。MLPerf Inference 套件此前已引入基于 HSTU 的 DLRMv3 基准,这次训练套件补齐了对应负载。

数据换成 Yambda-5B——Yandex Music 公开发布的真实多行为数据集,约 47.9 亿次交互、100 万用户、939 万条目,覆盖听歌、喜欢、不喜欢、取消喜欢、取消不喜欢 5 种行为;公告称 Yambda 是目前可用的最大开源推荐数据集之一。叠加交叉特征表后,嵌入表占用约 560 GB,而 DLRMv2 所用 Criteo 1TB 数据集的嵌入规模约 100 GB——这个量级必须跨多块现代加速器做分片。真实流量的偏斜也一并带入:按博客的抽样统计,被触碰嵌入行中前 1% 吸收 52%~68% 的嵌入查询,前 10% 超过 90%。

参考实现是 3 层 HSTU、4 个注意力头、模型维度 512、序列长度上限 4,096,bf16 混合精度;稠密参数用 Adam 优化,稀疏嵌入表用逐行 Adagrad。收敛目标定为留出集 AUC(曲线下面积)0.75,博客在 AMD MI350 GPU 上做了 3 种全局批规模 × 20 个随机种子共 60 次收敛测试:8,192 全局批、8 块 GPU 的配置平均 2 小时 39 分达标,三种批规模的变异系数在 5.6%~7.2% 之间。

从芯片厂到大学:24 家机构创纪录参与

公告称,本轮的提交机构数、系统数、成绩数和典型系统规模都再上台阶,超过六个月前 v6.0 创下的部分纪录。24 家提交机构是:AMD、ASUSTeK、Azure、Cisco、CoreWeave、Crusoe、Dell、Firmus、Fujitsu、Giga Computing、Google、HPE、Inventec、KRAI、Lambda、MiTAC、Nebius、NVIDIA、Oracle、Quanta Cloud Technology、Supermicro、tiny corp、TTA 与 University of Florida——名单里既有芯片厂、整机厂和云厂商,也有一所大学。

MLCommons MLPerf 负责人 David Kanter 说:「我们要特别欢迎首次提交 MLPerf Training 成绩的 Crusoe。这么多组织持续提交,同时仍有新提交者加入,说明为新负载、新系统提供可靠的基准数据对社区是有价值的。」工作组联席主席 Pavan Yalamanchili 则表示:「公开发布的成绩覆盖了更多可能的系统矩阵,让我们更清楚地看到,在 AI 训练最重要的真实场景中,这些系统彼此比较是什么样子。」

Rubin 与 Ironwood 首次进榜,逐项耗时未随公告发布

公告确认,NVIDIA Rubin 代 GPU 与 Google TPUv7(Ironwood)都是首次出现在 MLPerf Training 的成绩中。Yalamanchili 对硬件配置的观察是:「随着任务领域和配套训练负载走向专业化,我们看到承载这些工作的底层硬件配置也在变化。」他认为,跨负载、跨系统的多样化数据能帮助部署者找到自己的「最优配置点」——无论是单节点系统,还是带几千块加速器的多节点集群。

MLCommons 形容这套基准「开源且经同行评审」,由 AI 社区的专家小组策划。完整成绩可在其 Training 基准页面查看;本轮还上线了新的结果可视化工具,支持跨系统比较性能、对规模相近的系统排名;每个提交的逐项数据在补充 PDF 中。不过,这份公告本身没有给出任何一项基准的具体耗时——最快的系统到底多快、Rubin 与 Ironwood 相对现有硬件排在什么位置,都要到可视化工具和那份 PDF 里去找。

参考链接

  • MLPerf Training v6.1 Results: Record Participation(MLCommons 公告,2026-11-16)
  • MLPerf Training v6.1: First LLM Post-Training Benchmark(MLCommons 博客,2026-09-24)
  • DLRMv4: The Next-Generation Recommendation MLPerf Training Benchmark(MLCommons 博客,2026-10-01)
  • MLPerf Training 基准页面与完整成绩
  • MLPerf 结果可视化工具
  • MLPerf Training v6.1 补充信息(PDF)
  • MLPerf Training LLM 后训练基准规范与参考实现(GitHub)

More from this developing story

  • MLCommons 发布 MLPerf Training v6.1 成绩:GRPO 后训练基准首次进榜,Rubin 与 Ironwood 首次参测Nov 16, 2026
  • MLCommons 发布 MLPerf Training v6.1 官方分析:四项未变基准最佳成绩增益几何平均 1.49 倍,Llama 3.1 405B 退役Nov 19, 2026