AREX Feed Article
微软研究院发布 Rho:开放权重 5B VLA 家族与三个机器人中途训练检查点
9 月 30 日,微软研究院(Microsoft Research)机器人学习负责人 Andrey Kolobov 在 X 上宣布发布 Rho,一组开放权重的 5B 参数视觉-语言-动作(VLA)模型()。家族包含 Rho-base 基础模型与 Rho-YAM-Box、Rho-UR-AI-Trainer、Rho-FR3-Duo 三个中途训练(midtraining)检查点;技术报告、代码与 Hugging Face 权重一并公开。
按与的说法,这套模型瞄准的是「适应」:达到同样的成功率,中途训练版本所需的微调数据只有 Rho-base 的一半;配合在线适应方法 FlowDAgger,模型还能在部署后从人工纠正中继续学习。项目页称,中途训练版本在与 π0.5、GR00T N1.7、MolmoAct2 同批演示上微调后匹配或超过三者。技术报告已于 9 月 29 日提交至 arXiv,上述结果均出自微软研究院自己的实验与报告。
四个检查点、报告、代码与数据一起开放
Rho 家族由四个 5B 参数模型组成:基础模型 Rho-base,以及三个在具体机器人上完成中途训练的版本——针对 YAM Box 的 Rho-YAM-Box、针对 Universal Robots AI Trainer 的 Rho-UR-AI-Trainer、针对 Franka FR3 Duo 的 Rho-FR3-Duo()。项目页写明「四个全部开放权重」,并给出使用建议:已有这三种机器人的团队从中途训练检查点起步,要适配新平台则从 Rho-base 出发。
配套的 以 MIT 许可证发布,提供在 LeRobot 数据集上微调、在 LIBERO 与 RoboEval 中训练和评估、通过 websocket 把策略部署到机器人或仿真客户端的代码。合集里还包含 rho-libero、rho-roboeval 两个基准微调检查点与 BusyBox 微调数据集。按仓库说明,实际训练与推理需要 Linux、Python 3.12 和一块支持 CUDA 的 GPU。
Kolobov 在帖文中称,Rho 家族是微软研究院 Rho-alpha VLA+ 工作的基础。微软研究院今年 1 月介绍 时,称其为该公司第一个源自 Phi 系列视觉语言模型的机器人模型,当时邀请有意评估的机构申请研究早期访问计划,并称稍后会在 Microsoft Foundry 提供;此次发布的 Rho 家族则公开了 5B VLA 权重、代码与技术报告。
中途训练:先让模型熟悉机器人,再教它任务
Rho 的出发点是项目页对现状的拆解:预训练让模型见过很多机器人、任务和环境,但没有精通其中任何一项;于是在某个机器人上微调新任务时,演示数据不得不「边教机器人边教任务」,因而格外费数据。Rho 的做法是把这两件事分开,并先把成本高的部分做完:针对具体机型的中途训练,被吸收进发布的检查点里。
训练流程包含四段离线阶段和一段可选在线阶段。在 Phi-Phy 骨干之后,Rho-base 在名为 Rho-Tomyum 的混合数据上预训练:3,200 多小时、来自十余种机器人(大多为双臂)的演示,统一成标准化的末端执行器空间增量动作,并剔除被标注为错误的演示片段;数据里还包括 UMI 风格的演示和 NVIDIA Isaac Sim 中的仿真演示。机器人与视觉语言数据按 90:10 混合,训练用了 48 块 B200 GPU。中途训练阶段,Rho-base 在单一机器人约 280~300 小时的数据上训练两个 epoch,覆盖多个任务族——YAM Box 65 个、UR AI Trainer 31 个、FR3 Duo 19 个,每个任务族平均不超过约 15 小时;项目页说,这不足以精通高精度任务,但足够覆盖一台机器人的运动范围、工作空间与相机视角。
数据效率由两个受控实验量化。第一个在 RoboTwin 2.0 的 50 个双臂 UR5e 任务上进行:45 个任务用于中途训练,5 个留作微调,再按 12.5%、25%、50%、100% 的嵌套子集做同样 40k 步的微调。在性能饱和之前,中途训练版本用 25% 的数据就能达到 Rho-base 用 50% 数据的效果;数据最少的档位提升最明显,Easy 协议从 28.1% 提高到 40.6%,加入干扰物的 Hard 协议从 30.9% 提高到 38.9%。第二个实验在物理 FR3 Duo 上做插头插入:同样约 150 条演示、同样的 50k 步微调预算,中途训练 0、1、2 个 epoch 的版本在 30 次试验中成功率依次上升,增益主要出现在微调数据分布边缘的插头位置。到任务微调阶段,物理机器人上每个任务需要约 100~300 条演示。
物理机器人对照:高数据场景与 π0.5 持平,精细接触任务领先
对比实验的口径是:把各家中途训练版本与 π0.5、GR00T N1.7、MolmoAct2 放在同一批任务演示上微调,再在物理机器人上并排评估,采用配对 A/B 协议、相同的初始构型,每个任务进行 30 次完整执行(rollout;YAM Box 为 60 次),计分过程中无人工干预。基线都从各自的预训练检查点出发;MolmoAct2 被纳入 YAM Box 的比较,是因为它的训练数据包含 720 小时类似双臂 YAM 机器人的演示。
YAM Box 属于高数据场景:约 2,000 条演示覆盖 BusyBox 基准的六类任务——按下发光按钮、拨开关、推滑块、转旋钮、拉线,以及旋转或滑动整个盒子。Rho-YAM-Box 总体成功率 90%,与 π0.5 持平,高于 GR00T N1.7 的 53% 和 MolmoAct2 的 43%。项目页对此的解释是:数据充足时,Rho 的架构与训练配方至少和对比中的开放权重基线一样稳健。
UR AI Trainer 是低数据场景,两个长程任务各训练一个策略:工具箱打包(约 150 条演示:抬起托盘、装进工具箱且不洒出、合盖、扣上卡扣)与小电子件清理(约 160 条演示:把两个夹爪尖大小的元件分别放进空的托盘格)。Rho-UR-AI-Trainer 总体成功率 53.4%、平均任务进度 70.0%,约为 π0.5(30.0% 成功率)的两倍,远高于 GR00T N1.7(15.0%)。项目页提醒,两个基线此前很少见过这款双臂 UR 数据,微调时必须同时学机器人和任务,而这正是中途训练想避免的处境;在电子件清理上,π0.5 的任务进度接近 Rho,但往往失败在最后放置环节,Rho 较少出现的失败则集中在抓取。
FR3 Duo 上,三份微调数据产生五个评估变体:插头插入(约 150 条演示)、杯塔叠放与拆解(约 100 条)、试管上架与取下(约 300 条)。Rho-FR3-Duo 总体成功率 80.0%、任务进度 88.7%,对 GR00T N1.7(50.0%/71.3%)与 π0.5(46.7%/64.5%)均有领先,并在每个变体上领先;领先幅度最大的两项是需要接触中保持精确对齐的叠放与上架,分别为 +33.3 和 +30.0 个百分点,插头插入为 +20.0。
仿真里还有两组数字。RoboEval 的八个双臂任务上,Rho-base 取得 73.4% 总体成功率;对比对象 π0.5、GR00T N1.7 与 MolmoAct2 分别为 67.1%、60.4%、60.6%,其中 π0.5 与 GR00T N1.7 是在与 Rho 相同的评测框架内微调与评估的。LIBERO 上 Rho-base 平均成功率 97.9%,在对比表中最高;项目页同时注明,LIBERO 的基线数字取自各模型自己的报告或官方发布,适配与评测协议可能不同。
542M 动作专家接在 Phi-Phy 骨干之后
每个 Rho 模型由两部分构成:4.68B 参数的 Phi 家族视觉语言模型 Phi-Phy,与 542M 参数的流匹配(flow-matching)动作专家。
Phi-Phy 在通用视觉语言数据之外,加入了机器人相关的物理 grounding(把语言与物理场景对应起来)数据,包括公开集合 MGrounding、RefSpatial、XVR、RoboPoint,以及多图 grounding、指向、OCR、计数和合成的找差异、找不同题目;按项目页数据,约 1 亿条监督微调(SFT)混合记录中有约 3,600 万条物理 grounding 记录。视觉编码器是 428M 参数的 SigLIP 2 SO400M NaFlex。
动作专家是 12 个 block、宽度 2,048 的 Transformer:16 个查询头、4 个键值头,每个头 128 维;每个 block 通过交叉注意力读取 Phi-Phy 第 14 层解码器表示,该表示每次查询只计算一次,在所有流匹配步骤中复用。推理从高斯噪声出发,用 10 步显式欧拉积分得到一段未来动作;状态与动作接口是最多 32 维的连续向量,未使用的维度被掩码,因此同一个模型可以覆盖关节空间或末端执行器控制、增量或绝对目标、单臂或双臂。预测视界对应约 1 秒的动作块,预训练中最多 50 步。
这些设计由消融实验选出。在 RoboEval 上用 15% 的 Rho-Tomyum 子集预训练、再做 40k 步适配后,128 维注意力头优于更小或更大的头,宽度 2,048 优于把 1,024 加倍的深度;通过共享 adaLN(自适应层归一化)调制、分组查询注意力与 12 层深度,动作专家从 1.65B 压缩到 542M(参数减少约三分之二),成功率从 67.3% 变为 67.1%。让各个 block 依次读取不同骨干层的方案更差(60.5% 对 67.3%),最终所有 block 都读第 14 层。预训练混合中保留视觉语言批次也有帮助:LIBERO 上适配 20k 步时,Goal 套件从 94.7% 提高到 97.7%,Long 套件从 92.7% 提高到 96.0%。
部署后继续学:15 次纠正把试管组装从 30% 提高到 70%
离线微调出的策略只熟悉演示数据覆盖的状态,部署后会遇到不可靠的构型。Rho 的应对是一个可选的内部隐变量策略:通常动作生成器从高斯噪声 z 出发,启用后改为从以观测为条件、学到的 z=π(o) 出发,即 a=G(o, π(o));骨干和动作专家保持冻结,只训练这个小模块,它存放在检查点内、随模型一起提供。
训练数据来自人工接管纠正,方法即 FlowDAgger():人(或仿真中的脚本专家)接管时,实际执行的动作被拼成一段动作块,通过冻结的流反向求出会产生这些动作的隐变量,作为 π 的回归目标。因此在线学习只改变「生成从哪里开始」,每个动作仍由未改动的离线模型产生。Kolobov 在帖文中称 FlowDAgger 是 CoRL 2026 的 Spotlight 论文(大会重点展示)。
物理机器人上的数字:Rho-FR3-Duo 的策略在每任务 150 条演示离线微调之后,再用 15 次人工监督纠正(离线预算的十分之一)适应,在 10 个工作空间边缘的困难构型上各测 3 次——试管组装成功率从 30.0% 升到 70.0%、任务进度从 56.7% 升到 81.7%;插头插入从 66.7% 升到 93.3%、进度从 83.3% 升到 96.7%。仿真里,一个特意欠训练的 Rho 策略在 Meta-World 六个困难任务上把平均成功率从 57.5% 提到 73.3%。项目页说明,FR3 Duo 上的纠正用 SpaceMouse 给出,操作员保留急停权限;学习到的策略只能改变有界的隐变量,生成的动作仍受控制器关节、工作空间与动作限制约束。
项目页在发布说明里给这些结果划了边界:「最强模型的结论只对报告中的基线、预算与协议成立;三个平台和少数基准上的结果不足以证明普遍泛化。」页面同时说明,离线适应仍依赖有代表性的演示,在线适应则应在人工监督下,配合平台特定的安全措施、工作空间约束与评估门槛再部署。