AREX Feed Article
MIT HAN Lab 开源 PEAR:零人类示范、纯仿真强化学习训练的 27B 机器人模型,真机成功率自报从 0 到 18/30
MIT HAN Lab 在 11 月 13 日(北京时间 14 日凌晨)开源了机器人项目 PEAR:一个基于 Qwen3.8-27B 训练的 27B 机器人操作模型,连同模型权重、代码与完整训练基建。实验室博士生 Jiaming Tang(其 自述研究方向为 MLSys 与算法)在 开头写道,最近「大家都在展示 Fable 和 GPT-6 Astra 驱动机械臂」,而他们「训练了一个开源的 27B Qwen 模型来做这件事,纯粹靠它在仿真中的自我尝试,零人类示范」;帖子称,在一台它从未接触过的真实机械臂上,这个模型现在 30 次测试成功 18 次,训练前是 0 次。
同步上线的题为 Training Reasoning Models in Simulation to Natively Use Real Robots(在仿真中训练推理模型,原生使用真机机器人),署名 11 位作者,来自 MIT、UC Berkeley、UCSD、NVIDIA 和 Inco AI,随附。帖子还给出一个部署相关的数字:模型可以在一张 RTX 5090 上以 220+ tok/s(每秒 token 数)本地推理。发布约六个半小时后(本文查询时),这条帖子获得 327 次点赞、约 2.2 万次浏览。本文引用的全部能力数字均出自该团队自己的博客与论文,属当事方自测口径。
一台从未见过的双臂 YAM:对齐积木、通用抓取与临摹
博客描述的真机测试对象是一台双臂 YAM 机械臂,共 30 次尝试、全部在 xhigh 推理力度(effort,即思考时长档位)下进行。「对齐积木」占 10 次:5 个初始布局不同的场景各做 2 次,指令是用三角板把三块积木推成一条直线,然后放下三角板、机械臂复位;「通用抓取」占 20 次:绳子、螺丝、遥控器、乌龟毛绒玩具、网球、订书机、洗洁精、喷壶、气筒、刷子共 10 件物品各抓 2 次,指令是「把 ⟨物品⟩ 拾起 10 厘米」。单次尝试超过 25 个回合,或单回合思维链超过 32k token,即判失败。
成绩按检查点分层:Qwen3.8-27B 基座模型 0/30;只在 LIBERO 上做过 RL 的中间检查点 7/30——博客强调它既没见过这些任务,也没见过这台机器人;加上 RoboDojo 继续仿真训练后的最终模型 18/30,即 60%。团队称整个流程没有用任何真机数据。
博客还演示了两个需要知识的任务:给模型一张《星月夜》原图,让它在白板上画出简笔线稿;化学实验是从碘、乙醇、酚酞三种试剂中选出能检验碱性的那一个——模型选了酚酞,滴入后溶液变粉。博客注明,这类任务的提示词需要事先详细描述机械臂与任务本身,所需的世界知识来自基座模型。
Robot-Use RL:唯一的奖励信号是任务成败
博客把这套模型称作 robot-use agent,类比操作电脑的 computer-use agent:后者看截图、推理、把点击写成文字交给操作系统执行;PEAR 模型每一轮观察相机画面和机械臂状态,链式推理后把末端执行器的下一个位姿写成文字,由逆运动学和控制器执行。两者之间没有别的层:没有感知工具、抓取或运动规划器、技能库,也不需要外围脚手架(harness),此前每一轮都留在上下文里,模型记得自己做过什么。
训练方法被团队命名为 Robot-Use RL:在仿真环境里对机器人任务做强化学习(RL),奖励只有任务成败。具体算法是 GRPO 加 DAPO 的组过滤与 Score Centering,全程没有监督微调(SFT)——团队在博客给出两个理由:缺少高质量同分布数据,且担心 SFT 损伤模型的通用能力。
训练在 基准上展开:基座模型在 Goal、Spatial、Object 三个套件上只有约 2% 的回合能成功,训练 148 步内成功率升到约 70%;第 149 步起加入第四个套件 LIBERO-Long,LIBERO 总成功率在第 225 步达到 74.4%(2,000 个评测回合)。作为对照,博客测得 OpenAI 的 GPT-6 Astra 在最大推理力度下为 80.6%,GPT-6.1 Sol 为 76.2%——帖子里「接近 Astra max」指的是 6.2 分的差距。随后模型再在 RoboDojo 的 general_pickup 与 align_blocks 两个任务上继续 115 步 RL,训练成功率从约 25% 升到约 70%,最终检查点在这两个任务上分别达到 71.2% 和 78.8%。
代价与基建:整个训练约 50,000 H100 等效 GPU 小时,单个训练回合平均 94k token、19.7 轮、39~59 张图片;训练基建 PEAR(Post-training Engine for Agentic Robotics)基于 veRL 与 LMCache 搭建,以 Apache-2.0 开源,训练跑在 H100、H200 和 GB300 上。
对 π0.5:LIBERO 落后 22.5 分,扰动基准反超
是一个视觉-语言-动作(VLA)模型,博客说明它在 LIBERO 上对每个任务都用人类示范做了监督微调。在 LIBERO 本身,π0.5 拿 96.9%,高出 PEAR 模型 22.5 分——这是双方都只练 LIBERO 的前提下测的。
换到扰动基准上局面反转。LIBERO-Plus 主要扰动相机、光照、背景和传感器噪声等观测条件,两者掉分相近:π0.5 掉 11.2 分到 85.7%,PEAR 模型掉 12.2 分到 62.2%。LIBERO-Pro 会改变任务目标和物体布局:π0.5 掉 43.6 分到 53.3%,PEAR 模型只掉 12.3 分到 62.1%——π0.5 在 LIBERO 上的领先变成 8.8 分的落后。
最悬殊的一项是同一场景换一条新指令:博客举例把「把碗放到盘子上」换成「把碗放到灶台上」,π0.5 从 96.9% 跌到 0.75%,PEAR 模型从 74.4% 只跌到 57.4%。物体位置对调的扰动同理:π0.5 掉 76.1 分到 20.8%,PEAR 模型掉 16.9 分到 57.5%。不过博客同样写明:如果只是把指令换个说法或把物体换个样式,π0.5 仍然领先(95.8% 对 73.3%、96.0% 对 60.2%)。博客把差异归结为「模仿示范」与「读懂任务」的分别:π0.5 在示范给出的动作仍然正确时守得住,动作必须改变时就崩。
迁移测试出自博客同一节:只练过 LIBERO 三个套件的模型,在没见过的 LIBERO-Long 上零样本拿到 39.0%,基座只有 0.4%;换到不同仿真器、双臂 ARX 机械臂的 RoboDojo,general_pickup 从基座的 10.7% 升到 39.9%;第三个基准 RoboLab-120(120 个桌面任务、1,200 个回合)上拿到 37.3%,高于 RoboLab 排行榜(2026 年 11 月数据)上 π0.5 的 28.0%、DreamZero 的 25.7% 和 GR00T N1.6 的 7.2%,与 Cosmos3-Nano-Policy 的 36.8% 相当。
通用能力无可测损失,本地推理速度有前提
通用能力是这篇博客反复强调的一条线。团队对九个基准做了 RL 前后的同题配对比较:平均变化 −0.15 分,九个 95% 置信区间全部包含零。具体包括 AIME 2026 数学 98.3→98.5,GPQA Diamond 89.6→89.7,LiveCodeBench v6 88.0→88.4,MMMU 80.7→81.0;掉得最多的是 ERQA 具身推理,68.5→66.5。博客的结论写成一句话:同一个模型现在既会推理、写代码、看图答题,也会用机器人。
推理速度方面,用 NVFP4 量化权重加 DFlash2 投机解码草稿模型,一张 RTX 5090 解码 221 tok/s(帖子说的「220+ tok/s」即此),GB300 上 747 tok/s,M5 Max 笔记本上 52 tok/s;以 747 tok/s 计,一轮 xhigh 推理约 4.3 秒。这组数字有两个限定:团队所有评测都用 BF16 权重,并注明 NVFP4 会降低精度、拉长思维链;推理力度本身是个开关,低力度下每轮只想 0.86k token,LIBERO 成功率从 74.4% 跌到 21.9%——博客承认,模型在 LIBERO 上的大部分能力来自每一步移动之前的长推理。
自测口径、自认局限与公开的复现路径
博客的局限一节直接列出了这些问题:受 GPU 资源限制,RoboDojo 只练了两个任务就停下,训练只覆盖两个仿真器和一小撮任务,起点是 27B 基座;RL 不设长度惩罚,个别回合思维链达到 32k token,即便推理再快,一步移动也可能超过半分钟;27B 基座对所控机体(embodiment)缺乏知识,信息得写进提示词,复杂任务只有在详细描述机体和任务后才能完成;模型不能可靠地规划动作块(action chunk),每轮只输出下一个位姿,精度部分取决于控制器实现。
这些成绩能否被独立复现,本文引用的材料无法回答。发布物本身是完整的——权重挂在 Hugging Face 上 11 月 13 日创建的 下,代码与训练基建在 GitHub(本文查询时 24 star、3 fork,更新于 11 月 13 日),仓库还给出部署配方:一张 RTX 5090 或一块 GB300 跑 vLLM 模型服务,机器人站驱动 YAM 或 SO-101 机械臂。团队在博客结尾说,希望这些结果能推动社区把 Robot-Use RL 纳入基础模型的后训练流程;这套说法能否立住,接下来要看有没有人在他们公开的这套栈上把数字跑出来。
参考链接
- Jiaming Tang 的 X 帖子(2026-11-13):
- Jiaming Tang 的 X 个人页:
- PEAR 项目博客:
- 随附论文 PDF:
- GitHub 仓库 mit-han-lab/pear:
- Hugging Face PEAR 模型集合:
- π0.5 论文(arXiv:2504.16054):
- LIBERO 论文(arXiv:2306.03310):