AREX Feed Article
英伟达发布 VFlash:整条轨迹一次输出,称机器人推理最高提速 5.1 倍
11 月 5 日 16:31 UTC(北京时间 11 月 6 日 0:31),英伟达的 Jim Fan(@DrJimFan)在 推出 VFlash,称它是面向 Physical AI 的「System One 视觉模型」。他给出的技术理由是:机器人要预测的东西大多是定长浮点向量,一个 bounding box(检测框)固定 6 个 token(模型逐个生成的离散单位),一条 10 个航点的机械臂轨迹是 54 个 token,长度在解码前就已知,所以不必逐 token 生成,可以一次写出整个几何形状。
随帖文上线的给出了配套测量:在 Jetson Thor 上跑 MolmoSpaces 操作任务,整条模型流水线快 5.1 倍,其中解码段快约 12 倍。帖文里「动作解码最高快 12 倍」「整体推理最高提速 5.1 倍」对应的就是这两类测量,数字由发布方自己测得。
一条 10 个航点的轨迹,是 54 个 token
方法名叫 Flash Primitive Decoding(闪速图元解码)。技术报告把流程拆成三段:目标模型读完图像和指令,先输出一个工具调用,声明接下来这一块有多长;图元类型决定坐标怎么排;然后一个轻量草稿模型在冻结的目标特征上,一次前向写完整块。
草稿模型只有 5 层非因果 Transformer、5.37 亿个可训练参数。目标模型是一个 4B 的具身 VLM,语言骨干是 Qwen3-4B,视觉编码器是 MoonViT-SO-400M,在整套流程里保持冻结。坐标用 1,001 个专用 token 表示,机械臂的 XYZ 坐标被量化到 1 厘米。论文借用 Kahneman 的 System-1 说法,把这种不逐步推演、直接给出整块空间计划的模式称作 System-1 式的视觉规划。
VFlash 与普通推测解码的区别在接收标准:后者要求草稿与目标模型逐 token 对得上,错一个就截断,坐标只要差一个量化格,整段轨迹就得重来。论文统计,作为对照的 DFlash(每 16 个 token 一块的块扩散推测解码)在 MolmoSpaces 的轨迹块里平均每个目标前向只提交 2.2 个 token,在文本块里是 5.5 个。VFlash 改成整块接收:只要结构合法(分隔符在位上、坐标都是数字、航点数与工具调用一致),草稿一次写出其余 53 个位置,整块 54 个 token 直接提交,再让目标模型跑一遍更新缓存,并产出动作头要用的隐状态。
文字输出不适用这条规则:子任务规划仍走 16 个 token 一块的推测解码,由目标模型逐块验证。项目页的总览图把流程和结果画在一起:
三个平台、两种计时口径
Thor 从 3,552.7 毫秒降到 703.3 毫秒(5.1 倍),DGX Spark 从 3,356.5 毫秒降到 649.9 毫秒(5.2 倍),H100 从 516.1 毫秒降到 142.3 毫秒(3.6 倍)。解码段单独的加速比在 Thor 和 Spark 上都是 12 倍,H100 上是 11 倍。解码只占整步的一部分,其余阶段没有变化,整条流水线的倍数因此小一些:在 Thor 上,自回归解码占每步延迟的 75%~87%。
测量条件是 batch size 为 1,一次只处理一个请求;视觉、目标、草稿引擎都用 FP16,权重和 KV 缓存不做量化;运行时是本地修改的 TensorRT-Edge-LLM 加 TensorRT 引擎;计时从每次请求重新做视觉计算开始,不含模型加载、引擎构建、预热和输出解码,统计的是模型流水线延迟,不是从传感器到执行器的全链路。
驾驶任务上,Thor 的 NAVSIM 与 Waymo 解码段分别从 1,380.0 毫秒降到 71.9 毫秒、从 3,254.0 毫秒降到 78.3 毫秒,整条流水线是 3.4 倍和 5.1 倍。机器人规划这一项的读数是 12 倍,驾驶任务更高。
3D 误差降了 61%,但只在一个数据集的一组设置上
61% 出自 AgiBot 数据集的 2D+3D 设置:平均位移误差从 0.105 米降到 0.041 米。同组的 InternA1 从 0.153 米降到 0.062 米,约 59%;MolmoBot 从 0.076 米降到 0.055 米,约 28%。2D+3D 目标下,报告给出的降幅区间是 28%~61%;只生成 3D 时是 18%~49%。把三个数据集和三种目标变体合起来平均,ADE 降 42.6%。
换到 2D 轨迹,收益小得多。两个基准上,Hausdorff 距离降 7%,DFD 和 RMSE 降 3%~6%。
检测框是另一回事。不设校验、直接接收时,Dense200 上的平均 F1 从 60.10 掉到 39.09,少了约 20 个点;加上空间置信度守卫、把可疑的框退回自回归重写,F1 回到 61.78,速度仍是每秒 17.46 个框,基线是 6.73。
稠密 3D 运动同样有输有赢:DAVIS 上 ADE 降 27%、FDE 降 19%,WorldTrack 上 FDE 反而升了 15%,三个数据集的 PWT 低 7%~12%。
把规划接进动作头:70.2% 对 62.6%
MolmoSpaces 上,动作策略是一个由 Cosmos-Predict2.5 后训练得到的 world action model(世界动作模型)。VLM 冻结,只把问题、子任务和 10 个航点的 2D+3D 轨迹特征接进它原有的 cross-attention(交叉注意力)。四个任务套件共 3,915 个回合,平均成功率 70.2%,原基线是 62.6%。同样架构下换成自回归生成的规划,降到 61.0%;把轨迹特征换成图像特征、只留子任务,是 63.7%。
LIBERO 系列上差距小一些:LIBERO 提升 0.8 个百分点,LIBERO-Plus 提升 1.9 个,扰动更多的 LIBERO-PRO 提升 6.8 个。
驾驶任务用的是 ReCogDrive 衍生的扩散头,NAVSIM 上 90.7 PDMS,Waymo 上 7.86 RFS,两项都是越高越好;报告里列出的最好成绩分别是 90.7 和 7.91。
这些都是论文作者自己跑的对照,动作头重新训练,VLM 全程不动。增益分布并不均匀:对基线提升最大的是 Pick & Place(11.6 个百分点)和 Close(12.8 个百分点),Pick 只有 2.5 个百分点。论文认为,这提示涉及多段相互依赖动作的任务受益更多。
「Code」按钮落在 LocateAnything 的目录里
帖文称这次发布是「开放论文、开放源码」。项目页顶部有两个按钮:Technical report 指向那份 PDF,Code 指向 。论文首页的链接栏列着 GitHub 与 Project Page 两项。
论文作者栏里,Yu-Cheng Chou、Shihao Wang、Jin Huang 为共同一作,Zhiding Yu 为通讯作者,单位包括英伟达、约翰霍普金斯大学、香港理工大学、普渡大学和香港大学,Jan Kautz 与 Jim Fan 也在作者之列。Zhiding Yu 在中说,这是 LPR Team 与 GEAR Lab 的合作。
截至发稿,这个地址打开的是 NVlabs 仓库里的 Embodied 目录:README 介绍 LocateAnything 的并行框解码、3B 模型和 Hugging Face 权重,文件列表是 eaglevl、evaluation、shell 等对应内容。VFlash 自己的实现与权重,还没有出现在这个入口里。