AREX Feed Article
腾讯混元发布 WorkForge:把真实专家工作流变成 16.7K 个可验证的智能体训练环境
10 月 22 日北京时间下午,腾讯混元官方 X 账号 @TencentHunyuan 宣布推出 WorkForge——一个从真实世界资源构建可验证长程(long-horizon)工作智能体训练环境的可扩展框架。帖文描述:框架从专家工作流出发,先搭建真实工作区,从中抽取可核查事实,再生成任务指令和基于可观测证据的双重(程序化 + 语义)验证器;目前已扩展到 16.7K 个环境,覆盖 40 个专业领域、60 种文件类型,并称随着数据量与交互时长增加,模型在长程工作基准上取得一致提升(,帖中所附论文为 )。
这套口径可以在论文中逐项对上。arXiv 页面显示,论文题为 Scaling Verifiable Environments for Long-horizon Work Agents,10 月 4 日首次提交,10 月 21 日更新至 v4,作者署名单位为腾讯 LLM 部门(LLM Department, Tencent)与复旦大学,提交人为 Jiazheng Zhang()。论文报告:用 WorkForge 产生的轨迹做后训练,Qwen3.5-35B-A3B-Base 的 GDPVal 分数从 45.5 升到 73.6,APEX 从 5.0 升到 21.3。这些都是团队自己报告的实验结果,尚无独立核实。
流水线分四步:从场景蓝图到打分轨迹
论文把动机落在现有两条路线的矛盾上:WebArena、AppWorld 这类专家手工搭建的环境保真度高,但工程开销大到无法规模化;自动化合成方法能上量,却依赖合成环境或任务专用的模拟资源,得到文件类型有限、缺少跨文件依赖的玩具工作区。论文还指出,如果评测标准不锚定在工作区里可观测的事实上,就会混入幻觉出来的要求,判分不可靠()。WorkForge 的前提是:专业任务和它的验证离不开工作区本身——工作区决定智能体能探索什么,工作区里可观测的事实决定能问什么、又能可靠验证什么。
具体流水线分四步。第一步,领域专家把自己的工作流提炼成可复用的场景蓝图(Scene Blueprint),每份蓝图记录工作流及其上下文、预期交付物、所需资源及其依赖、领域特有的决策点;论文举的例子是,教师可以把「测完一个单元再针对性讲解」的流程做成蓝图,换不同考卷和教材就能复用。第二步,一个采集智能体迭代地搜索来源、阅读参考页面、下载资源并预览内容,把每份蓝图实例化成多个真实文件组成的工作区,保留原始文件组织,再为每个工作区建档:领域、文件角色、依赖关系,以及一组可核查的事实锚点。第三步,任务生成把蓝图和工作区档案合成智能体可见的任务指令和一份隐藏解题计划,并把计划里的关键事实逐条对照工作区核验、记录成证据;这些证据连同工作区档案一起定义出两类验证器——程序化验证器核查文件是否存在、数值是否正确这类确定性要求,语义验证器由 LLM 裁判按同样的证据给开放式交付物逐条打分(每条 0~10 分)。第四步,求解智能体只拿到工作区和任务指令,交互到交付成果或达到上限为止,产出带程序化、语义两个分数的轨迹记录,供监督微调使用。
真实工作区:文件比合成多 5.4 倍,类型多 2.4 倍
为什么坚持用真实资源?论文做了一组对照实验:用同一批场景蓝图实例化两套工作区,唯一变量是资源来源——从网络检索,还是让 LLM 合成。结果显示清晰的结构性差距:真实资源建成的工作区文件数量多 5.4 倍,文件类型多 2.4 倍,平均体量从 21.5 KB 涨到 279 KB。
论文对合成工作区的描述是:它们被高度整理过,任务相关信息集中在少数几个容易识别的文件里;而真实工作区把证据铺满整个目录层级。这意味着真实资源把专业工作里追依赖、跨文件找证据的探索负担留在了训练环境里,也让每条验证标准都有工作区里可查的证据可指。
一个因子分析任务:297 个 CSV、12 条事实记录、23 条验证标准
论文附录 E 的例子能看出这套机制的颗粒度。一个金融支付类任务让智能体扮演多资产公司的量化策略师,判断经典股票因子在各区域市场是否仍有溢价,并给投资委员会写简报。工作区取自一个公开 Kaggle 数据集(Kenneth French 数据库的本地镜像):297 个 CSV 文件装在 16 个目录里,最深嵌套 6 层;同一文件里月度和年度数据块叠在一起,缺失值标记为 -99.99 或 -999,数据来源还不统一——美国文件标注 CRSP,发达与新兴市场文件标注 Bloomberg。
对工作区的巡检产出 12 条可用事实记录,其中一条是纠错:发达市场序列从 1990 年 7 月开始,而新兴市场五因子数据 1989 年 7 月就开始了,并非同步起点。这个任务挂了 23 条验证标准:8 条程序化的,比如交付文件是否有效、「新兴市场 198907 起点是否与发达市场 199007 正确区分」这类具体数值;15 条语义的,比如要在共同窗口内比较各区域溢价、把月度和年度数据块分开、处理缺失值标记、讨论 CRSP 与 Bloomberg 的来源差异、交付 tidy 长表格式的 CSV。
用于训练的这条轨迹由 GLM 5.3 挂 OpenClaw 执行,用时 1,317 秒,产生 121 条消息、60 次工具调用。
论文报出的数字:27B 模型在 GDPval 上胜过 397B 模型
规模上,论文语料含 16,665 个监督微调任务,分布到 40 个领域。占比最高的四个领域是办公生产力(8.36%)、数据与数据库(8.21%)、商业与企业(7.94%)、金融与支付(7.42%),合计 31.9%,前十大领域合计 56.9%。训练是监督微调:5 个 epoch,最大序列长度 262,144 token,35B 模型用 64 块 H20 GPU,27B 模型用 128 块;训练轨迹由 GLM 5.3 分别挂 Claude Code 和 OpenClaw 两个智能体框架生成。评测覆盖五个基准:WildClaw 和 ClawEval 考长程执行、多文件交互与工具可靠性,GDPval 和 APEX 考专业交付物与工作场所工具编排,Agents' Last Exam(ALE)考可验证结果的长自主解题;论文说明 GDPval 只取官方 220 个任务中的 201 个纯文本任务,排除了 19 个多模态任务。
论文报出的结果是:WorkForge-A3B(微调自 Qwen3.5-35B-A3B-Base)在 GDPval 拿到的 73.6 分,比此前 100B 参数以下专用基线的最高分 ClawGym-30A3(35.0)高出 38.6 分;ALE Pass@1 为 12.4%,对照 ClawGym-30A3 的 2.9%。WorkForge-27B(微调自 Qwen3.5-27B)在 GDPval 拿到 82.4,高于总参数量约 15 倍的 Qwen3.5-397B-A17B(79.7);相对未微调的 Qwen3.5-27B,WildClaw、APEX、GDPval 分别涨 8.0、4.2、3.0 分。表内同批评测的前沿闭源模型仍在前面:Claude Opus 4.8 为 89.1,GPT-5.6 Sol 为 90.1,Claude Opus 5.0 为 91.0。这些评测均由论文团队自己运行,数字为自报口径。
缩放曲线:数据更多、轨迹更长、双重验证各涨各的分
两组缩放实验支撑官方「数据量与交互时长增加、一致提升」的说法。数据量方面,团队分别用 1K、3.6K、8K、16K 条轨迹训练同一基座模型,性能随数据量单调上升:16K 模型在 ALE 拿 28.7 分、WildClaw 拿 29.9 分,比 1K 模型分别高 13.0 分和 8.4 分。交互时长(智能体与环境交互的回合数)方面,团队把轨迹按 0~20、21~40、41~60 回合分成三组、各取 1,000 条训练:最长那组训出的模型在 ALE 高 4.2 分、WildClaw 高 5.0 分,评测时也「动」得更多——平均 24.0 次有效工具调用、38.3 种不同动作,而最短轨迹组训出的模型只有 11.7 次和 17.0。
消融实验支持双验证器的设计:按程序化与语义分数的等权平均(阈值 0.7)挑选训练轨迹,ALE 得分 22.11,高于只按语义分挑的 15.62 和只按程序化分挑的 14.89。框架组合的消融则显示一定程度的框架特定迁移:用 Claude Code 轨迹训练的模型在 Claude Code 评测下得分更高(24.2 对 16.1),OpenClaw 轨迹训出的模型在 OpenClaw 评测的 WildClaw 上领先 6.2 分——作者把这一现象读作模型在任务知识之外还学到了评测框架的工具使用习惯。
行为变了,局限也写在论文里
行为分析显示了微调前后的差别:微调后的 Qwen3.5-27B 平均每个任务访问 6.52 个外部网页域名,是基座模型的 5.3 倍;工作区内定向证据检索占工具调用的比例从 5.9% 升到 16.2%;工具调用失败后,推理文本长度从 144 字符涨到 614 字符,论文把它解读为诊断和重新规划,而不是立刻重试。落到交付物上,GDPval 五类评分标准中视觉与排版质量涨幅最大,提高 13 个百分点,数值与计算准确性提高 8.2 个百分点。
局限写在论文自己的小节里:框架依赖专家工作流和可获取的真实资源,专有或敏感领域难以照此覆盖;任务与验证器的可靠性取决于工作区画像的完整和准确;目前的验证器只看最终交付物,缺少专家校准,也不评估智能体的中间行为。论文的 AI 使用声明还说明,团队在 WorkForge 内部用生成式 AI 生成任务包和训练轨迹,作者复核全部输出。
按论文自己的口径,82.4 对 89.1 的差距是「缩小」而非追平——而支撑 16.7K 个环境的验证机制目前只盯着最终交付物,中间过程无人打分,这是团队自己承认、尚未解决的一点。