微软研究院开源 TokenEconomizer:让编码 agent 复用既往会话经验来削减 token 成本
2026 年 11 月 16 日(UTC),微软研究院官方 X 账号 @MSFTResearch 发帖宣布:面向 AI 编码 agent 的开源插件 TokenEconomizer 已在 GitHub 上架。帖文把要解决的问题说得很直白——AI 编码 agent 可能「为了重新学习相同的教训而浪费时间和 token」;TokenEconomizer 的做法是建立在既往会话经验之上,官方称这样能在保持任务成功的同时削减成本,是一条通向「编码 agent 不仅学会如何解决任务,也学会如何更有效支配计算」的路径。
同日发布的官方博客文章给出了更多细节:这个由 UC Berkeley、Microsoft Research 与 Microsoft Security 合作开发的插件不改动编码 agent 本身及其底层模型;论文作者在 277 个 SWE-Bench 真实修 bug 任务上报告,平均 token 成本下降 18.4%~30.9%,测试过的每个仓库都有节省,任务成功率大体保持稳定。这些数字均为作者自报的评测结果,论文目前以 arXiv 预印本形式公开。
浪费从哪来:60 个任务的成本画像
token 是编码 agent 与模型交互的计费单位:每一轮对话,agent 都要把指令、已加载工具的描述和此前的会话历史重新发送给模型,成本随轮次累积。微软研究院团队先在 SWE-Bench(开源 Python 项目真实 bug 修复基准)的 60 个任务上给 Claude Code 做了成本画像,把同一仓库的任务按顺序连续执行,发现三类反复出现的浪费:同一仓库累计完成至少五个任务后,30% 的工具调用重复了该仓库此前任务里做过的动作,只有 7% 与其他仓库的历史吻合;agent 每一轮都收到 23 个工具描述,其中 16 个从未被调用;占任务量 17% 的失败任务,花掉了 32% 的总支出。
博客还测了三款围绕固定省钱策略的热门开源插件,每一个都只在部分仓库有效。官方据此给出的判断是:有效的成本控制必须适配具体仓库,而不是把同一策略套到所有场景。
三种机制:micro-skills、工具修剪与失败循环干预
TokenEconomizer 在每次会话结束后读取日志、更新它对这个仓库的认知,再通过三个机制作用于后续会话。它不动 agent 的模型、权重和代码:事实在会话开始时注入上下文,工具经 agent 自己的设置移除,不要求 agent 学会用任何新工具,每一步都可逆。
micro-skills 把仓库特有的知识写成一行行笔记:必须先跑的构建步骤、在这个仓库能用的命令拼写(比如没有裸 pytest 时改用 python -m pytest)、命令需要的环境变量、生成文件的位置。笔记有两个来源——跨会话重复出现的失败,以及一个每隔 3 个会话回看近期会话、提出候选事实的模型;一条笔记要在三个会话确认同一模式后才注入会话起始上下文,之后若被新证据反驳就撤下。
工具修剪针对另一笔固定开销——每个被加载工具的定义都要随每个请求发送。一个工具在跨至少 2 个会话的 10 个提示里无人使用、或连续 5 个会话无人使用,就会在后续会话中被留在 agent 自己的设置之外;运行命令和编辑文件的核心工具始终保留,一条命令即可找回。
失败循环干预盯住卡住的轮次:当一轮工作反复撞上同样的失败,一个判断模型会评估 agent 是真的卡住还是仍在推进;置信度不低于 0.7 时,向上下文注入一条建议换做法的短笔记,每轮至多一次。开源插件中,若加注后仍然卡住,插件会提示开发者如何中断这一轮——它自己从不停掉任何工作。插件每一步动作都用一行字告知用户,任何一步失败,会话照常进行,如同插件没有安装。
按 GitHub 仓库 README 的默认设置,工具修剪与失败循环干预默认开启,micro-skills 默认关闭,理由写在文档里:事实提议器会增加模型调用,节省幅度取决于仓库和工作内容。插件自身的模型调用通过用户已有的 agent 登录进行,开销计入官方报告的成本;学到的一切留在开发者本机的 ~/.tokeneconomizer 目录,插件自身不需要单独的 API key。
把官方数字拆到五组组合
按论文报告,评测在 SWE-Bench 六个仓库的 277 个任务上进行,覆盖五组「agent–模型」组合,每个仓库都从零经验起步;全部 30 个「仓库 × 组合」单元格都低于默认设置,单个仓库与组合内部的降幅为 5%~40%。Pass@1(首次尝试即通过的比率)在五个组合中的四个上升:Claude Code 搭 Sonnet 5 成本降 23.6%、Pass@1 升 1.3 个百分点,Claude Code 搭 Opus 4.8 降 30.9%、回落 1.0 个百分点,Codex 搭 GPT-5.6 Terra 降 24.7%、升 0.9,Codex 搭 GPT-5.6 Sol 降 26.1%、升 1.6,Copilot CLI 搭 Sonnet 5 降 18.4%、升 2.6。
对照组同样写在论文里:直接调低模型的推理努力(reasoning effort)能省下相近甚至更多的成本,但带来大幅性能退化。节省随经验累积——早期任务可能更贵,但按博客引用的累计成本曲线(Claude Code),最迟到第六个任务,每个仓库的累计成本已低于默认;三个机制单独使用都有效,合用降幅最大。迁移到其他场景:顺序 web 开发基准 Web-Bench 上成本降 16.0%~21.2%;安全审计场景(每个任务都在新仓库)降 6.4%~19.6%。
从 arXiv 预印本到 GitHub 仓库
论文《TokenEconomizer: Experience-Driven Black-Box Cost Control for Coding Agents》于 2026 年 10 月 15 日以预印本形式发布在 arXiv(编号 2610.22732,cs.CL 分类),第一作者 Aaron J. Li 来自 UC Berkeley,作者团队横跨 UC Berkeley、Microsoft Research 与 Microsoft Security 三家机构。插件代码就托管在 microsoft/TokenEconomizer 仓库,采用 Apache 2.0 许可证,核心包只用 Python 标准库,要求 Python 3.10 及以上;截至发稿,该仓库已获得 4,270 stars 和 246 forks。
插件完整支持 Claude Code、Codex、GitHub Copilot CLI 与 Pi,对 opencode 和 Cursor Agent 提供实验性支持;安装方式是克隆仓库后挂进各家的插件市场,Pi 则用一条 pi install 命令。官方列出的支持版本区间为:Claude Code 2.1.300~2.1.310、Codex 0.153.1~0.164.0、Copilot CLI 1.0.83~1.0.102、Pi 1.2.0~1.3.0,更新的版本尚未测试。仓库的 experiments/ 目录附带了复现论文 SWE-Bench 与 Web-Bench 结果所需的评测脚手架(harness)、启动器和任务集。
官方口径之外的边界
帖文本身没有给出任何性能数字或基准,上述评测全部来自作者自报,论文是 arXiv 预印本。仓库文档同时写明了几处实际使用中的保留:工具修剪目前只作用于 Claude Code(留下单个工具)、Codex(留下能力包)与 GitHub Copilot CLI(留下整个 MCP 服务器),Pi、Cursor Agent 与 opencode 还没有修剪对象;Cursor 支持仅限 macOS 与 Linux,真实 Agent 会话中的 hook 送达尚未验证;opencode 只在 1.19.5 与 2.2.0 两个版本上测过。
官方数据内部也有一条张力:成本降幅最大的组合恰好是五个组合中唯一 Pass@1 回落的那个(Claude Code 搭 Opus 4.8)。「保持任务成功」在这份自报数据里成立四次、破例一次。