AREX Feed Article
Sakana AI 发布递归自改进方法 MASS，称 27B 模型两轮循环后成绩达基线 1.2～1.6 倍
北京时间 10 月 12 日凌晨，日本 AI 公司 Sakana AI 在 中发布 Multi-Agent Self-Supervision（MASS，多智能体自监督），一种递归自改进（Recursive Self-Improvement，RSI）方法：让一个共享模型既组成虚拟子智能体团队执行任务，又搜索更优的多智能体工作流、并用它自己的判断挑出最佳方案，再把最佳团队的执行轨迹蒸馏回模型权重。据该公司自报，用 27B 开放权重模型（论文中为 Qwen3.6-27B）在合成开放式研究任务上跑两轮循环后，MLR-Bench、DSBench、ScienceAgentBench、AstaBench 四个研究基准上的每输出 token 计分达到基线模型的 1.2～1.6 倍。
与帖文同步公开的还有、与。研究由 Sakana AI 与 UC Berkeley 的研究者合作完成。帖文在报出成绩的同时列出三条发现——RSI 循环内的角色泛化、多智能体轨迹是比单智能体轨迹更省 token 的训练数据、瓶颈可能出在优化器而非评估器——并附上一条安全提醒：当模型兼任自己的评估者时，共享盲区可能让错误被当作进步接受、再经训练强化。以上成绩与发现均为第一方自报，截至发稿未见独立验证。
同一个模型身兼三职，工作流是一份可修改的协作计划
据，MASS 处理的是「同质递归自改进」（homogeneous RSI）场景：当模型的产出超出人类专家能可靠评估的范围——比如评估一项提案中的发现可能需要稀缺的专业知识、昂贵的证据或旷日持久的实验——模型自己就成了眼下最好的优化者和评估者。于是同一个共享模型在循环里填三个位置：任务求解者（optimizee）产出包含结果、图表和研究报告的工作区；工作流优化器根据评估反馈修改团队如何分工、如何传递结果、如何互相检查；评估器对比两个工作区，选出更好的那个并解释判断理由。
工作流本身是一段写进任务提示的协作计划，由四类组件构成：Role（每个子智能体的职责）、Instruction（它要完成的活）、Contract（必须交回的信息与检查项）和 Hop（调用顺序）。博客举了一个搜索得到的金融工作流：数据 → 特征 → 建模 → 回测 → 审计 → 对账 → 报告，其中数据专员的输出契约要求显式报告 no_future_leakage、train_end_before_val_start 等检查是否通过，用来防止回测让历史决策用上未来信息。
循环分两层。内循环冻结模型权重，反复执行三步：团队按候选工作流执行；评估器把候选工作流产出的工作区，与当前冠军（champion，即按模型自己的判断迄今最优的工作流）的工作区比较，胜出的候选工作流成为新冠军；优化器根据反馈历史提出下一版工作流。外循环更新权重：把冠军工作流在每个任务上跑 18 次，用当前模型两两比较工作区、经 Bradley–Terry 模型折算成分数，每个任务保留最多 16 条轨迹（15 条训练、1 条验证）；构建训练样本时从编排者的初始提示里删去工作流文本，再用 LoRA（低秩适配微调）对编排者和子智能体的对话做监督微调。博客解释，删掉工作流是为了让模型从任务本身学会如何组织协作，而不是背下一份现成计划。
博客还报告了搜索侧的一个观察：随着迭代推进，最优工作流倾向于把任务信息更多地编码进契约与调用顺序，角色和指令的措辞反而越来越通用。
涨幅集中在研究型任务，软件工程基准不升反降
据博客，实验从 Qwen3.6-27B 出发，在 qwen-code 编程智能体环境中跑两轮完整循环。训练数据是一套 12 个合成开放式研究任务，覆盖金融、机器人、药学三个领域，每个任务要求产出代码、量化结果和研究报告；其中 9 个划为训练任务、3 个留出（每个领域留 1 个），最终有 8 个任务实际供给训练数据——有一个训练任务被排除，因为工作流搜索始终找不到能胜过其参考工作流的方案。任务描述由 GPT-5.5 在实验开始前生成。
为了在模型自评之外保留一把外部尺子，团队另请 GPT-5.5 和 Claude Opus 4.8 分别给完成的工作打分，这些判断不进入 MASS 循环。在这 3 个留出任务上，以外部评审判定的胜率计，一轮后的模型对基线胜 53.9%，两轮后升到 69.9%；两轮模型对一轮模型的胜率为 60.8%。
把四个公开基准拆开看，给出了细项：MLR-Bench 用 12 个任务的子集（每个任务要求从提出想法、写提案、跑实验一路做到写论文，智能体有两小时、3 个 CPU 核心、16 GB 内存、无 GPU），任务分从基线的 1.58 升到两轮后的 2.40，交付论文的运行从 31/60 增到 50/60；ScienceAgentBench 在 102 个任务、每个任务 3 次试验下，成功率从 28.8% 升到 31.7%。论文同时写明了两处保留：MLR-Bench 交付论文的平均分反而从 3.07 降到 2.88——这些均值覆盖的是不同的完成任务集合，总分的提升伴随着完成率的提高；而按 12 个任务均值做配对符号检验，两轮模型对基线的提升并不显著（p=0.2266），论文的原话是「改进的证据取决于聚合单位」。ScienceAgentBench 的三个试验均值，论文也称只作描述性报告、不做显著性声明。
软件工程方向的两个基准，数字更直接：论文表格里，Terminal-Bench 2.0 的任务分从 37.5 降到 35.2，SWE-bench Verified 从 62.6 降到 61.1；按博客的每输出 token 口径，两者分别为基线的 0.96 倍和 0.94 倍，迁移并不均匀。公司猜测往训练数据里补充软件工程任务即可解决这种泛化问题，并注明这只是猜测。
三条发现：角色会泛化，团队轨迹更省 token，优化器可能是瓶颈
第一条是角色泛化：只用任务求解轨迹做训练，优化器和评估器的能力也跟着提升。博客给出的证据包括：模型评估器与外部强评审的一致率从 73% 升到 93%；把第一轮搜出的工作流交给未更新的基座模型执行，对比基座模型执行自己搜出的工作流，胜率为 64%。论文的行为测试更直观：不给优化后的工作流、只给裸任务提示时，编排者成功委派子智能体的运行比例从基线的 1/110 升到一轮后的 48/110、两轮后的 87/110，一个子智能体读取另一个所写 Python 文件的「代码交接」从 1/110 升到一轮后的 42/110、两轮后的 83/110。论文同时提醒，MLR-Bench 的 180 次执行中没有任何一次调用委派工具，公开基准上的迁移并不能归因于委派本身。
第二条是训练数据效率：多智能体轨迹比单智能体轨迹更「稠密」。博客比较了从同一基座模型独立训练的多个学生：多智能体学生 M+（即第一轮 MASS 模型）处理 2,880 万个监督 token 后，对基线胜率为 68.3%；单智能体学生 S++ 处理 4,200 万个 token 后为 64.0%——更高的胜率少用了约 31% 的监督 token。论文摘要的表述是：用多智能体轨迹训练出的学生，胜过用 1.4 倍训练 token 训练的单智能体学生。另有外部评审在 85.1% 的对比中更偏好多智能体系统的产出，不过团队运行平均多产出约 2.4 倍 token；在生成轨迹长度相近的对照组里，偏好仍为 80%。
第三条指向瓶颈的位置。博客的消融实验把基座模型固定为执行者，只把评估器换成 GPT-5.5 时改善有限；把评估器和优化器一起换成 GPT-5.5，5 轮迭代内就在全部 12 个任务上搜出胜过裸基座的方案；完全同质的循环更慢，最终在 12 个任务中达成 11 个。公司的解释是：强评估器能给高质量反馈，弱优化器却消化不了；预算有限时应优先升级优化器。博客同时提醒，工作流搜索噪声很大，强迭代之后可能紧跟明显回退，文字空间里的搜索可能需要类似学习率调度器的稳定机制。
论文、代码与两个「外部裁判」
论文于 10 月 8 日提交 arXiv（编号 2610.12176，cs.AI 类目），署名 7 位作者。按博客署名，Jinglue Xu、Jeffrey Seely、Yujin Tang 来自 Sakana AI，Hyunin Lee、Donghyun Lee、Somayeh Sojoudi、Matei Zaharia 来自 UC Berkeley；第一作者 Hyunin Lee 的工作完成于其在 Sakana AI 的实习期间。代码仓库 SakanaAI/mass 于 9 月 29 日创建、10 月 9 日仍有提交，目录包含 benchmarks、evaluation、training、tasks 等。截至本文查询时（10 月 12 日下午，北京时间），帖文累计约 8.1 万次浏览、973 次点赞。为这套循环承担外部测量的 GPT-5.5 与 Claude Opus 4.8，本身也是其他公司的大模型。
自评盲区：公司自己点出的失效模式
帖文提醒：「当模型同时是自己的评估者时，共享盲区可能让错误被当作进步接受，并通过训练被强化。」博客把这条担忧展开：在同质循环里，一个共享盲区可能让有缺陷的结果被生产出来、被接受为改进、再进入下一版模型；如果人类同样难以识别这个缺陷，后续每一轮更新都可能继续强化它。博客甚至称共享盲区「可能是递归自改进的阿喀琉斯之踵」，并把「在没有更强监督者可用时如何保住有效监督」列为 AI「奥德赛时刻」的核心安全问题；帖文据此呼吁社区认真研究同质 RSI，以支持 AI 安全。
按公司自己的描述，循环里决定哪些轨迹进入下一轮训练的，正是模型自己的判断——他们提醒的那个共享盲区，恰好落在挑选训练数据的环节上。