AREX Feed Article
Artificial Analysis 上线 FrontierCode 1.1 编码 agent 排行榜:Claude Opus 5.5 以 52% 居首,MiMo-V2.6-Pro 领跑开源权重模型
2026 年 10 月 12 日,AI 评测机构 Artificial Analysis 宣布上线 :一份公开的编码 agent 榜单,测的是各家模型在 Cognition 的同名私有评测里,能否对一个真实开源仓库做出「维护者愿意合并」的修改。AA 用其开源的 Stirrup agent harness(代理运行框架)统一驱动全部参评模型,在评测的 100 道 Main 主任务集上独立运行,榜单页已挂出 22 个模型的成绩。
首发头条数字属于 Claude Opus 5.5 (max with fallback):平均分 52%,排名第一。但 AA 在中同时给出另一面:领先模型仍有超过 40% 的尝试不通过,Opus 5.5 通过全部阻断性(blocking)检查的尝试占比也只有 58%;100 道任务里有 9 道,没有任何参评模型在任何一次尝试中做出来过。
前三名只差 3.2 个百分点:榜单页的精确分数
按 的口径,前三名是 Claude Opus 5.5 (max with fallback) 52.2%、GPT-6.1 Sol (max) 49.1%、Claude Fable 5.1 (max with fallback) 49.0%;发布文章取整后写作 52%、49%、49%。
分数带很窄:六个实验室的九个模型全部落在 43%~52% 之间。开源权重(open weights)模型中,MiMo-V2.6-Pro 以 45% 领先,DeepSeek V4.1 Flash (max) 与 Kimi K3 (max) 均为 44%。
通过率(pass rate,指通过全部阻断性检查的尝试占比)的跨度更大:从榜首的 58% 一路降到 Muse Glimmer (high) 的 16%。反向的极端也存在:没有任何一道任务被所有模型在所有尝试中通过。
评分不止看测试:改动范围、代码量与维护者标准都在内
FrontierCode 出自 Cognition,由后者与 36 个开源仓库的维护者共同建题,按 AA 的描述,维护者在每道任务上投入的时间超过 40 小时。每道任务要求 agent 对一个真实开源仓库做一处修改,而评分机制比「测试是否通过」多出几层:除隐藏测试和命令检查外,还限制改动可以触及哪些文件、改动的代码量,并由 LLM 按维护者的标准做定性审查。
榜单页把检查归为六类——常规测试(classical tests)、命令检查(command checks)、反向测试(reverse-classical tests)、自适应测试(adaptive classical tests)、范围检查(scope checks)与 LLM 提示审查(LLM prompt review),每类分阻断性与非阻断性两种:任何阻断项不过,该次尝试记 0 分;全部通过则得 70%~100%,非阻断表现决定落点。
被点名的扣分行为包括:改动过度、diff(代码改动)过大,修改了任务范围之外的文件,以及添加没有实际用处的测试。AA 认为这套标准切中当下的问题——模型做编码任务的能力已经很强,但改动常常还要经过大量清理,维护者才愿意合并。
每题跑三次、上限 250 轮,任务保密防污染
AA 跑的是 FrontierCode 1.1 Main,即该评测 150 道任务中的 100 道主任务集,任务内容保密,以防模型在训练中见过原题(数据污染)。所有模型都跑在同一个 Stirrup harness 里,单次尝试上限 250 轮;每道任务跑 3 次,先在任务内取平均,再把 100 道任务等权平均成最终分数。
定性审查部分由 LLM 裁判打分,AA 用的是 GPT-6 Luna (medium)。另有一条硬规则:凡是被 Cognition 的轨迹扫描器(trajectory scanner)按公平联网规则判定为查找答案的尝试,直接记 0 分。
每题成本相差超过 100 倍:GPT-6.1 Sol (max) 以 $0.81 拿到 49%
分数带的宽度只有 9 个百分点,每题成本的差距却超过 100 倍:AA 统计的每题平均成本从 GPT-6 Luna (max) 的 $0.09 到 Claude Fable 5.1 (max with fallback) 的 $12.00。AA 在发布文章中给出了「分数—成本」帕累托前沿(Pareto frontier)上的四个模型:GPT-6 Luna (max) 42%、$0.09;MiMo-V2.6-Pro 45%、$0.18;GPT-6.1 Sol (max) 49%、$0.81;Claude Opus 5.5 (max with fallback) 52%、$10.15。从 GPT-6.1 Sol 到 Opus 5.5 这最后一步,多花 12 倍以上的每题成本,只换来 3 分。
按 AA 的口径,性价比最好的是 GPT-6.1 Sol (max):$0.81 一题拿到 49%,与 Claude Fable 5.1 (max with fallback) 持平,成本不到领先的 Anthropic 模型的十分之一。它比 GPT-6 Astra (max) 高 2 分,成本约为后者的五分之一($0.81 对 $4.22)。
词元(token)效率的差距同样明显:GPT-6 Astra (max) 与 GPT-6.1 Sol (max) 每题输出约 27,000 和 33,000 个 token,Claude Opus 5.5 (max with fallback) 约 157,000 个,Claude Sonnet 5.5 (max with fallback) 约 236,000 个、为全场最高。Sonnet 5.5 每题输出 token 比 Opus 5.5 多约 50%,但 token 单价是 Opus 的一半,每题成本反而更低($8.26 对 $10.15)。速度方面,每题解码时间从 Inkling (xhigh) 的约 3 分钟到 Qwen3.8 Max (0902) 的约 46 分钟。
Cognition 六月发布的私有评测,AA 的十月公开榜单
FrontierCode 由 Cognition 于 2026 年 6 月发布,同年 7 月升级到 1.1,加入了公平联网规则。AA 称与 Cognition 合作把这套评测带上自己的平台,但榜单以独立形式上线,不并入 AA Intelligence Index。AA 表示,计划尽快把 FrontierCode 加入其 Coding Agents 榜单。
需要留意口径:发布文章注明,文中数字是 2026 年 10 月 12 日的时点快照,最新成绩以持续更新的榜单页为准;而这份榜单上的全部成绩都出自 AA 自己的实现与运行——AA 强调所有评测由其独立完成。