AREX Feed Article
「完成任务耗时」取代流式速度：Artificial Analysis 宣布 API 性能基准新版本，实测 GPT-6 Astra 约 17 分钟完成一项任务，快于 Claude Opus 5.5 的约 26 分钟
独立评测机构 Artificial Analysis（X 账号 @ArtificialAnlys，Business 认证）于北京时间 11 月 5 日凌晨（11 月 4 日 17:34 UTC）宣布其 API 性能基准的下一版本：比较模型的头条指标改为「Time per Task」（完成任务耗时），衡量一项任务要等多久，而不是模型每秒流出多少 token。配套调整还包括：端到端输出速度从发出请求起算，把等待首 token 的时间计入；每一次测量都加入智能体（agent）工作负载；并新增按各实验室 API 默认 effort（控制模型推理投入程度的档位设置）的基准，与最高 effort 并列。这套新口径适用于该机构每天多次测量速度、延迟与缓存的约 1,000 个 serverless（按用量计费）端点（）。
与公告同时公布的还有新指标的首批结果：在该机构自有测量中，OpenAI 的 GPT-6 Astra 与 GPT-6.1 Sol 占据「智能—耗时」帕累托前沿的主力位置，而流式速度是对手两倍多的 Claude Opus 5.5，完成一项任务反而要慢约 9 分钟。这些数字全部出自 Artificial Analysis 一家的测量。
快但啰嗦的模型，在新指标下会变慢
Time per Task 的算法是把模型在每项 Intelligence Index（智能指数）任务上输出的 token 数，除以它的端到端输出速度（End-to-End Output Speed），得出完成一项任务的平均耗时。Artificial Analysis 在公告中解释了更换头条指标的原因：工作负载越来越智能体化，完成任务的时间比每秒速度更重要——一个每 token 都快但很啰嗦的模型，可能比一个每 token 稍慢却省 token 的模型耗时更长。
首批测量结果中，max effort 下，GPT-6 Astra 的输出速度只有 51 tokens/s，完成一项 Intelligence Index 任务约需 17 分钟；Claude Opus 5.5 流式速度 111 tokens/s，却要约 26 分钟；Gemini 4 Carbon（high effort，71 tokens/s）约 29 分钟。差距来自输出量：Astra 平均每项任务只输出约 5 万 token，另外两家要 12 万～17 万。公告还给出了前沿排位：在 Intelligence Index 约 45～55 分的区间，GPT-6 Astra 和 GPT-6.1 Sol 跨 effort 档位守住了「智能—耗时」帕累托前沿——同等质量下没有更快的模型、同等耗时下没有更强模型的边界；OpenAI 模型构成了这条前沿的大部分，尽管它们的流式速度并不占优。
首 token 的等待计入速度，纯解码优化端点跌幅最大
第二项改动是速度的定义。新版本中，端到端输出速度从发出请求起测、到收到最后一个 token 为止，等待首 token 的时间——包括预填充（prefill）和对用户隐藏的推理——一并计入。公告给出的直接后果是：只优化解码速度的端点在新口径下跌幅最大。常见做法有两种：把请求排队、用更小的 batch（批次）换取单请求速度，或者把已生成的输出攒住、一次性发出；两者都会拉长首 token 前的等待，而这段等待如今要算进速度。
token 计数方式也一并更换：输出 token 不再用 OpenAI 的 o200k_base 分词器统一折算，而是采用各家供应商 API 上报的计数，Artificial Analysis 称会监测上报数字的偏差。官网现行的方法论页面（2.2.0 版，2026 年 3 月 2 日更新）显示，性能基准的 token 此前正是按 o200k_base 计数，输出速度也定义为「收到首个 token 之后」的平均每秒 token 数（）——新版本替换的正是这两处定义。
智能体负载进每一次测量，头条数字取 5 天平均
第三项改动是测量负载的构成。按新方法论，每次测量都包含智能体工作负载：短提示、文档级长度与长上下文提示，加上横跨编程与知识工作的多轮会话；头条数字取这些负载在过去 5 天的平均值。
对照官网现行方法论，能看出缺口在哪：目前速度基准测的是 1,000、1 万、10 万输入 token 与视觉四类负载，前三类每天测 8 次、约每 3 小时一次，10 万 token 负载每周测一次；多轮智能体编码会话目前只用于测量缓存命中率，约每 18 小时一次。新版本把多轮智能体会话变成每次速度测量的必测项，而不再只服务于缓存指标。
默认 effort 写进基准：提速约 3～5 倍、降本约 2～4 倍，智能分让出 5～11 分
第四项改动与开发者的账单直接相关。新版基准把各实验室 API 默认 effort 与最高 effort 并列测量，理由是多数开发者实际运行在实验室设定的默认档位上；各家的 effort 命名互不可比，因此采用各实验室自己的默认档，而非统一设置。
换算成数字：默认 effort 使 GPT-6 Astra、GPT-6.1 Sol 和 Claude Opus 5.5 的每任务耗时缩短约 3～5 倍、每任务成本下降约 2～4 倍，代价是 Intelligence Index 得分降低 5～11 分；这三家模型的 API 默认档都是 medium。Artificial Analysis 在跟帖中给出了逐家数据：GPT-6 Astra 从 max 的 57 分、约 18 分钟，降到 medium 的 52 分、约 5.8 分钟；GPT-6.1 Sol 从 55 分、20.0 分钟降到 46 分、3.9 分钟；Claude Opus 5.5 从 59 分、26.0 分钟降到 48 分、6.8 分钟（）。成本方面，Opus 5.5 每任务成本从 max effort 的 10.04 美元降至 medium 的 2.45 美元。
公告没说清的部分，评论区先问了起来
公告发出约一小时，X 平台接口数据显示主帖获得 9,739 次浏览、91 个赞和 36 条回复。欢迎的声音里，用户 @Mahone_AI 写道：「每秒 token 数衡量的是打字员，不是工作。一个用 4,000 个 token 说 800 个 token 就能说完的话的模型，在旧图上『快』，在你的账单上『慢』。」（）
追问集中在指标没覆盖的地方。用户 @pggalaviz 要求把重试也计入：「一个快但要做错两次的模型，本来就是图上最慢的东西。」（）@lewingtonpitsos 问口径一致性：各供应商隐藏推理 token 的计数是否统一（）。用户 @h1kz0r 补充了自己遇到的情况——智能体运行中掉线的流可能正常结束却不给出答案——并问这类「空回复」算不算失败任务（）。公告正文没有说明重试或空回复如何计入耗时；截至发稿，Artificial Analysis 尚未在这组帖子下回应这些追问。