AREXOpen in interactive Feed

AREX Feed Article

Artificial Analysis 独立评测 Claude Haiku 5.5:智能指数 43 分,token 消耗约为 GPT-6 Luna 的 3 倍

独立评测机构 Artificial Analysis(下称 AA)在中给出了对 Claude Haiku 5.5 的独立评分。Haiku 5.5 在 max effort(最高投入档)下的 Intelligence Index(智能指数)成绩为 43 分,比上一代 Haiku 高 26 分;AA 判定它在小模型级略微领先,同时指出其输出 token(词元)用量偏大:在 Intelligence Index 任务上,约为 GPT-6 Luna 的 3 倍。

Anthropic 于 10 月 7 日发布小型模型 Claude Haiku 5.5,称其为迄今最快、最便宜、能力最强的小型模型,性能与成本数据均出自官方口径。AA 的评测帖在 Anthropic 宣布后约一小时发出。

与 Kimi K3 相当,落后 Sonnet 5.5 13 分

AA 给出的对照是:在 max effort 下,Haiku 5.5 的成绩略高于 GLM-5.3 Flash(42 分)、Gemini 3.8 Flash(41 分)与 GPT-6 Luna(38 分);放到更宽的参照里,它的成绩与 Kimi K3(44 分,一个 2.8T 参数的开放权重模型)相当,比 Anthropic 自家的 Claude Sonnet 5.5(max,56 分)低 13 分。AA 还指出,这是首个带 effort 设置和 adaptive thinking(自适应思考)的 Haiku 模型。

每任务约 16.2 万输出 token,成本数字暂未计入分档涨价

AA 给出的数字是:在 max effort 下,Haiku 5.5 每完成一个 Intelligence Index 任务约用 16.2 万个输出 token,GPT-6 Luna(max)约为 5 万个;从 xhigh 档升到 max 档,分数增加 2 分,token 用量增加约 1.8 倍。在相近智能水平上它同样更费 token:Haiku 5.5 在 high 档以约 5.5 万 token 拿到 38 分,GPT-6 Luna(max)以约 5 万 token 拿到同样的 38 分;AA 称 effort 档位越低,两者差距越大。

定价方面,AA 列出的是:提示在 10 万 token 以内时,每百万 token 输入 $0.10、输出 $0.50,与 GPT-6 Luna 相同,是上一代 Haiku 的 10%;超过 10 万 token 后上涨 5 倍,变为输入 $0.50、输出 $2.50。AA 提醒,其网站尚未反映这一分档定价,暂定的成本数字未包含涨价部分;其当前列出的 Intelligence Index 平均每任务成本为 $0.21。它表示正在补上分档定价支持,并将跟进每任务成本(Cost per Task)数据。

AA 列出的规格还有:上下文窗口 100 万 token(Haiku 4.5 为 20 万);输入支持文本与图像,输出为文本。

智能体任务:AA-Briefcase 1,578 Elo,Terminal-Bench 从 0% 升到 33%

在 AA 自有的知识工作评测 AA-Briefcase(面向真实知识工作任务的私有评测)中,Haiku 5.5(max)达到 1,578 Elo,AA 称这一成绩高于 Kimi K3 与 GLM-5.3,与 Muse Spark 1.3(max)相当。在终端任务基准 Terminal-Bench 4.0 上,它的得分从上一代 Haiku 4.5 的 0% 升到 33%,与 GLM-5.3 Flash 持平,高于 Gemini 3.8 Flash(20%)与 GPT-6 Luna(13%)。

事实知识是它的弱项:在 AA-Omniscience 测试中准确率为 36%,低于 Gemini 3.8 Flash(55%)与 GPT-6 Luna(44%)。AA 认为这在一定程度上是因为它更愿意承认自己不知道,其幻觉率为 40%,低于上述两者的 55% 与 77%。

AutomationBench 的 35 分可能被低估,AA 将在修复后重跑

AA 还说明,AutomationBench-AA 的成绩可能被低估:Haiku 5.5 在该项得 35%,而 GPT-6 Luna、Gemini 3.8 Flash 与 GLM-5.3 Flash 的得分在 53%~60%。AA 解释,发布前测试中的安全拒答问题导致模型过度拒答,Anthropic 正在解决;AA 将在修复后重跑该评测,并预计分数会上升。

参考链接