AREXOpen in interactive Feed

AREX Feed Article

Parallel 发布评测:Inkling 2 Mini 成其所测最高效模型,开放权重智能第一、每正确答案成本 25.80 美元

November 22, 2026

(Parallel 公布的「Search Intelligence vs. Cost」散点图:Inkling 2 Mini(红色箭头所指)在每 1,000 个任务约 20 美元的成本处拿到 78.4 分,落在帕累托前沿左上角的「理想象限」内。图源:@p0 帖子截图)

北京时间 11 月 22 日凌晨 5 时 10 分(11 月 21 日 21:10 UTC),搜索基础设施公司 Parallel Web Systems 的 X 账号 @p0 发布了对 Inkling 2 Mini 的评测结果:在其所测模型中,这个开放权重小模型的效率(成本对智能)排第一,智能总榜第 9(78.4 分)、开放权重模型中第一,每 1,000 个正确答案成本 25.80 美元为其所测最低,接入 Parallel Search 后准确率提升 +61.5 也是榜上所有模型中最大。Parallel 在同一帖子里给出了解释:模型用循环变压器(looped transformer)把中间层对每个 token 跑三遍,26B 的参数量不靠多生成 token 也能加深推理,成本因此压得很低;但这个尺寸存不下那么多事实,要靠搜索补足缺口,所以搜索带来的收益也最大。

Inkling 2 Mini 是 Thinking Machines Lab 于 11 月 20 日发布的混合专家(MoE)开放权重模型,总参数 26.4B、每 token 激活 3.4B,中间层对每个 token 循环运行三次;官方博文称权重以 NVFP4 原生训练与部署、总内存约 20GB,可在消费级笔记本离线运行,并附有研究者在 MacBook Pro(M5 Pro,48GB)飞行模式下离线运行、几分钟内搭出一个可玩飞行模拟器的演示(以上均为厂商口径)。发布次日,本地速度实测接连出现、结论不一:本地推理引擎 Rapid-MLX 的作者 @rapidmlx 在 Mac 上测得的速度不低,而 @orenoa7 在 RTX 5090 上用 llama.cpp 测得的 prose 解码只有 Gemma 4 26B-A4B 的约三成。随后,Parallel 把衡量的尺子从速度换成了成本。

效率榜的口径与对账:每任务成本除以正确率

Parallel 在线程的后续帖中称,Inkling 2 Mini 是其 Search Efficiency Leaderboard(搜索效率榜)的新第一,该榜衡量模型拿到合格(中位质量)答案的效率;按其官网榜单的方法说明,「每正确答案成本」等于每任务成本除以正确率,正确率取搜索智能分 Search Intelligence Score 除以 100,按每 1,000 个正确答案报价。

随帖截图给出了可对账的数字(榜单共收录 24 个模型,截图标注「10 of 24 models」):Inkling 2 Mini 每 1,000 个任务成本 20.2 美元、得分 78.4,换算即每 1,000 个正确答案约 25.8 美元;此前的开放权重榜首 Hy4 为 94.4 美元、75.4 分,换算约 125 美元。Parallel 的原话是:25.80 美元对 125 美元,Inkling 2 Mini 以约五分之一的每正确答案成本越过了 Hy4;在智能总榜得分前十的模型里,这也是最低的每正确答案成本,次便宜者约花五倍的钱。

(榜单开放权重视图的截图:Inkling 2 Mini 以 78.4 分、每 1,000 个任务 20.2 美元居首;Hy4 以 75.4 分、94.4 美元居次;DeepSeek V4.1 Flash (1017) 以 68.9 分列第三。图源:@p0 帖子截图)

开放权重视图里,排在 Inkling 2 Mini 之后的是 Hy4 75.4、DeepSeek V4.1 Flash (1017) 68.9、Muse Spark Open 67.2、Hy4 Preview 64.6、MiMo v2.6 Pro 64.4、Kimi K3 64.2、DeepSeek V4.1 Flash 62.7、GLM 5.3 62.7 和 Step 5 Preview 61.1。智能总榜上,排在它前面的是 8 个得分更高的模型:Gemini 4 Neon 88.1、Claude Fable 5.2 86.9、Claude Opus 5.5 86.7、Gemini 4 Carbon 85.1、GPT-6.2 Astra 84.5、Gemini 4 Argon 84.2、GPT-6.2 Sol 83.7、Gemini 4 Hydrogen 83.0。

裸分约 17 分:其余模型的搜索增益最高 +45.6

线程里的第二条帖给出这组对比:接入 Parallel Search 后,Inkling 2 Mini 提升 +61.5,对照之下 Claude Fable 5.2 只提升 +29.5。前十的得分拆分图把每个模型的总分分成「无搜索裸分」与「搜索提升」两段:其余 9 个模型的提升落在 +29.5~+45.6,无一接近 +61.5;Inkling 2 Mini 的无搜索裸分约为 17(78.4 − 61.5 ≈ 16.9),是前十中最低,而榜首 Gemini 4 Neon 的裸分约为 42.5(88.1 − 45.6)。

(Search Intelligence Score 前十拆分图:实心段为无搜索裸分,斜纹段为搜索增益;Inkling 2 Mini 的增益排在所有模型之前,但裸分为前十最低。图源:@p0 帖子截图)

这幅「最依赖搜索」的画像与厂商自己的说法对得上:Thinking Machines Lab 的发布博文写明,循环能加深推理,但不能让权重存下更多事实,知识主要由总参数量决定,Inkling 2 Mini 靠高效使用搜索与工具弥补知识缺口,并在 BrowseComp(79.0%)、DeepSearchQA(85.3%)、MCP Atlas(82.7%)三项搜索与工具类基准上领先同尺寸开放权重模型(厂商口径)。评测方与厂商的解释方向一致,但两边的基准并不相同;78.4 的总分也是接入 Parallel Search 后的成绩。

打分的人自己卖搜索:自营榜单与它的利益位置

Parallel Web Systems 的 X 账号简介自述其业务是为 AI 提供在全网搜索、抽取、监控与推理的基础设施;评测中的搜索增益以接入 Parallel Search 计,它正是这家公司的搜索产品,简介里还附了免费搜索入口的链接。这一最大增益既是对模型的评价,也是自家搜索产品的效果展示。榜单方法在其官网公开(准确率、每任务成本、耗时),但本次名次全部出自随帖发布的截图:截至本次抓取,官网榜单页仍标注「最后更新 10 月 17 日」,智能总榜第一还是 Claude Opus 5.5(75.4 分),并未列入 Inkling 2 Mini。

帖子反响很快:主帖发出约 3 小时后显示 649 个赞、约 2.2 万次浏览、22 条回复与 35 次转发。回复里已有直接的不信任,有用户写道「智能第一??我不信」(原文:#1 on intelligence?? i doubt that);也有人开始问下一个问题:循环在实际笔记本上会慢到什么程度(curious how slow the looping gets on an actual laptop)。

成本与速度是两把尺子:本地实测读数仍相反

Parallel 效率榜的成本口径是每 1,000 个正确答案花多少钱;把开放权重下载到本地的人关心的是另一把尺子 tok/s。11 月 21 日,这两把尺子给出了方向相反的读数。

北京时间 21 日下午 2 时 18 分,@orenoa7 在 RTX 5090(32GB)上用为支持 Inkling 编译的 unsloth/llama.cpp 测得:256K 输入时 prefill(输入预填充)1,630 tok/s、prose 解码 43 tok/s、代码 57 tok/s,分别为 Gemma 4 26B-A4B 的 49%、32% 与 32%;他用 nsys 把差距归到循环架构的调用开销上:解码期每 token 内核调用约 7,370 次,约为 Gemma(约 1,260 次)的 6 倍;attention(注意力计算)以外的处理占 256K prefill 时间的约 8 成。他称 llama.cpp 对该架构尚未优化、仍有改进空间(每个测点取 5 次中位数,量化为 UD-Q4_K_XL 17.6GB)。

当晚 11 时 38 分,@rapidmlx 用自家引擎 Rapid-MLX 1.1.0 在 M5 Max(36GB、4-bit 量化)上测得单流 43 tok/s、8 路并行合计 80 tok/s、峰值内存 23GB,并附视频声明「实时、未加速」。两份实测的推理栈与量化格式不同,数字不能直接互换;把它们与 Parallel 的结论对照:低账单来自「每 token 激活 3.4B、跑三圈」的结构,而这个结构的调用开销在未优化的本地栈上就是 @orenoa7 量出的那组数字。Inkling 2 Mini 能否把效率榜上的性价比带进本地部署,取决于推理栈能把这三圈的开销优化到什么程度;至于优化后能到什么水平,目前的两份实测都没有触及。

参考链接

  • Parallel Web Systems(@p0)评测主帖
  • @p0 后续帖:Parallel Search 增益 +61.5,Fable 5.2 为 +29.5
  • @p0 后续帖:Search Efficiency Leaderboard 新第一,约为次便宜者的五分之一
  • @p0 后续帖:开放权重第一,越过 Hy4 的 75.4,25.80 美元对 125 美元
  • Parallel Web Systems 的 X 账号
  • Parallel:Search Capability Leaderboard
  • Thinking Machines Lab:Introducing Inkling 2 Mini
  • @rapidmlx 的 Mac 实测帖
  • @orenoa7 的 RTX 5090 实测帖
  • @SebastianFrazer 的质疑回复
  • @building_risk 关于笔记本循环速度的回复

More from this developing story

  • Thinking Machines Lab 发布开放权重 MoE 模型 Inkling 2 Mini:中间层每 token 循环三次,官方称约 20GB 权重可在消费级笔记本离线运行Nov 21, 2026
  • Rapid-MLX 公布 Inkling 2 Mini 实测数据:M5 Max 单流 43 tok/s、峰值内存 23GBNov 21, 2026
  • Inkling 2 Mini 的 GPU 实测出炉:llama.cpp 解码只有 Gemma 三成速度,开发者自研引擎把单张 RTX 3090 推到 129.5 tok/sNov 21, 2026
  • Parallel 发布评测:Inkling 2 Mini 成其所测最高效模型,开放权重智能第一、每正确答案成本 25.80 美元Nov 22, 2026