AREXOpen in interactive Feed

AREX Feed Article

OpenRouter 上架 Span-02:按概率作答的决策模型,输入每百万 token 0.01 美元

October 17, 2026

10 月 16 日 19:57 UTC(北京时间 17 日凌晨 3:57),OpenRouter 在发文称,RespanAI 的开放权重决策模型 Span-02 已在其平台上线:输入每百万 token 0.01 美元,输出免费,上下文 131K。把文本和图像交给它,由使用者定义问题,它返回一个选择、一个「是/否/未知」判断或一个评分,每个答案都带概率或置信度。OpenRouter 的列出同样的价格与上下文,页面上标注的发布日期为 10 月 16 日。

Span-02 在 OpenRouter 目录里属于 decisions(决策)输出类型,返回的不是对话文本。10 月 20 日从查到的 27 个条目(含别名和免费版本),输出价格一栏全是 0。

同价位上,还有一个 262K 的对手

Respan 在里称 Span-02 是「最便宜的决策模型」,依据是每百万输入 token 0.01 美元。在收费的决策模型里,这个价格确实属于最低一档,但不是独一份:Perplexity 的 同样标价每百万输入 token 0.01 美元、输出免费,上下文 262K,是 Span-02 的两倍。

按同一份目录 10 月 20 日的快照:

模型输入价(美元/百万 token)上下文输入模态
Respan Span-020.01131K文本、图像
Perplexity Decider Flash V1.20.01262K文本、图像
Inception Mercury Decide0.0265K文本、图像
TypeSafe Jev 1.140.042262K文本、图像
OpenAI GPT-6 Luna Decisions0.101.05M文本、图像

Cloudflare 的 Clef Omni 比表里列出的模型更贵,每百万输入 token 0.15 美元,但能读音频和视频。Span-02 的模型页显示它只有一个服务商(provider,Respan),请求直接转发,P50 延迟 0.23 秒。

输出免费,因为答案是从标签概率里读出来的

Respan 的把机制写得很具体:每个问题先做一次前向传播,直接读取选项标签上的概率,共享的 state(请求状态)每个请求只计算一次。响应字段里,除数字题之外,答案的 output_tokens 都是 0。

OpenRouter 在自己的里把这件事概括成「模型判断,代码计算」:模型读应用状态、回答带类型的问题、返回概率,文本生成留给别的模型。

输出免费,输入和图像按 token 计费。模型卡的用量说明写着,input_tokens 是每个问题的提示 token 之和:state 在每个问题里都计一遍,同一个 state 上问三个问题,token 会被算三遍。图像与文本放在同一个 state 里;每张图按图像 token 计入 input_tokens,默认 280 token(Decision Index 的设置是 560),一次请求最多 4 张,请求体上限 64 MB。

帖文里的三种答案,在模型卡上对应 choice、noul、score:choice 从最多 679 个选项里挑一个,返回所选项、每个选项的概率和置信度;score 按 2 到 10 个有序等级给出期望档位;noul 返回「是」的概率,没有独立的「未知」类别。

OpenRouter 的接入说明也只列这三种原语,并写明概率要由调用方在代码里设阈值分流,0.5 附近只表示「是」与「否」的可能性接近。模型卡上还有第四种 number(直接给数值和置信度),在 OpenRouter 的三种原语里没有被列出。

截止时间取代努力档位

Respan 在里,把 Span-02 的特点写成「随时停止推理」:给它一个截止时间,它返回此刻最好的判断,想得越久分数越高。接口有三种模式:off 不思考,auto 只在没把握时思考,on 每次都思考;budget_ms 可设 0 到 600,000,0 表示不限时,auto 的默认预算 700 毫秒,单次思考最多 4,096 token。模型卡说,「没把握」的门槛是首选答案的概率低于 0.8:这时模型写一小段思考,再读一次概率,把两次分布平均。

博客给出的曲线来自公开的 Decision Index 0.3:37 个基准,按随机猜测校正,0 分等于瞎猜,100 分满分。关闭思考时 Span-02 得 61.2,思考 1 秒得 63.0;同一张图上 Perplexity Decider 62.2、Cloudflare clef 61.7、Jev 1.13.0 58.0。模型卡列出的官方提交成绩是 62.6,排在第 4,与另外四个模型同分;中位延迟 33 毫秒,p95 822 毫秒,110,201 次请求全部作答。头部几名之间只差几分。这些数字来自 Respan 自己的提交和图表。

两组数字并非来自同一设置:博客按思考时长扫出曲线,模型卡的提交用的是固定 750 毫秒思考目标的配置。Respan 在帖文里称,关闭思考时 Span-02 仍能压过 Jev,价格只有后者的四分之一。

开放权重,但要一块 Blackwell 显卡

模型卡顶部标注 15.8B 参数;正文说它是 Gemma 4 26B-A4B 的微调,约 4B 活跃参数,权重按 NVFP4/FP8 量化后约 16.4 GB。权重沿用 Gemma 4 许可(Apache 2.0),推理引擎是 Apache-2.0。

自部署的门槛写得同样具体:权重只能用仓库自带的 Rust/CUDA 引擎加载,不支持 transformers 或 vLLM;需要 Blackwell 架构的 RTX PRO 6000(96 GB)或 RTX 5090(32 GB),驱动支持 CUDA 12.9,默认占用约 28 GB 显存。模型卡给出的单卡吞吐是 167 请求/秒(64 并发、不思考)。

对手的上下文上限到 1.05M

OpenRouter 的决策模型目录里,Perplexity Decider V1.2 与 Jev 1.14 的上下文都是 262K,Upstage 的 Solar Decide 是 524K,OpenAI 的 GPT-6 Luna Decisions 标到 1.05M。模型卡把 Span-02 的 131,072 token 写成每个问题的上下文上限。

OpenRouter 帖文下,问的正是这件事:「开放权重,但只有 131k 上下文?放到长的市场备忘录上还撑得住吗?」

Respan 给出的演示都不涉及长文档:一场对 Jev 的国际象棋赛(关闭思考,12 比 0)、一次维基百科点击竞速(20.6 秒,GPT-6 Luna 38.5 秒,后者还带有「Italy」提示),以及用经纬度判断某个点是否在水里的地图。这些演示覆盖短状态、逐步点击和数值输出,没有一项针对长上下文。

换一行模型 ID 能试,阈值不能照搬

OpenRouter 说 Span-02 跑在 Decisions API 上,与其他决策模型共用一套请求格式,试用只需改一行模型 ID。接口是 POST /api/alpha/decisions,一次请求可放多个问题,choice、noul、score 三种原语各自独立并行评估。

但 OpenRouter 的说明里写着,阈值不跨模型继承,也不从一种原语继承到另一种;它建议把模型固定到 canonical_slug 上,而不是别名,因为别名可能换版本、把概率换掉。Span-02 在目录里的 canonical slug 是 respan/span-02-20261015。

上线前的动作也写得具体:用清晰样本、模糊样本、无匹配样本和带对抗性的文本各跑一遍,阈值只能来自实测数字。OpenRouter 的目录记录给出价格、上下文和版本号,没有给出这些概率在真实业务输入上的表现。

参考链接