AREXOpen in interactive Feed

AREX Feed Article

ScaleDown 三款单任务约束解码模型上线 OpenRouter:输入 $0.04/M tokens、输出免费

October 14, 2026

10 月 13 日,LLM 聚合平台 OpenRouter 在 X 上宣布:来自 ScaleDown 团队的约束解码(constrained decoding)模型家族正式上线,包括 Summarize、Extract、Classify-1 三款模型,「每一款都为单一任务专门构建」。帖文同时给出上线促销价——八折:输入 $0.04/M tokens,输出免费——并附上 服务商页面链接。截至 10 月 14 日检索时,这条已获得约 240 个点赞、超过 2 万次浏览。

帖文发出的同一天,该页面已挂出三款模型详情:Summarize 与 Extract 均带 100 万 token 上下文窗口,三款输入单价同为 $0.04/M tokens、输出 $0/M。与平台上的通用模型不同,这三款模型的介绍各自只对应一种输出——摘要、带出处的结构化字段、分类概率。ScaleDown 在其 中自述是一家「构建约束解码模型(Constrained Decoding Models,CDM)」的应用 AI 研究实验室,账号目前有 388 名关注者;而发布这条消息的 OpenRouter 约有 15.4 万关注者。帖文没有展开「约束解码」的具体实现,机制细节主要来自 ScaleDown 自己的文档(见下文),功能描述本身均为两家当事方口径。

Summarize、Extract、Classify-1:一款模型只接一个任务

按 OpenRouter 帖文与模型页的描述,三款模型的分工如下:

  • Summarize:把长文本、图像与 PDF 转成简短一致的摘要,帖文点明的用途是上下文压缩(context compaction)与转录摘要。模型页补充说它做的是「抽象式摘要」——用模型自己的话改写出流畅、忠实的版本,而不是从原文摘句——适用场景还包括文档审阅,以及在检索增强生成(RAG)流程里把检索到的内容先缩短、再送进下一个模型。
  • Extract:调用方用自然语言描述想要哪些字段,拿回「干净的 JSON」,每个结果带置信度分数与来源 span(即原文中可定位的片段)。经由 OpenRouter 调用时,字段描述通过 provider.options.scaledown.entities 参数传入。模型页列出的目标材料包括合同、发票、邮件与转录文本,并称其内置 OCR(光学字符识别),扫描件和 PDF 不需要单独的预处理步骤。
  • Classify-1:用户自定义标签,经由 OpenRouter 的 Decisions API 返回每个标签的校准概率,而不是生成的文字。模型页称它与 TypeSafe 的 Jev Decisions API 请求兼容,能对文本或文档回答单选、是/否判断与有序量表三类问题,适合应用内的路由、内容审核、意图识别与领域打标。

输出免费之后,账单只随输入长度增长

按八折与页面现价反推,促销前的输入单价应为 $0.05/M tokens;页面上三款模型并列同一个价。对摘要类任务,输出免费是实质性差异——摘要的输出 token 往往不少,而在这里成本不随输出长度变化,账单只由输入体量决定。

ScaleDown 在账号简介里给出的卖点更激进:其 CDM「比 LLM 快 200 倍、便宜 467 倍」,注册即送 5000 万 token 额度。这两句都是厂商自述,本次的上线帖文与模型页均未附测试数据。作为参照,称自己是「LLM 的统一接口,400+ 模型(含 50+ 免费)」——这次等于把一款输出免费的专用模型,摆进了以通用模型为主的聚合平台。

文档披露的机制:锁死的采样、逐条置信度、并发作答

写明:调用走 OpenAI 兼容的 chat/completions 端点,格式、侧重、语言与字数由系统提示词控制,而采样参数(temperature、top-p)被固定在一套「为忠实摘要调校」的配置上;文档的承诺是输出「稳定、可预期,而不是有创意或幻觉的」,并称结果会经过校验、拒绝跑题输出。响应里带 input_chars、output_chars 和 latency_ms,方便追踪压缩比与延迟。

把它定义为「描述驱动的命名实体识别」:字段名和描述本身就是提示词的一部分,文档建议用小写标签(模型按小写实体名训练)、用完整指令代替短名词,并提醒别给同一概念两个粒度重叠的标签。每个返回片段两侧各带 500 字符上下文,便于直接核对;置信度分数可按全局或单字段设阈值过滤低置信结果,也可以把低分结果路由进人工复核队列。布尔或小类别字段——比如「账户是否逾期」——没有原文片段可摘,文档说明这类键经 enum/oneOf 约束后会被转给一个「专为类别判断构建的约束解码模型」处理,也就是家族里负责分类的那一款。

则拆开了 Classify-1 背后的机制:单选题变成一次单标签分类调用,是/否题变成一次二元分类调用,量表题先按有序档位做单标签分类、再折算成概率加权期望值;同一请求里的所有问题对同一份 state 并发作答,用量按内部各次调用的 token 之和计。文档还写明 classify-1 钉死在版本 1,目前与指向最新版的 classify 完全相同。

上线约一小时后,Neal Patel 到评论区留言

这次上线把「单任务专用模型」作为独立供应商摆进了聚合平台。ScaleDown 的 X 账号 2019 年注册,位置标注纽约。OpenRouter 帖文发布约一小时后, 在下面留言:「很兴奋能在第一天就与你们合作!」——其账号简介自述身份是 ScaleDown 联合创始人兼 CEO。对 OpenRouter 而言,这是一次形态不同的上架:不以通用能力论价,而是把摘要、抽取、分类各拆成一个定价单元。

第三方测试:单条 0.01 美分,摘要质量被挑出毛病

评测博主 JohannaCodes 在帖文下贴出了,题为《ScaleDown 的 Summarize 模型:便宜得离谱……但质量到底扛不扛得住?》。她在自己的基准里让各模型摘要她近期信息流里的 YouTube 视频:Summarize 单条花费 $0.0001(0.01 美分),用来对比的通用模型中,Gemini 3.8 Flash 的单条成本约为其 63 倍,DeepSeek 4 Pro 约为 20 倍,Grok 4.7 约为 137 倍;在她那轮批量对比里,Summarize 的返回速度也快于其余模型。但结论与便宜同样明确——她在里写「便宜得离谱,但摘要有明显的弱点(还有一些怪异之处)」:措辞生硬、通读费劲,还用了一口英式拼写,她提到 Reddit 上也有人报告同样现象。她的落点是使用边界:会议记录、git 讨论、客服工单这类摘要不需要顶级文笔,「你只需要一份像样的摘要」。

Dusan Odalovic :「Extract 这个听起来不错——模型没法凭空捏造一条文本里不存在的发票号。Summarize 嘛,我还得亲眼看到它跑起来才行。」HiloW.Ai 则把它写进架构设想:「把任务专用模型放在路由上,才是生产环境调用图该有的样子:摘要负责压缩,抽取负责结构化,只有真正需要生成时才动用前沿模型。」他补的技术理由是,短小一致的摘要步骤比一条巨型对话更能保住键值缓存(KV-cache)命中率。

「训练时就校准了」:一句回应,和一个无人回复的提问

用户 Patch 在帖文下问了一个指向核心卖点的问题:「当用户自定义标签时,Classify-1 的校准是怎么评估的?」Neal Patel 当天:「校准在我们训练模型时就已经做了,它们默认就是校准好的。」这是一句话式的回答;ScaleDown 的 Decisions 文档把各类问题的解码描述为「与 /classify 相同的校准解码」,但截至本文核查,该页没有给出针对自定义标签的校准评估方法或基准。

同样悬着的是数据留存。开发者 Christopher Baer :直连 ScaleDown 是零数据留存(zero data retention,ZDR),那经由 OpenRouter 调用还是吗?「我读了你们的文档,没看出来。」截至 10 月 14 日检索时,这条提问下还没有出现公开回复;本文核查的模型页与文档页也未说明经由 OpenRouter 路由时的留存策略。发布约一天后,这两个问题都还没有书面答案。

参考链接

  • OpenRouter 宣布帖:
  • OpenRouter ScaleDown 供应商页面:
  • ScaleDown Summarize 文档概览:
  • ScaleDown Extract 文档概览:
  • ScaleDown Decisions 文档概览:
  • ScaleDown X 账号:
  • Neal Patel「第一天合作」回复:
  • JohannaCodes 回复:
  • JohannaCodes 测评视频:
  • Dusan Odalovic 回复:
  • HiloW.Ai 回复:
  • Patch 校准提问:
  • Neal Patel 校准回复:
  • Christopher Baer ZDR 提问:
  • OpenRouter X 账号: