AREX Feed Article
Fireworks AI 发布 Ember-1:基于 Kimi K3 后训练,自称推理精简 40%、同质量下快 40% 且成本低 40%
9 月 23 日,Fireworks AI ,形式是 serverless 平台(按量付费的托管推理服务)上的研究预览(Research Preview)。4 天后的 9 月 27 日 20:45 UTC(北京时间 9 月 28 日凌晨),公司联合创始人兼 CTO 称,Ember-1「在 Hacker News 上很热」,卖点是:在 Kimi K3 上后训练,推理精简 40%,「同等质量下快 40%、成本低 40%」。
Hacker News 上,题为《Ember-1》的由用户 gmays 在 9 月 27 日 17:31 UTC 提交,发稿时已有 300 多分、170 多条评论。这些说法和数字都出自 Fireworks 自己的评测:公开基准、内部试用,以及两家客户生产流量的 A/B 测试。
官方说法:区间、时长与单价
发布当天,Fireworks 的称 Ember-1 是「让每个 token 走得更远」的专门化模型;博客给出的省 token 幅度是一组区间:在 7 个基准和两家客户的生产流量上,Kimi K3 的推理可缩短 35%~50% 而不牺牲准确率;对 agentic coding(多轮自动编码)这类推理 token 占成本大头的工作负载,Fireworks 称能做到「同等质量、约一半的 token 成本」。
价格上,Ember-1 在 的 serverless 挂牌价是输入 $3/百万 token、缓存输入 $0.30/百万、输出 $15/百万;博客为各基准计算每任务成本时引用的 Kimi K3 公开 API 价格,是同一组数字。按这组单价计,成本差来自 token 用量。
博客还给出 Bedside Bench 上「得分对任务时长」的对比:Ember-1 与 Kimi K3 得分接近,用时更短。
推理 token 为什么成了成本大头
训练 Ember-1 的动机来自用户的需求:他们要 Kimi K3 的编码能力,但长推理链让自动化编码在规模上变得昂贵。Fireworks 试过把 K3 的推理档位调低,结论是低档位牺牲太多质量;要保持质量又省 token,只能训练。
Kimi K3 是 。博客写道,这类推理模型生成的大头,有时超过 90%,花在内部推理而不是答案上;多轮任务里更糟:每一轮都要把此前的推理重新送回模型,上下文随轮数近似二次增长,早先写下的长推理会在之后每次调用中被重新读取、重新计费。
Fireworks 的实验结论是,K3 的推理长度远超任务所需,多出来的部分可以在不碰答案的情况下删掉;但推理里也有有用的部分,比如重访假设、吸收反馈、把结果追溯到早先决定。Ember-1 的训练目标是保住这类「自我反思」,砍掉空转的循环。
50 多次实验、200 多次评测,和两家客户的 A/B
训练过程在博客里是一组具体数字:50 多次训练实验、200 多次评测,期间开发了新的训练算法;全部工作在 Fireworks 的 Serverless Training(托管训练服务)上完成,不用预备或管理 GPU,按实际用量付费。训练数据覆盖数学、编码、指令跟随、对话、搜索、工具调用和软件工程,既有单题任务也有多轮交互;Fireworks 说用的是自家数据,没有用客户数据。
上线前,Fireworks 让自己的开发者先用 Ember-1 跑日常编码。博客引用的内部结论是「没有新闻就是好消息」:开发者没注意到模型被换掉,token 消耗却明显下降。
两家客户的线上 A/B 测试直接跑在生产编码负载上。据博客,两家在编码负载上都得到质量相当的结果,每任务 token 少约 35%,任务完成率、成功分数和失败率都朝有利方向走;其中一家已把 Ember-1 放进生产环境,并计划扩大到完全替换基座模型。博客表格里的一组明细(Kimi K3 对 Ember-1)是:得分 0.751 对 0.753,步骤数 23.8 对 21.4,输出 token 从 49,300 个降到 29,900 个,推理 token 少 71.3%、总 token 少 39%。
基准表上的五组分数
对照表把 Ember-1 和 Kimi K3 的三档推理强度(low、high、max)放在一起,比较公开基准上的得分与每任务成本。相对 K3 的 max 档:
| 基准(样本数) | K3 max | Ember-1 |
|---|---|---|
| Terminal Bench 2.1(89) | 80.9% | 82.0% |
| SWE-bench Verified(500) | 93.2% | 92.2% |
| SWE-Interact(75) | 21.3% | 20.0% |
| DeepSWE 1.1(113) | 66.4% | 75.2% |
| τ-2 Bench Airline(50) | 64% | 66% |
成本一项,Ember-1 相对 K3 max 的降幅从 5.9%(τ-2 Bench Airline)到 51.9%(Terminal Bench 2.1)。博客的总结是:它在这些基准上「位于或接近帕累托前沿(得分与成本的权衡边界)」,以更低成本匹配 K3 max 的质量,且严格优于 K3 的 low 档。
在 Doximity 的 Bedside Bench(医生验证,覆盖 10 个专科类别的 500 个临床病例)上,Fireworks 称 Ember-1 在每任务成本上「划出新的帕累托前沿」,比较对象包括 GPT-5.6 Sol、GPT-6 Astra、Claude Opus 5 等开源与闭源模型。这些对照全部由 Fireworks 自己给出。
讨论区里的追问
在 Hacker News 的讨论里, 问:「所以,他们在开放权重上训练了一个模型,然后不发布这些权重……我的理解对吗?」; 提醒,agentic coding 的推理成本大头在 prefill(预填充输入)而不是 decode(逐 token 生成),减少输出 token 未必能省下主要成本; 则先肯定迭代,再问 token 减少是否让某些能力受损,认为基准只讲了一半故事。用户 把价值指向训练用的托管基础设施:它让大实验室之外的人也能尝试训练管线。
Dzhulgakov 的推文下, 回复:「40% 这个数字在你帖子里干的活不少。」也有直接接受的: 写道,「同样的答案少 40% 的思考,我接受。」
两周窗口、企业定制,和一家已投入生产的客户
按博客说法,Ember-1 是 Fireworks Research 的第一款专门化模型,也是一个系列的开头。它以研究预览的形式、作为 Kimi K3 之外的服务选项上线:Fireworks 为这类研究发布提供两周的 serverless 访问期;同时开放的还有 Ember-1 的训练支持,企业可以用自己的数据把它定制成更省 token 的模型。调用方式包括 Fireworks 的 Python 客户端、REST API 和 OpenAI 的 Python 客户端,按 token 计费。
参与 A/B 测试的两家客户中,有一家已经把 Ember-1 放进生产流量,并计划扩大到完全替换 Kimi K3。访问期结束后,Ember-1 是否转为长期供应,Fireworks 说取决于社区需求。