AREX Feed Article
vLLM 官宣 Day-0 支持 SparkLLM 端侧 agent 模型 Spark-X2.6-1.7B：1M 原生上下文、三档思考
北京时间 10 月 28 日 8 时 4 分，vLLM 项目官方 X 账号：SparkLLM 的 Spark-X2.6-1.7B 已经发布——一款紧凑的端侧（on-device）agent（智能体）模型，具备 1M 原生上下文与 none/low/high 三档可控思考（controllable thinking）；vLLM 通过 trust-remote-code 参数（加载模型自带自定义代码所需）为其提供 Day-0（发布当日）支持，范围包括面向 NPU（神经处理单元）部署的 vLLM-Ascend。
帖文同时称，这款模型在 SWE Verified 与 τ²-bench 两项基准上「接近同系 4B 模型」。它由 SparkLLM 团队于北京时间 10 月 27 日晚推出，给出的数字是：SWE Verified 59.8 对 4B 的 62.8，τ²-bench 85.3 对 86.9，均以 high 思考档测得，而 1.7B 的参数量「不到 4B 的一半」。这组对比出自模型团队的官方评测，也写明「这些是模型团队的评测结果」，目前没有独立验证。
从模型发布到 vLLM 官宣 Day-0 支持，不到 9 小时
北京时间 10 月 27 日 23 时 6 分，SparkLLM 在 dev.to 上线博客《Spark-X2.6-1.7B Is Here: Stronger Coding and Agents in a Compact Model》；23 时 17 分，官方 X 账号发帖给出上述对比；10 月 28 日 8 时 4 分，vLLM 官方账号宣布 Day-0 支持；11 时 9 分，发帖介绍该模型上架，称开发者可以从聊天模型起步跑 agent 工作流，或用 Base 检查点做继续训练与领域定制。
Day-0 支持的落点是可直接复制的命令。的 vLLM 一节给出了 vllm serve 命令，带 --trust-remote-code、--enable-prefix-caching 和仓库自带的 chat_template.jinja，NVIDIA GPU 路径使用 vLLM 官方 Docker 镜像。截至发稿，已列出该模型的三个版本——latest 3.4GB、q4_k_m 与 q8_0 各 1.8GB，均标注 1M 上下文窗口。
同架构换后训练：1.71B 参数的 X2.6 系列第二款
按模型卡的说明，Spark-X2.6-1.7B 是 Spark-X2.6 系列的第二款模型，先发的是 Spark-X2.6-4B；它保留了与上一代 Spark-X2.5-1.7B 完全相同的架构，能力提升全部来自后训练（post-training）。Hugging Face 仓库标注 1.71B（约 17 亿）参数、BF16 权重，许可证为 Apache 2.0。
模型卡列出的三项技术卖点分别是：复杂工具使用、多步规划、软件工程与长上下文推理上的「同尺寸开源模型中最先进表现」，同尺寸开源模型中领先的端侧解码吞吐，以及 none/low/high 三档可配置思考预算——官方对其用途的定义，是让应用在推理质量、延迟和推理成本之间动态权衡。分发格式方面，团队博客列出 Hugging Face 上的 post-trained 模型、Base、GGUF（llama.cpp 生态的量化模型文件格式）、INT8、INT4 与 FP8 仓库，ModelScope 则上架了 post-trained、Base、INT8、INT4、FP8 五种。
30 项基准平均 49.6，距自家 4B 还差 13.7 分
官方基准表收录在 中，覆盖 30 项基准。对上一代 Spark-X2.5-1.7B，SWE Verified 从 28.3 提到 59.8，SWE Multilingual 从 23.3 提到 57.3，Agent 类的 τ²-bench 从 65.3 提到 85.3；对自家 4B，SWE Verified 与 τ²-bench 分别只落后 3.0 分和 1.6 分——vLLM 帖文所称的「接近 4B」即出自这两行。
把 30 项拉平看，差距更大：Spark-X2.6-1.7B 平均 49.6，4B 为 63.3。同表的同尺寸对比组里，Qwen3.5-2B（2.3B）平均 22.0，MiniCPM5-2B（2.5B）46.9，LFM2.5-2.6B（2.7B）30.4，Gemma4-E2B（5.1B）22.5，上一代 Spark-X2.5-1.7B 为 35.8。表格脚注写明：全部评测在思考模式下进行，推荐采样参数为 temperature 1.0、top_p 0.95、top_k 1；带星号的成绩取自对应团队的公开模型卡，SWebench 和 PAgentBench 是 SparkLLM 自建基准。
这张表也并非全胜：MiniCPM5-2B 在 BFCL-V4（66.6 对 55.2）和 AIME 2026（86.5 对 70.1）两项上高于 Spark-X2.6-1.7B。团队自己的口径是「在多数基准上超过同尺寸模型」。
思考预算接进推理栈：默认开启，按请求关闭
三档思考在推理栈里的接法，模型卡给出了两条路径。Transformers 路径要求 transformers==4.57.1，以 trust_remote_code=True 加载模型自带代码，并在 apply_chat_template 中传 enable_thinking=True；SGLang 路径以 --tool-call-parser spark25 和 --reasoning-parser qwen3 启动 OpenAI 兼容服务，聊天模板与解析器默认开启思考，按请求把 "chat_template_kwargs": {"enable_thinking": false} 关闭即可。
1M 上下文的成本也写在卡里：SGLang 的示例按 --context-length 1048576 配置最大上下文，模型卡提醒这一设置需要足够的显存，必要时应下调。
从昇腾 NPU 到 Mac 与 RTX 4090：运行时覆盖清单
被 vLLM 帖文点名的 NPU 路径是 vLLM-Ascend：该自述为「vLLM 在华为昇腾上的社区维护硬件插件」，目前有 3,027 星；官方模型卡给出三套镜像——Ascend A2（vllm-ascend:nightly-main）、Ascend A3（nightly-main-a3）与 Ascend 950DT（nightly-main-a5），并指示在容器内安装 插件。这个插件仓库创建于今年 8 月 24 日，自述能在不修改 vLLM 源码的情况下完成权重加载、tokenizer（分词器）与推理运行时的接入。SGLang 一侧同样提供昇腾 A3 与 A2 的 daily build 镜像。
本地与桌面栈的覆盖面更宽：llama.cpp 的原生 spark2_5 支持要求 b10828 及以上版本；Ollama 要求 v0.34.1 或更高；LM Studio 要求 0.4.0 或更高；Spark-MLX-LLM 直接运行 Hugging Face 检查点，覆盖 Apple silicon GPU、Linux CPU 与 NVIDIA CUDA，无需 GGUF 转换；Unsloth Studio 支持原生 Spark-X2.6 GGUF 推理。
吞吐方面，模型卡称 Spark-X2.6-1.7B 在较短上下文下的解码吞吐领先于受测的 Qwen3.5-2B、MiniCPM-2B 和 LFM2.5-2.6B，团队优化版 llama.cpp 在 RTX 4090 上把这一优势扩大到全部受测上下文长度。上面这张官方仓库中的图表分两组测量：Mac M5 Pro 16 核用 MLX INT4 权重和 BF16 KV cache（键值缓存），RTX 4090 用 llama.cpp Q4_K_M 权重和 FP16 KV cache，各测 4K、32K、128K 三档上下文下的 prefill（预填充）与 decode（解码）吞吐，另有一条使用优化实现的 Spark 变体曲线。团队博客提醒，这些结果取决于受测配置。
4B 先行一周：系列节奏与待检验的成绩单
Spark-X2.6-1.7B 是一周内的第二款 X2.6 模型。北京时间 10 月 21 日凌晨，SparkLLM X2.6-4B 发布，同样是 none/low/high 三档思考，主打通过后训练增强编码、agent 与长上下文能力；10 月 25 日，团队 4B 登上 Hugging Face Trending 第 4 位的快照。上一代 X2.5 系列的规模，团队自己给出过数字：10 月 14 日称其，从 100 万到 200 万只用了 15 天。据 的说明，Spark 系列开源模型出自科大讯飞（iFLYTEK）的 SparkLLM 团队。模型卡的引用块把两款 X2.6 模型并称为「Spark-X2.6-4B&1.7B: Advancing the Frontier of On-Device Agents for Real-World Tasks」。
眼下能直接核验的，是 Apache 2.0 权重已在 Hugging Face 与 ModelScope 上架、从 vLLM 到昇腾 NPU 的部署命令已写进官方模型卡；那份「接近 4B」的成绩单目前仍是 SparkLLM 团队的自报口径，下一个可核验的节点，是它在第三方环境中的复现结果。