AREXOpen in interactive Feed

AREX Feed Article

IQuest 发布并开源 320B 稀疏 MoE 模型 IQuest-Q1,SGLang 同日宣布 Day-0 支持

September 29, 2026

9 月 29 日,IQuest 通过官方 X 账号。这是一个稀疏 MoE(混合专家)模型,官方口径为约 320B 总参数、15B 激活参数,面向代码、软件工程与复杂 agentic(智能体)任务;技术报告、Hugging Face 模型权重和 GitHub 仓库随发布同步上线。

27 分钟后,开源推理引擎 SGLang 的对 IQuest-Q1 提供 Day-0 支持,即在模型发布当天即可用 SGLang 部署运行。SGLang 称它是「面向 CLI(命令行)agent 的开源稀疏 MoE 模型」,训练方式为 multi-harness RL(多 harness 强化学习)与多教师同策略蒸馏(MOPD)。

权重、模型卡、技术报告与 GitHub 仓库同日上线

把 IQuest-Q1 定义为面向 agentic coding(智能体编码)、推理与多步工具使用的 MoE 模型。页面上有完整规格表、训练与后训练流程图和性能图表,页面日期标注为 9 月 28 日。的标题是《IQuest-Q1: Advancing Foundation Capabilities for Agentic CLI Systems》,标注为 2026 年,没有精确日期;报告称模型在开发过程中也在人类监督下参与自身的改进。提供推理代码与示例。

报告对这类 CLI 系统的描述是:agent 要在命令行里完成一整条任务链,包括收集信息、调用工具、读取反馈以及从错误中恢复。

88 层、256 个专家与 512K 上下文

模型卡的规格表给出:88 层 Transformer、隐层维度 3,072;Q/KV 注意力头为 48/8、头维度 128;注意力采用 3 SWA + 1 FA 的混合模式,滑动窗口 4,096,Partial RoPE 维度 32;专家共 256 个,每 token 激活 8 个,稀疏性由此而来。MTP(多 token 预测)在训练阶段是 2 个独立层,推理阶段改为 1 个递归层、展开 8 次,推理时的 MTP 滑动窗口为 512。上下文长度为 524,288(512K)token。

在合成环境里训练,再用 MOPD 合并四个专家

报告把训练流程拆成几个阶段:预训练和中训练负责打底,把数据向代码与 STEM 倾斜、加入上下文更长的 agentic 轨迹,随后三个阶段构建 agentic 行为本身。

合成环境部分,任务是连同环境一起造出来的:通用 agent 任务基于真实 API、MCP 服务器与工作区文件,编码任务放在由代码仓库构建的可执行环境里。强化学习阶段,同一套策略在多个 harness 上训练,各 harness 保留自己的工具与上下文管理,让「在真实 agent 系统里工作」和「解决任务」一起被学会;训练前先做失败归因,只有策略自身的错误才成为学习信号。

RL 训练产出四个方向的专家:agentic 用户体验、多 harness 工作、长时程任务、通用 agentic 工作。MOPD 把它们合并进一个从 SFT(监督微调)检查点初始化的学生模型,学生模型在自己的轨迹上学习,由匹配的专家对每个 token 打分;最后用跨阶段、跨专家分支的稳定化模型合并,把各检查点折叠成 IQuest-Q1。

三类演示:修复多轮训练、飞书事故处置与生成式前端

报告用三组演示展示模型的实际工作方式,均为 IQuest 自报。

第一类是在 Claude Code 里排查并修复训练管线故障。模型把一条异常的奖励曲线定位到解码文本中多出的一个空格:解码阶段插入的多余空格破坏了前缀匹配,更早的对话轮次还留在上下文里,却从训练损失中丢失。修复方式是禁用注入的分隔空格、保留生成内容自身的空白,并让流式输出与存储文本保持一致;报告称多轮训练恢复,平均奖励回升。

第二类是办公场景。在模拟飞书(Feishu)工作区中,场景设定 Lanchuan Securities 于 10 月 22 日上报 API 返回了其他客户的数据;IQuest-Q1 扮演数据平台负责人,从三个群聊、制度文档和 Drive 草稿中重建事件,其间各方账号口径冲突、业务团队倾向只处理 Lanchuan 一家。它把事件定为 Level 1(37,214 次跨客户读取),并裁定必须通知全部 6 家受影响客户;交付物包括更新的外泄清单、排定的评审、报告、一份六页管理层材料和 7 项带负责人的整改任务,并用 11 条回执与一块进度板跟踪进展。任务分派曾因无效的 assignee ID 失败,模型读取命令帮助、从消息发送者把名字映射到 app_id,重新分派并回读验证。

第三类是网页生成。报告称 IQuest-Q1 能把文字简报转成可交互网页,范围包括游戏、个人工具、设计与排版、科学可视化。

对比 DeepSeek-V4-Flash/Pro:自报评测与复现口径

性能图的对比对象包括 DeepSeek-V4-Flash 与 DeepSeek-V4-Pro,模型卡注明两个参照分别为官方 0731 与 0813 版本;Humanity's Last Exam 为无工具成绩;IQuest-CLIBench 是 IQuest 自建的 CLI 用户体验基准。

模型卡交代了评测口径:有公开成绩的模型采用公开成绩,其余按各自基准的设置重新评测。agentic 编码任务用 mini-SWE-agent 跑 DeepSWE v1.1,其他任务用 Claude Code;Agents' Last Exam 使用 Claude Code 2.1.258。由于该模型没有多模态能力,对话中的多模态内容在分词时被替换成占位符。CyberGym 设 6 小时限时,Terminal-Bench 2.1 设 8 小时。为便于复现,模型卡建议使用 temperature 1.0、top-p 0.95、top-k 20,并选用 Claude Code 2.1.140 或 Codex 0.142 作为 harness。

这些分数与对比都来自 IQuest 自己发布的模型卡与技术报告;SGLang 的声明内容是部署支持。

部署路径与模型卡自己列出的限制

模型卡的部署部分把 SGLang 与 vLLM 列为推荐方案,并给出 IQuest 提供的两个预构建镜像:iquestlabworkspace/sglang-iquest-q1:cu130 与 iquestlabworkspace/vllm-iquest-q1:cu130。SGLang 镜像的启动参数包括 tp-size 8 的张量并行、bfloat16、fa3 注意力后端,以及 iquest_q1 工具调用解析器和推理解析器;使用递归 MTP 时配合 EAGLE 投机解码。接入 Claude Code 或 Codex 需要经过支持工具调用的网关,分别对应 Anthropic Messages API 与 OpenAI Responses API。

SGLang 推文下有一条来自开发者账号 :在开启与关闭 EAGLE 的情况下,不同并发下的 p95 延迟和吞吐数据如何。

模型卡的 Limitations 一节写明:该检查点只支持文本输入,没有原生图像、音频、视频能力;生成的解释与代码可能出错,需要用测试验证;工具调用使用 IQuest 专属格式,需要兼容的解析器和 agent harness;真实 CLI 任务中它可能忽略约束、重复失败的尝试或留下未解决的问题,需要人工把关;模型仍处于早期阶段,能力与可靠性都有大量限制。

发布 IQuest-Q1 的 创建于 2026 年 2 月 20 日,目前关注者约 51 人。技术报告页面列出的 标注为 pending。

参考链接