AREX Feed Article
MiniMax M3.1 Flash 开放权重上架 Hugging Face 与 ModelScope:428B 总参数、23B 激活,vLLM 等首日跟进
北京时间 10 月 23 日上午,MiniMax 官方账号宣布 M3.1 Flash 的开放权重上架 与 ,并随模型卡确认架构数字:原生多模态 MoE(mixture-of-experts,混合专家)架构,总参数约 428B、每 token 激活 23B,支持文本、图像与视频输入,上下文窗口最长 100 万 token。四天前(10 月 19 日)模型以 API 形式上线时,MiniMax 曾预告 10 月 23 日放出开放权重;承诺当天兑现,vLLM、Together AI、Inferact、SGLang、NVIDIA NeMo 与 TokenSpeed 也在同一天以不同形式跟进。
M3.1 Flash 于 10 月 19 日上线,定价为每百万 token 输入 0.15 美元、输出 0.60 美元、缓存输入 0.015 美元;上线当天,Artificial Analysis 的独立评测给出智能指数(Intelligence Index)42 分、前代 M3 为 29 分,每任务成本约 0.22 美元( 转述)。开发者 Israfil 在 10 月 20 日的帖子中称,他此前匿名测试的免费隐身模型「Space Bunny」就是 M3.1 Flash 的早期版本()。
权重如约上架:架构改动与自托管路径随模型卡公开
MiniMax 在当天上午 9 时刚过发帖宣布权重公开,列出 Hugging Face 与 ModelScope 两条获取渠道,并保留 API、M Plan 与桌面端 MiniMax Code 入口();约一小时后公司再发一帖,宣布权重正式开放,并感谢 Together AI 作为 launch partner(上线合作方)在发布首日即把模型带上其 AI Native Cloud 生产环境()。ModelScope 仓库同步上线,页面标注为 MiniMax 在该平台开源的模型。
相比 M3 的三处改动写在模型卡里:MiniMax Sparse Attention(MSA,稀疏注意力)贯穿全模型,前三层全注意力层被替换为稀疏注意力;路由 MoE 专家与注意力路径在训练中即被量化(quantization-aware training,QAT);DSpark 投机解码取代此前的 EAGLE 式 MTP(multi-token prediction,多 token 预测)方案,发布内容包含配套 draft head(草稿头)。
自托管路径也已给出:模型卡提供 hf download MiniMaxAI/MiniMax-M3.1-Flash 下载命令,推荐 SGLang、vLLM 与 TokenSpeed 三个推理框架,Transformers、KTransformers、unsloth、ATOM 的集成标注为进行中,另附 FlagOS 多芯片部署文档。推荐采样参数为 temperature=1.0、top_p=0.95,推理深度提供 low 至 max 五档。
基准数字仍属 MiniMax 自报:BankerToolBench 76.2、DeepSWE v1.1 73.7%、OSWorld 2.0 61.7、Agents' Last Exam 29.6、CyberGym 82.2。模型卡注明 DeepSWE 由 mini-SWE-agent 2.4.5 在 512K 上下文测得,BankerToolBench 由 OpenCode 1.17.18 配 MiniMax-M2.7 评审。同一张对比表也保留了对手领先的项目:DeepSeek V4.1 Flash-1017 在 DeepSWE v1.1 得 77.0、Terminal Bench 4.0 得 42.3(M3.1 Flash 为 38.1)、NL2Repo-Bench 得 68.2(M3.1 Flash 为 61.2)。卡内提示,结果对应官方权重,第三方量化版本可能不同。
vLLM 首日支持:NVFP4 原生权重进入服务栈
在发布首日宣布支持,列出了服务端实现细节。服务栈包含三件:覆盖 indexer(索引器)与注意力路径的 NVFP4 原生 KV cache(KV 缓存)、NVFP4 量化的 MoE 权重,以及 DSpark 投机解码草稿模型;支持范围覆盖 NVIDIA Blackwell、配备专用内核的 NVIDIA Rubin,以及 AMD MI350 系列 GPU。
vLLM 团队发布的服务端数字:在 NVIDIA Vera Rubin NVL72 上,单用户解码速度达 724.9 tok/s(每秒 token 数),每 GPU 吞吐 191.5k tok/s。NVFP4 让 checkpoint(权重检查点)体积从 M3-MXFP8 的 451.5 GB 降到 250.1 GB,缩小 44.6%;每 token 的 KV 内存较 FP8 少 43.75%;在 4× B300、256K 上下文、DEP4 配置下可容纳 76 个并发序列,而 M3 为 28 个,约 2.7 倍。AMD 一侧,MI350X 在 TP4(4 卡张量并行)下 mono decode(单流解码)至多快 2.3 倍,8K 输入/1K 输出的低并发场景吞吐翻倍;DSpark 草稿注意力采用 FlashInfer PrimiTS 后端,在所测配置下比 FlashAttention 4 快 1.3~2 倍;博客另给出 MI355X 在 SemiAnalysis AgentX 基准上每 1 美元 TCO(总拥有成本)至多产出 1.333 亿 token 的成本口径。帖文注明,上述结果分别测量自不同负载与阶段。
训练侧同样首日就绪:veRL + FSDP2 + LoRA(低秩适配)组合可直接对 NVFP4 checkpoint 训练适配器。部署入口包括 CUDA 与 ROCm 两套 Docker 镜像(vllm/vllm-openai:minimax-m31-flash 与 vllm/vllm-openai-rocm:minimax-m31-flash)及完整 recipe(部署配方);博客注明,待代码经评审合并进上游约一周后,模型才会进入 PyPI 的 nightly(每夜构建)wheel 包。
vLLM 官方账号另发一帖称,M3.1 Flash 正由 Inferact 以带保障的 SLA(服务等级协议)在生产环境大规模运行,其工程改进回流 vLLM 上游()。
首日跟进:生产服务、微调与推理框架支持同日宣布
同一天里,MiniMax 陆续致谢多家合作方。MiniMax 宣布与 Inferact 合作推进 MiniMax 模型的生产推理,工程改进回馈 vLLM 项目();前述 vLLM 帖文为这一合作提供了第二方佐证。NVIDIA NeMo 团队的首日微调支持、SGLang 与 NVIDIA、AMD 的支持,以及 lightseekorg 的 TokenSpeed 首日支持,目前均为 MiniMax 单方口径(、、),帖文未附合作细节或数据;其中 SGLang 的接入与模型卡内的推荐框架条目及 cookbook(示例教程)链接对应,TokenSpeed 也有卡内 recipe 链接。
更早的 10 月 21 日,MiniMax 还与 SGLang Omni 团队发布了语音 agent 方向的教程,把 M3.1 Flash 的快速简洁响应与 SGLang Omni 的流式输出、对话状态与打断处理组合到一起,面向可被用户随时打断、纠正和转向的对话场景()。
权重之外未变的数字:93% 幻觉率待复测
Artificial Analysis 的测试显示,M3.1 Flash 在 AA-Omniscience 上正确率 56%,但幻觉率达 93%——模型在不确定时倾向作答而非拒答( 转述);vLLM 帖文列出的 AA-Omniscience 56% 与该口径一致。MiniMax 的模型卡基准表收录了 HLE(无工具)43.4 等指标,但未包含 AA-Omniscience 与幻觉率两项。
复测所需的材料现已齐备:权重、recipe 与推理配置均已公开,任何团队都可以下载权重复测这些数字。模型卡同时提示,官方权重与第三方量化的结果可能不同。