AREX Feed Article
OpenBMB 发布开源多模态模型 MiniCPM-V 4.7，官方称 LES 让 35B-A3B 用 3GB 内存跑出 17+ tok/s
北京时间 10 月 13 日凌晨（官方推文发布于 2026-10-12 17:15:57 UTC），OpenBMB 发布开源多模态大语言模型（MLLM）系列 MiniCPM-V 4.7，包含 35B-A3B 与 1B 两个版本，支持单图、多图、文档与视频输入。官方 的标语写作 “A new chapter in on-device multimodal AI”（端侧多模态 AI 新篇章），并注明 35B-A3B 是 MiniCPM-V 系列的首个 MoE（Mixture of Experts，混合专家）模型；代码与模型权重按 Apache-2.0 许可开源，仓库标注由 THUNLP 与 ModelBest 开发，权重按公告链接上架 。
这条更新主打端侧：称，新引入的 LES（Lookahead Expert Scheduling，前瞻专家调度）让 35B-A3B 以约 3GB 内存占用在 iPad Pro M4（16GB）上跑出 17+ tok/s（每秒生成 token 数）、在 iPhone 17 Pro Max 上跑出 13+ tok/s，并在这款 iPad 上获得 5 倍加速且输出逐字节一致（byte-identical）；1B 版定位轻量、易部署。以上均为厂商自报数据。
35B-A3B 与 1B：效率曲线上的两个新落点
称，在 Instruct 模式下，35B-A3B 用更少的推理时间拿到比 Qwen3.6 35B-A3B 更高的总平均分；1B 相比上一代 MiniCPM-V 4.6 继续提升基础能力，并在总分与推理效率上“大幅超过 Qwen3.5 0.8B”。公告推文把评测面概括为 34 项基准，覆盖多模态理解、STEM 推理、OCR（光学字符识别）与长视频理解。
仓库随文发布的 “Intelligence-Cost Frontier of Open source AI Models” 图给出了两个版本的落点：横轴是推理耗时（对数坐标），纵轴是平均分，35B-A3B 的星标位于 Qwen3.6 35B-A3B 等开源模型的左上方，1B 的星标也落在 Qwen3.5-0.8B 的左上方；图表脚注写明，分数与耗时取 MMStar、MMMU-Pro、Charxiv_Reasoning、BLINK 与 MathVista 五个基准的平均，星标和圆点为 Instruct 模式，菱形为 Thinking 模式。
指南的致谢栏还写明：MiniCPM-V 4.7 的语言骨干来自 Qwen3.6，视觉模块来自 SigLIP2——效率曲线上被对比的对象，恰好也是它的语言底座。
LES：让 SSD 上的专家权重跟上计算节奏
在手机上跑 MoE 的难处，官方文档写得直白：MoE 的总参数远大于单个 token 激活的参数，而端侧内存通常装不下全部专家权重。把权重放在 SSD 等存储上按需加载可以绕开容量限制，但反复的加载停顿会把解码拖慢到无法实时交互；限制可用专家数量或固定专家子集能提速，代价是模型能力受损。
给出的解法分三层。第一层是专家预取与计算调度：用跨层路由预测提前加载下一层可能需要的专家，在实际路由选中的专家里优先计算已经预取到位的那些，其余所需专家并行加载；预测只用于预取和调度，计算仍按模型原有的 token 级路由执行，预测漏掉的专家照常加载使用，整个过程不需要额外训练。第二层是权重访问优化：逐层混合精度量化压缩专家权重的存储与传输开销，再把专家权重重排进连续存储，减少散乱读取、提高闪存顺序读效率。第三层是把 DSpark 投机采样整合进端侧推理管线。
官方实测表按优化逐级叠加，给出 iPad Pro 11-inch M4（16GB）上的解码速度：专家权重从 SSD 加载、不做优化的基线为 2.97 tok/s；开启 LES 后 9.81 tok/s（3.30 倍）；加上逐层混合精度量化后 14.92 tok/s（对基线 5.02 倍）；全部开启 LES 与 DSpark 后 17.39 tok/s，对基线 5.86 倍。文档列出的测试数据覆盖 MMMU、MathVista、CharXiv_reasoning_val、OCRBench、HumanEval、MBPP、AIME2025、AIME2026、Math500 和一个内部文本对话评测集。
4×/16× 混合视觉压缩：16× 档下的 OCR 与文档分数
视觉侧，MiniCPM-V 4.7 采用来自 LLaVA-UHD v4 的 intra-ViT 早压缩技术，在视觉编码器内部提前压缩视觉 token，减少后续编码层的计算量；4× 与 16× 两档压缩可按任务选择。指南的用法示例显示，downsample_mode 默认取 “16x”，需要更细的视觉细节时可换 “4x”，保留四倍的视觉 token；视频默认最多采样 128 帧，高分辨率图像推荐切到 36 块。
仓库附带的对比表给出分档数字：OCRBench 上 35B-A3B 在 4× 档得 91.20、16× 档得 90.40，Qwen3.6 35B-A3B 为 86.00；OmniDocBench_v1.6 两档分别为 94.24 与 93.25，对比模型 80.17；MMMU 为 80.22 与 80.00，对比模型 77.44；Video-MME（无字幕）76.40 与 74.70，LongVideoBench 68.90 与 67.60。表格脚注写明：MiniCPM-V 4.7 的 4x/16x 压缩比可任选，其余模型只支持固定压缩比（表中 Gemma-4 31B 为 9×）；结果“来自公开报告和我们用官方检查点所做的本地评估”，全部在 instruct 模式下评测。
压缩比本身不是新增量——上一代 MiniCPM-V 4.6 在 2026 年 5 月发布时就已引入混合 4×/16× 视觉压缩并支持移动端部署，4.7 的增量在 LES 端侧 MoE 推理和基础能力提升。
首日适配清单：三套系统、五类芯片与 13 个权重变体
部署面上，模型指南写明支持 iOS、Android 与 HarmonyOS 三套系统，首日（day-0）芯片适配列出 Rockchip、Houmo、Intel、AMD 与 Arm；公告推文给出的名单则是 Apple、Intel、AMD、Arm 与 Rockchip，并称更多平台经由 FlagOS 支持——两份官方材料的芯片名单并不完全一致。Intel 平台另有 OpenVINO 的首日支持；端侧应用与源码放在 仓库。
推理框架支持 SGLang、vLLM、llama.cpp 与 Ollama，微调框架支持 SWIFT 与 LLaMA-Factory。指南的权重表列出 13 个变体：35B-A3B 有基础版、FP8、int4、AWQ、GPTQ、GGUF 与 DSpark 草稿模型共七个，1B 有基础版、int4、AWQ、GPTQ、GGUF 与 DSpark 草稿模型共六个，DSpark 变体用作对应模型投机解码的草稿；权重另有 ModelScope 渠道，在发布当天已可访问。定制方面，README 介绍了配套发布的 Self-Replay Fine-Tuning，官方称其能以较低成本扩展目标能力、同时减少已有能力的遗忘。
数字仍是自报口径，两份官方材料已有一处出入
本文引用的全部性能与基准数字来自 OpenBMB 的公告推文、仓库 README、模型指南与 LES 文档，属厂商自报；对比表中其他模型的分数同样出自官方口径——按表格脚注，取自公开报告与其用官方检查点所做的本地评估。
推文发布约七个半小时后（UTC 2026-10-13 00:42 前后抓取），这条公告获得 926 个赞、131 次转发、122 次引用与 112,511 次浏览。
还有一个对不齐的数字：推文称 16× 档下 OCRBench 90.4 分“领先 Qwen3.6 35B-A3B 5.2 分”，而官方表格里两个模型的分数分别是 90.40 与 86.00——同一份官方材料之间，这项领先幅度相差 0.8 分。