AREX Feed Article
MiniMax 官方致谢社区：428B 的 M3.1 Flash 2-bit 量化至 143.9 GB，八组构建者获点名
北京时间 11 月 2 日凌晨（UTC 时间 11 月 1 日 20:49），MiniMax 官方 X 账号 @MiniMax_AI（Business 认证），逐一点名致谢把 428B 参数的 MiniMax M3.1 Flash 量化、搬上更多本地硬件的社区构建者。名单共八组，唯一给出权重大小的是排首位的 Unsloth（@UnslothAI 与 @danielhanchen）：他们发布 143.9 GB 的 2-bit Dynamic GGUF（llama.cpp 生态通用的量化权重格式）权重，并跨编程、工具调用等负载做了校准与保真度测试。
M3.1 Flash 是 MiniMax 的 Flash 档模型，标注约 428B 总参数、每 token（词元）激活 23B、上下文窗口 1M token。这份 2-bit 权重已可在 下载核对；名单上其余各家的成果与数据目前是 MiniMax 帖文的单方口径，帖内没有附项目链接或验证材料。截至发稿，这条帖子获得约 1.87 万次浏览、318 个点赞。
帖文把量化拆成三道题
MiniMax 在帖文中解释了量化的作用：更低位宽的权重，既减少加载模型所需的内存，也减少解码时需要搬运的权重数据。要让省下来的资源变成可用的推理，帖子给出三个前提：细致的校准、高效的低比特内核，以及在 GPU 与系统内存之间做硬件感知的专家摆放。
帖子结尾写道：「每一份共享出来的量化、内核、测量和配方，都给下一位构建者一个更好的起点。」
获点名的八组构建者
按帖文顺序，八组条目分别是：
- Unsloth（@UnslothAI、@danielhanchen）：143.9 GB 的 2-bit Dynamic GGUF，跨编程、工具调用等负载做校准与保真度测试；
- @ViC305：SAGE-EXL3 量化、token 级保真度测量，以及单台 NVIDIA DGX Spark 的运行配方；
- @PeasantSmith：Project Maya 量化与专家卸载，面向本地编程与工具调用；
- @MiaAI_lab：EXL3-EAQ 量化；
- @jundotkim 与 mlx-community：oQ 量化，经 oMLX 在 Apple Silicon 上做 DSpark 驱动的解码；
- @AIatAMD：把 Quark MXFP4 适配到 AMD Instinct 加速卡；
- @atomic_chat_hq：面向本地桌面工作流的 GGUF；
- @superalesha：在 4× RTX 3090 上组合量化权重、专家缓存与系统内存的定制推理。
这些条目指向的硬件从单台 DGX Spark、Apple Silicon 的 Mac、AMD Instinct 加速卡，到四张 RTX 3090 的系统不等。其中 oMLX 一条已可公开核对：mlx-community 的 仓库包含语言模型、视觉编码器，并把 DSpark（MiniMax 的推测解码方案）草稿模型打包在 dspark/ 目录里，仓库说明写明它供 oMLX Lightning MTP 用于推测解码；同系列还有 oQ3.5e-mtp 版本。
在 Unsloth 仓库与文档里对账
与帖文口径一致：UD-Q2_K_XL 下载体积 143.9 GB，权重本体 134.0 GiB。按 Unsloth 自报的测量，这个档位加权 top-1 一致率（量化后与原模型给出相同首位 token 的比例）为 91.5%，分项中通用聊天 88.5%、数学 95.7%、编程 91.2%；校准覆盖编程、数学、聊天、工具、多语言、推理与 agentic（智能体任务）七类负载。相邻档位依次是 1-bit 129.4 GB（约 89.9%）与 4-bit UD-Q4_K_XL 249.4 GB（98.0%）。该 GGUF 仓库创建于 10 月 23 日、最近更新在 10 月 26 日，近 30 天下载 4,499 次。文档还写明「感谢 MiniMax 提供首日访问权限」，并注明原始权重的 MoE（混合专家）层用 NVFP4、其余部分用 MXFP8。
内存方面，文档给出的规划估算是：2-bit 档预留约 150 GB 的 RAM 加显存或统一内存（4-bit 256 GB、8-bit 272 GB），前提是 16K 文本上下文、单并发，并在权重之外留 20～32 GiB 给 KV 缓存、运行时与系统；更长上下文、视觉输入与 DSpark 都要更多内存。运行路径上，llama.cpp 的 PR #31192 已加入该模型与 DSpark 支持，视觉输入需另下约 1.74 GB 的 mmproj 投影器。
（图为 Unsloth 文档公布的七类负载 top-1 一致性对比，属该公司自报的测量结果。）
回复区有人给体积算了笔账：143.9 GB 对应 428B 参数，平均每个参数约 2.7 bit——所谓「2-bit」的动态量化中，有相当一部分张量高于 2 bit；还指出，在 4× RTX 3090（共 96 GB 显存）上，仍需把 48 GB 以上的权重放进系统内存。
难点与铺垫：整份权重都要驻留内存
M3.1 Flash 通过 MiniMax API、M Plan 与 MiniMax Code 上线，权重其后开放下载；发布博客称其在线推理较前代提速近三倍、使用成本下降 70%，定价为每 100 万 token 输入 0.15 美元、输出 0.60 美元；曾匿名运营、处理过超过 200 万亿 token 的「Space Bunny」是它的早期版本。
搬运难点在 MoE 架构本身：官方模型卡写明它是原生多模态 MoE 模型，每 token 只激活 23B 参数。回复区：「每 token 激活 23B 听着轻巧，但每个专家都还得待在内存里。」Unsloth 文档提醒，即使激活参数少，也要按整份量化权重规划 RAM 与显存。帖文所说「硬件感知的专家摆放」正对应这一层：PeasantSmith 做专家卸载，superalesha 组合专家缓存与系统内存。M3.1 自带的 DSpark 推测解码需要配套草稿模型与额外内存，oMLX 方案所用的草稿就打包在模型仓库里。
低比特量化的另一层背景在训练阶段：官方模型卡与 Unsloth 文档都注明，M3.1 对注意力层和路由专家做了 QAT（量化感知训练）。
被点名者的回应，与回复区悬着的两个问题
发帖后一小时内，名单上的人陆续现身回复。 说「这是荣幸！感谢 MiniMax 团队点名」； 说「很乐意，你们太棒了」； 回了一句「妈，我上电视了」，他的 X 简介正是「4× RTX 3090 能走多远」。
评论区同时挂着两条技术追问： 2-bit GGUF 的工具调用表现，valid JSON 比例能否与全精度权重持平；算出平均位宽的那位用户则想知道，多出来的比特给了哪些张量。截至发稿，两条追问都还没有收到回复。