AREX Feed Article
NVIDIA Nemotron 3.5 Bolt E4B 如期上线，Unsloth 同步发布 GGUF 并称 6GB 内存即可本地运行
10 月 23 日，NVIDIA 两天前在 里预告的 Nemotron 3.5 Bolt E4B 4GB 如约上线；同一天，提供本地运行与训练工具的 Unsloth 发布了该模型的 （GGUF 为 llama.cpp 生态常用的量化权重格式），并附上链接，称：这个模型能在 6GB 内存下本地运行、可跑手机等边缘设备，基于 Gemma 4 训练、支持视觉。
预告兑现：两个仓库与一条推文出现在同一天
10 月 21 日，NVIDIA 配合 GTC Berlin 把扩展后的开放模型家族一次性铺开，覆盖语言、机器人、生物学与量子计算；家族的可用性清单里，Bolt E4B 4GB 当时还写着「预计 10 月 23 日（周五）可用」。
NVIDIA 官方仓库 公开可访问，模型卡在 Release Date 一栏写明 Hugging Face 与 build.nvidia.com 平台的发布日期均为 10/23/2026，版本一栏标注 GA（正式发布）。Hugging Face 的仓库元数据显示，Unsloth 的 GGUF 仓库创建于同日 UTC 09:47，最后一次更新在 UTC 16:07；仓库内含 9 种精度的模型文件——BF16 全精度，加上从 UD-IQ2_M 到 UD-Q8_K_XL 的 8 种量化——以及一个用于投机解码（speculative decoding）的 DFlash 草稿模型和三个视觉投影器（mmproj，多模态投影权重）文件。UTC 15:49（北京时间 23:49），Unsloth 发推宣布了这次发布。
模型卡披露的底细：从 Gemma-4-E4B-it 后训练而来
NVIDIA 在模型卡里写明，Bolt-E4B 由 Google 的 进一步后训练而来，总参数 8B、有效参数 4B，架构记作 Gemma-4-E4B。训练方法是跨指令跟随、多步工具调用、多轮对话与结构化输出环境的 GRPO（Group Relative Policy Optimization，组相对策略优化）强化学习，底层使用 NVIDIA 的 NeMo RL 与 NeMo Gym；后训练数据截止 2026 年 5 月。
规格方面，输入与输出上下文各至 64K tokens；是否思考（enable_thinking）与对话模式（conversational_mode）都由对话模板（chat template）开关控制，推荐采样温度 1.0、top_p 0.95。卡片把它的定位写成「本地语音与设备助手、交互式人设、嵌入式界面」，强调低内存、低首 token 延迟（TTFT）。许可证为 OpenMDW-1.1，其基座 Gemma 4 受 Apache 2.0 约束；支持语言列出英语、西班牙语、法语、德语、意大利语、日语等，Hugging Face 仓库标签中也包含中文。
6GB 内存、手机与视觉：Unsloth 的口径与官方卡片并不完全对得上
Unsloth 指南同时覆盖 Bolt 家族的 74B-A9B 与 E4B 两个版本，给 E4B 列出的门槛是：约 4GB 显存或 6GB 内存即可运行，Q4_K_M 4-bit 量化的下载体积为 6.18GB，上下文最高 64K，也可选配 DFlash 草稿模型加速输出。推文在此之外还说手机等边缘设备可运行、性能居前；这两个说法在指南正文里没有对应说明，6GB 这一数字也未见于 NVIDIA 模型卡。
视觉支持的分歧更直接。推文称该模型支持视觉，Unsloth 仓库里也确实附带 mmproj-BF16、mmproj-F16、mmproj-Q8_0 三个视觉投影器文件；但 NVIDIA 官方模型卡在输入/输出一栏写的是「Text / text」，输入类型只列了文本。指南页里演示图像问答的配图（即本文封面图）用的也是 Bolt 74B-A9B 这个更大的版本。E4B 的视觉能力目前只有 Unsloth 一方的说法，NVIDIA 的官方标注并未确认这一点。
自测基准里的领先与落后
模型卡附了一张基准表，把 Bolt-E4B 与同体量的 Gemma4 E4B-it、Qwen3.5 4B、Nemotron-3 Nano-4B 放在一起，分 BF16 与 Q4_K_M 两组精度。Q4_K_M 组里，Bolt-E4B 在 MultiChallenge 得 55.60 分，高于 Gemma4 E4B-it 的 39.36 与 Qwen3.5 4B 的 52.23；IHEval 的 82.40、RelyToolBench 的 69.29 也是同组最高。但长上下文与部分工具调用项目落在 Qwen3.5 4B 之后：RULER（64K）为 85.76 对 95.37，Tau2-Bench 为 52.32 对 61.74，LongBench v2（48K）为 48.67 对 58.28，BFCL-v3 为 67.31 对 70.56；EQ-Bench v3 一项则是基座 Gemma4 E4B-it 更高（39.77 对 38.15）。
卡片同时注明：这些数字全部由 NVIDIA 用统一的 NeMo Gym 框架测得，可能与各厂商自报的成绩不同。对照这套表格，Unsloth 推文里「性能居前」的说法大体成立，但并非全项第一。
发布当天能核验的只有公开材料本身；6GB 内存下的实际表现、手机端运行与视觉输入是否可用，都要等真实设备上的实测来回答。