AREXOpen in interactive Feed

AREX Feed Article

MiniMax 官方致谢「将 H3 带上 TPU」的开源工作,帖文未点名移植方

October 22, 2026

北京时间 10 月 22 日凌晨 4 时 24 分(UTC 时间 10 月 21 日 20 时 24 分),MiniMax 官方 X 账号 发帖,致谢「把 H3 带到 TPU」的开源工作,并称很高兴看到围绕高效视频推理(efficient video inference)的更多开源工作,以及它可能带来的效果:更快的创意迭代、新的交互体验,和更多开发者基于 H3 构建的方式。帖文没有点名被致谢方,也没有披露移植所用的 TPU(Google 的张量处理单元)平台、软件栈、许可证或任何性能数据。

在这条帖子之前约 3 个半小时,SGLang(开源推理框架)官方账号插件 SGLang-TorchTPU,并把 MiniMax H3 列入 TPU 首发支持模型;帖子发出后约 1 小时 45 分钟,SGLang 又在这条致谢帖下。两条当事方的公开信息相互呼应,但 H3 在 TPU 上的实际性能和验证等级,本文写作时尚无公开数据。

致谢帖原文:两句话与三个期待

只有两句话:「感谢把 H3 带到 TPU!很高兴看到围绕高效视频推理的更多开源工作,以及它可能带来的效果:更快的创意迭代、新的交互体验,和更多开发者基于 H3 进行构建的方式。」

发帖账号是 MiniMax 带有 Business 认证的官方 X 账号。发布约 4 小时后的快照显示,这条帖子获得 3,273 次浏览、46 个点赞、3 次转发和 6 条回复。帖文里的三个「可能带来」是 MiniMax 对未来的展望表述;「H3 已被移植到 TPU」目前是 MiniMax 的单方口径。

三个时间戳:上线公告、致谢、回帖

10 月 21 日 16 时 46 分(UTC),SGLang 官方账号发帖宣布「今天我们上线 SGLang-TorchTPU」,称其由 SGLang 团队与 Google TPU 团队、Meta PyTorch 团队合作构建,并列出 TPU 上的首发模型:Muse Spark Open、GLM-5.3 Flash、Kimi K3、Ling 3.1 Flash、MiniMax H3。

20 时 24 分,MiniMax 发出前述致谢。22 时 08 分,SGLang 在致谢帖下回复:「谢谢你创造了 H3!我们很自豪能把它带给更多开发者和用户。」这条回复没有展开移植的技术细节,两者的对应关系由双方各自的帖文建立。

SGLang-TorchTPU:把整套 SGLang 推理栈带进 Cloud TPU 的插件

SGLang 背后团队发布在 lmsys.org 的介绍了这个插件的工作方式:SGLang-TorchTPU 是一个开源的「树外插件」(out-of-tree plugin),安装 sglang-tpu 包并向 SGLang 注册 TPU 平台后,设置环境变量 SGLANG_PLATFORM=tpu_oot 即可启用。SGLang 自己的调度器、RadixAttention 前缀缓存和 API 服务器保持不变,插件补齐硬件相关的部分——attention 后端、KV cache 池、MoE 内核和 graph runner。每个 TPU 核心运行一个 PyTorch 进程,模型经 torch.compile 降到 XLA 执行,attention 和 MoE 跑在 Pallas 内核上。

博客的部署示例与 CI(持续集成)都基于 Cloud TPU v7x:拉取请求在单主机 TPU v7x 上运行测试套件,连同夜间测试共覆盖 15 个模型、193 项 TPU 测试。首发模型表中,MiniMax H3 的类型标注为「Diffusion」,与 Wan2.2 同属扩散类;博客同时说明,部分最新模型还在彻底测试、加入 CI 之前,先以实验状态提供。Google 的 AI 推理技术负责人 Qi Zhou 在博客中表示,与 RadixArk 和 Meta 共同开发,是为了让开发者在 TPU 上获得面向主流开源模型、可直接用于生产的引擎;Meta 的 PyTorch-TPU 负责人 Zongwei Zhou 称,这套技术栈「今天已在 Meta 的生产环境中运行」。

H3 的开源底子:发布时就把硬件兼容写进了目标

是 2026 年 7 月 31 日发布的通用多模态生成模型:统一理解文本、图像、视频、音频构成的上下文,生成带原生立体声的视频,最长 15 秒、分辨率可达 2K。发布博客明确写道,计划在「未来几天」开放模型权重,目的包括支持开源社区、加速与更广范围 AI 硬件的兼容、方便用户构建定制版本,并称硬件兼容性「从 H3 设计的最早期就是一个关键考虑因素」。

8 月 3 日,MiniMax :发布两个 BF16(16 位浮点)精度的任务专用检查点(FL2VA 与 Ref2VA),核心是 33B 参数的 dense(稠密)单流 H3-Omni-Transformer,其中约 13B 参数位于 AdaLN 分支,纯推理部署可以不加载;H3-VisualVAE 采用 16 倍空间、4 倍时间压缩。不过初始开源版本只提供全注意力(full attention)推理,原生稀疏注意力要等后续更新;指令理解模块 H3-Context-IR 和 2K 再生成模块 H3-Regenerate-2K 也不随权重开源,官方提供 API 复现其行为。官方推荐的四类部署框架中,SGLang 排在第一位,并附有 MiniMax-H3 的部署手册。

第三方之所以能移植 H3,前提正是这套开源安排。

尚未落定的三件事:支持等级、性能数据与移植方口径

SGLang-TorchTPU 仓库中人工维护的 把每个模型分为 Quickstart、Optimized、Supported、Experimental 四级,并规定「任何没有绿色在设备测试的条目,无论代码看起来多完整,都是 Experimental」。本文 10 月 22 日抓取的版本中,模型矩阵没有 MiniMax H3 的条目,唯一标注的扩散模型是 Wan2.2-TI2V-5B(Experimental);矩阵同时写明,所有内核均针对 TPU7x(Ironwood)调优。H3 在 TorchTPU 上的支持等级,要等矩阵更新才能确认。

性能数据同样缺席:MiniMax 的致谢帖和 lmsys 博客都没有给出 H3 在 TPU 上的吞吐或延迟基准(博客里 770 tok/s 的解码数字属于 Muse Spark Open,与 H3 无关)。移植方身份也停在当事方口径:MiniMax 没有点名,SGLang 的上线公告与回帖与之吻合,但双方都是利益相关方,尚无独立验证;H3 这次移植的完成度如何,本文查证过的公开材料里也没有描述。

lmsys 博客给出的下一步是:从 2027 年一季度起,目标是让新的开源模型获得 TPU 上的 Day-0(发布当日)支持,贡献者还可以申请 RadixArk 的社区 TPU 算力池。不过,MiniMax 帖文里的「更快的创意迭代」眼下仍是一句期待——H3 在 TPU 上的实际表现,要等移植方或 MiniMax 公布可复现的基准数据才能检验。

参考链接