AREX Feed Article
vLLM 宣布 vLLM-Omni 为 Ming-3.0 提供 Day-0 支持：蚂蚁开源 5 个语音模型，0.5B～126B 当天可部署
10 月 19 日 16:32（UTC，北京时间 20 日凌晨 00:32），vLLM 项目官方账号 宣布，已在 vLLM-Omni 中为 Ming-3.0 提供 Day-0 支持：@AntLingAGI「刚刚开源了 5 个语音模型，覆盖 TTS（文本转语音）、音频理解与 ASR（语音识别），总参数从 0.5B 到 126B（6.5B 激活）」。帖文招呼开发者「今天就用 vLLM-Omni 把它们服务起来」，并向 AntLingAGI 团队道贺。
这批模型出自 ——据其 X 账号简介，它是蚂蚁集团 AGI 项目 inclusionAI 旗下的模型系列账号，Ming 系列定位 any-to-any（任意模态互转）模型。五个模型的准确名称为 Ming-3.0-tts-0.5B、Ming-3.0-tts-tiny、Ming-3.0-audio-flash、Ming-3.0-audio-tiny 与 Ming-3.0-asr-tiny，已同时上架 ；在 License 栏标注 MIT， 与 两个代码仓库的 LICENSE 文件同样为 MIT。
官宣时间线：发布帖先到，vLLM 的 Day-0 帖晚了 38 分钟
北京时间 19 日 23:54（UTC 15:54:35），：「今天，我们开源 3 个语音家族的 5 个 Ming-3.0 模型」，并给出参数表——TTS 家族的 0.5B 小模型负责音色设计与副语言线索，7.9B 总参、1.3B 激活的 Tiny 版负责长文本语音；音频家族的 Flash 版 126B 总参、6.5B 激活，负责理解与工具调用，9.3B 总参、2.7B 激活的 Tiny 版负责高效对话；ASR 家族的 Tiny 版 8.6B 总参、2B 激活，负责方言与上下文。几秒之内，同一线程又连发三条能力说明、双平台下载链接，以及一条致谢：「感谢 @sgl_project 和 @vllm_project 团队为 Ming-3.0 提供 day-0 支持——你们的工作帮助开发者把语音模型服务起来、带进真实应用」（）。
约 38 分钟后，vLLM 官方账号发出 Day-0 宣布帖，参数口径与公告一致；再过约 45 分钟，发帖祝贺，挂出 Ming-3.0-asr-tiny、Ming-3.0-tts-tiny 与 Ming-3.0-audio-flash 三个 Hugging Face 链接。「开源」与「day-0 支持」的表述分别来自发布方与两个推理框架的官方帖文；vLLM 的帖文没有附文档、性能数据或部署链接，具体怎么跑要看模型侧给出的配置。
三个家族、五个模型：TTS、音频理解与 ASR 的分工
图：Ming-3.0-tts 官方仓库的演示图，对应这款 TTS 模型的五个能力方向。
TTS 家族里， 是一个 0.5B 的稠密（dense）模型，基于 Qwen2.5-0.5B 骨干，checkpoint（权重文件）里打包了 DiT（Diffusion Transformer，扩散 Transformer）头、audio tokenizer（音频分词器）、speaker encoder（说话人编码器）与 text tokenizer（文本分词器）。模型卡列出的能力包括：7 种语言（中、英、德、西、法、韩、日）与川话、粤语两种方言；从短参考音频做零样本音色克隆；用自然语言描述设计音色；100+ 中文内置音色和 5 个英文音色；14 种内联标签（呼吸、咳嗽、叹气、笑声、犹豫、惊讶等）；情感、语速、音高、音量的显式控制；采样率 44.1 kHz。模型卡注明推理在 NVIDIA H800-80GB 与 H20-96G、CUDA 12.4 环境下测试。
音频理解家族的 是一个原生音频-语言 MoE（Mixture-of-Experts，专家混合）模型：接受音频加文本指令，输出文本或「文本加可选合成语音」。模型卡列出的方向包括复杂语音识别（方言、口音、噪声、多人录音）、长音频理解、语音与非语音声音、声学场景和音乐的感知、音频推理，以及可选的语音输出（内置音色或参考音频克隆）。AntLingAGI 的称它能总结长录音、回答口头提问、听懂音乐与环境声，并生成供应用执行的工具请求。Ming-3.0-audio-tiny 是同家族的小型号。
ASR 家族的 由 Ling-tiny-v3 语言骨干加音频编码器组成，做中英文转写。模型卡称其在 15 个方言语测集上评估（含粤语、闽南话、上海话），并支持 Context ASR（上下文感知识别）——把热词或前文对话写进提示词即可改善领域词识别，AntLingAGI 在中强调这一步「无需额外训练」。
vLLM-Omni 是什么，Ming-3.0-audio-flash 怎么跑
是 vLLM 社区 2025 年 11 月正式发布的全模态服务框架，把 vLLM 的文本自回归推理扩展到音频、图像、视频与动作模态，支持 DiT 等非自回归架构、流式输出、OpenAI 兼容 API 与全双工实时服务。按其仓库更新记录，2026 年 9 月发布的 0.30.0 版本基于 vLLM 0.30.0 重建，2026 年 10 月发布了技术报告（README 给出的链接为 ）。
具体到 Ming-3.0-audio-flash，模型卡给出了完整的 vLLM-Omni 参考部署：用 MING_OUTPUT_MODE=text ./scripts/serve_vllm_omni.sh 启动文本输出；128K 参考服务配置使用 8 张 80 GB H800 做张量并行；纯文本与 Talker（语音输出模块）两种模式各有一份 deployment YAML（部署配置）可选。语音输出模式下，客户端用 --voice 选项选音色，不指定时默认使用内置 IP 音色「灵小柔」，模型目录另提供「灵楷」与 US_James 预置参考音色。SGLang 侧的验证配置为 4 卡、文本输出。
图：的 Ming-3.0-audio-flash 架构图，标注 126B 总参数、每步推理仅激活 6.5B，注意力层按 5 层 KDA 加 1 层 Gated MLA 的 5:1 比例堆叠。
官方亮出的数字：全部是发布方自评口径
TTS 方面，AntLingAGI 的称其在 Artificial Analysis 的 Controlled Voice 榜单上以 1,069 Elo 排开源权重第一，Provider Voice 榜以 1,188 Elo 排第三，Pronunciation Robustness 以 93.2% 与所有模型并列第一。
ASR 方面，称四类 ASR 平均错误率 4.41%，但没有列出这四类的明细。的 ASR 基准表按中文、英文、方言、Context ASR 与长音频五个板块给出细分：中文平均 CER（字错率）3.45，英文平均 WER（词错率）3.69，方言平均 9.40，ContextASR WER 1.52；对比对象包括 Ming-3.0-audio-tiny、Seed2.0 Lite、MiMo-V2.6 Pro、Qwen3.8-Omni Flash（non-thinking）与 Gemini 3.8 Flash。
图：audio-flash 仓库中的 ASR 基准表，带星号结果为发布方自评。
就本文能核实的材料而言，这些基准数字全部出自 AntLingAGI 自己的帖文与模型卡；vLLM 与 SGLang 的帖文都没有附任何性能数据。
谁在响应，什么还没答案
两个推理框架团队与发布方的互动都停在致谢与祝贺层面：AntLingAGI 感谢 vLLM 与 SGLang 让开发者「把语音模型带进真实应用」，SGLang 回以祝贺并附模型链接。社区回复中，香港用户 Chasen 把焦点放在小模型的方言与上下文 ASR 上：「asr Tiny 激活才 2B，还专门做了方言和上下文。方言一直是语音转写的老大难，小模型往这个方向做，对国内场景很实用」（）。
尚未有答案的部分同样具体：vLLM-Omni 侧的参考配置目前写在 audio-flash 的模型卡里，其余四个模型的部署说明要各自查阅模型卡与代码仓库；全部基准数字出自发布方自评口径，在实际负载中的成色还有待独立复测检验。