英伟达与微软扩大合作:Vera Rubin NVL72 已在 Azure 数据中心运行,机密计算将延伸至裸金属与机架级
Microsoft Ignite 2026 于 11 月 17~20 日在旧金山和线上举行。大会进行期间,英伟达在 11 月 19 日发布的官方博客中宣布扩大与微软的全栈合作:Vera Rubin NVL72 系统已在 Azure 数据中心运行,两家公司正在扩大由这套系统驱动的 Azure 虚拟机的使用范围。双方还宣布,正在把机密计算扩展到裸金属与机架级 AI 基础设施。
公告同时覆盖模型层与端侧:Microsoft Foundry 新增 NVIDIA Nemotron 3.5 开源模型,Super 与 Lightning 已上线,Bolt 与 Transcribe「即将推出」,并新增 serverless Programmed Training 与自定义权重部署;Azure Local 将增加对 NVIDIA RTX PRO 6000 Blackwell GPU 与 Jetson Thor、Jetson Orin 边缘平台的支持;微软自己也用 NVIDIA Dynamo 推理软件支撑后训练中的强化学习 rollout 推理,并以 RTX PRO 6000 Blackwell GPU 服务 Bing 搜索模型。
Vera Rubin 预览在 Azure 开放:MLPerf 成绩与 MaxLPS 能效合作作支撑
英伟达在博客中称,Vera Rubin NVL72 为「要求苛刻的推理、智能体应用和大规模模型训练与推理」而设计;博客同时把 Azure 上的这套系统称作「Vera Rubin 预览」,说明客户访问仍处在预览阶段。
性能背书来自几天前的 MLPerf 成绩。在 11 月 16 日公布的 MLPerf Training v6.1 中,Azure 用 GB200 NVL72 系统把 DeepSeek-V3 的训练扩展到 10,240 块 GPU,英伟达称这是该轮的最大规模;英伟达自己的解读文章显示,其也以 GB300 系统跑到了 10,240 块 GPU 的规模,Azure 与之持平。本轮训练测试的提交方包括 Azure、Google Cloud、Oracle、Supermicro 等。英伟达的 Vera Rubin NVL72 提交则把 DeepSeek-V3 训练从 256 块 GPU 扩展到 1,024 块,扩展效率约 97%,GPU 数量翻两番把训练时间从 16 分钟压到约 4 分钟。
推理侧,独立基准分析机构 Signal65 对 MLPerf Inference v6.1 经审核公开结果的分析显示,Azure 基于 GB300 NVL72 的 72 卡提交在 DeepSeek-R1 Interactive(交互式)吞吐上达到每秒 260,098 个输出 token,比下一个云厂商提交高 10.3%,比英伟达自家 GB300 参考成绩高 2.6%。MLPerf 成绩由提交方在基准框架内测得并提交,Signal65 分析所依据的是审核后的公开结果;英伟达与 Azure 的数字均属厂商自报口径。
数据中心的另一道约束是电力。英伟达与微软还在基于 NVIDIA MaxLPS 展开能效合作,目标是帮助数据中心从可用电力中获得更多性能。
机密计算走向裸金属与机架级:先验证环境,再释放模型、数据与密钥
NVIDIA Confidential Computing 与 attestation(证明机制)配合,让客户在释放敏感模型、数据或密钥之前先验证计算环境。随着 AI 负载跨越越来越多的互联加速器,两家公司正把这些保护延伸到整个「AI 工厂」基础设施,也就是裸金属服务器与机架级系统。按英伟达博客的表述,这项工作将帮助保护「正在被处理」的敏感模型与数据,面向需要处理专有或受监管信息的机构。公告没有给出这部分工作的落地时间表。
Foundry 接入 Nemotron 3.5 开源模型阵容,EY 的采购记录分类案例
模型层先看 Foundry Managed Compute 上的 Nemotron 3.5 阵容:Super 面向跨编码、研究和业务流程长时间运行的智能体;Lightning 面向需要快速响应和工具调用的应用。外围任务由配套模型分担:Nemotron Embed 与 Rerank 帮助智能体检索相关企业信息,Nemotron Parse 从文档中抽取结构化信息,Nemotron Content Safety 检测有害内容。面向高吞吐、低延迟推理的 Bolt 和语音识别模型 Transcribe「即将推出」。
服务层新增两项能力。serverless Programmed Training 让开发者掌控后训练工作流,底层基础设施由 Foundry 托管,企业只需专注业务数据、评估模型响应并改进模型行为;Foundry Managed Compute 新增自定义模型权重部署,把模型定制与部署接进微软的托管服务。
英伟达博客援引 EY 的案例:EY 用 Programmed Training 适配 Nemotron 开源模型,为企业采购记录做分类,在其评估数据集上精度提升 55%,成本较专有前沿模型下降 15 倍。这组数字出自合作方与厂商的自报结果,博客用它说明开源模型可以针对专门业务任务定制。
从 Azure Local 到 Jetson Thor:推理被推向离数据更近的地方
Foundry Local 对 Nemotron 3.5 的扩展支持,把推理、编码与工具调用智能体的能力带进 Azure Local 环境;随附的检索模型可以在文本、文档图像、图表和表格中查找证据。Azure Local 还将支持来自硬件合作伙伴的 RTX PRO 6000 Blackwell GPU,给本地部署多一个选项;它同时在向 Jetson Thor 和 Jetson Orin 边缘 AI 平台扩展,覆盖机器视觉、机器人与自主运营等工业场景,NVIDIA 的物理 AI 模型 Cosmos 也将进入 Foundry Local。
端侧方面,英伟达与微软将在 Ignite 上用搭载 NVIDIA RTX Spark 的 Windows PC 演示本地大模型体验,展示开发者如何在设备上直接运行 AI 应用。面向使用 Cloud PC 的机构,Direct Stream 能力进入 GPU 加速的 Windows 365 Cloud PC:最多支持两路 4K、60 fps 的图形应用串流,并在较差网络下保持低延迟。限量预览已开放注册,公开预览计划 2027 年初推出,这一时间表属前瞻性表述。
微软自用:Dynamo 承担强化学习 rollout,RTX PRO 6000 Blackwell 加速 Bing
微软自己的模型与服务也在用这些技术。Microsoft AI 在后训练中把强化学习 rollout 推理交给 Dynamo 运行,这一计算密集的环节生成用于改进模型的经验数据;Dynamo 在大规模 GPU 集群间协调推理、优化性能,并管理请求、模型更新与故障恢复。这次部署建立在 Microsoft AI 与英伟达的联合工程之上,Bing 搜索模型则由 RTX PRO 6000 Blackwell GPU 加速服务。
科研侧,NVIDIA BioNemo Agent Toolkit 与 NVIDIA ALCHEMI Toolkit 正进入 Microsoft Discovery 目录,把生命科学、药物发现、材料与化学模型接入微软的智能体科研平台。BioNeMo 让科学家用自然语言驱动计算生物学工作流;首个集成采用英伟达与华盛顿大学蛋白质设计研究所合作开发的 RFD4-Proteina 模型,生成候选蛋白质结构和氨基酸序列,交给后续评估与实验室验证。
参考链接
- NVIDIA and Microsoft Expand Accelerated Computing From Azure to Windows PCs(NVIDIA 官方博客,2026-11-19)
- Microsoft Ignite 2026(Microsoft 新闻站点)
- NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance(NVIDIA 官方博客,2026-11-16)
- Microsoft Azure Leads DeepSeek-R1 Interactive Inference in MLPerf v6.1(Signal65,2026-11-09)