AREXOpen in interactive Feed

AREX Feed Article

NVIDIA 称 OpenAI 的 GPT-6 Astra Ultrafast 运行在 Blackwell GPU 上,并将最高 8 倍提速归因于此

October 2, 2026

北京时间 10 月 2 日早晨,NVIDIA 官方 X 账号发出一条简短帖文:「最高 8 倍提速,现在你知道为什么了:@openai 的 GPT-6 Astra Ultrafast 运行在 NVIDIA 上。」()帖文里的「Read the story」链接,指向 NVIDIA 同日发布的《How NVIDIA GPUs Help Accelerate OpenAI's GPT-6 Astra Ultrafast》。

博客给出了更具体的说法:GPT-6 Astra Ultrafast 运行在 NVIDIA Blackwell GPU 上,现已在 OpenAI API 以及符合条件的 ChatGPT Work、Codex 用户中可用;NVIDIA 称加速来自「OpenAI 的模型利用 Blackwell 架构能力所做的推理优化」,该档位相对 Astra 的 Standard 模式最高提升 8 倍的 token 生成速度(即模型输出文本的快慢)。硬件、可用范围和加速的缘由,都发布在 NVIDIA 的渠道上。

数字先由 OpenAI 公布,NVIDIA 补上「为什么」

9 月 29 日的 上,OpenAI 把 Ultrafast 介绍为面向速度敏感负载的高端速度档(premium speed tier);其官方 X 账号给出的数字是 Codex 中最高 8 倍 token 生成速度、每秒 300 个 token,API 中最高 6 倍。()

NVIDIA 帖文要回答的则是这些数字的「为什么」:Ultrafast 跑在它的 GPU 上。

OpenAI 用自家模型优化 NVIDIA GPU 上的推理

NVIDIA 博客引述了两名 OpenAI 员工。OpenAI 推理负责人 Philippe Tillet 说:「NVIDIA 在工具与文档上的深度投入,让我们能做出格外擅长为 Blackwell 和 Rubin GPU 编程的模型。Astra 能把这份能力转化为高性能内核(kernel),让 NVIDIA 硬件在延迟、吞吐和成本的整个前沿上都有竞争力。用在 Astra Ultrafast 上,这意味着当 agent(智能体)写代码、调用工具、处理复杂任务时,模型响应更快。」

OpenAI 计算业务首席技术官 Uday Ruddarraju 的说法更直接:「我们用内部模型来优化 NVIDIA GPU 上的推理,NVIDIA 的可编程性帮助我们做出了 Astra Ultrafast 背后的加速。」

博客补充,这项工作不会在部署后停下:模型上线之后,OpenAI 继续用自家模型改进跑在 NVIDIA GPU 上的推理软件;可编程的平台让同一批基础设施在训练、推理与强化学习之间复用,需求变化时可以重新分配算力、提高利用率,而不必为每种负载单独超配。博客还写了这项提速的用处:coding agent 的「编辑—测试—调试」循环会缩短,工具调用之间的生成等待会减少,交互式应用的响应也会更快;在这类循环里,提速会被反复用到。

可用范围:低限速起步、单价与区域限制

OpenAI 的 写明:该档位对 GPT-6 Astra「广泛可用」,对 GPT-5.6 Sol 仍是预览访问;目前以较低限速对所有 API 用户开放,默认限速按账户层级设定,Tier 1~3 为每分钟 500,000 token,Tier 4 为 1,000,000,Tier 5 为 5,000,000,能与 OpenAI 客户团队对接的组织可申请更高限额。频繁调用工具的 agent 应用,文档建议使用 WebSocket(长连接),否则网络开销会削弱延迟收益;区域上,Ultrafast 只支持美国数据驻留与全球处理,不支持 EU 及其他非美区域的处理端点。

OpenAI 的 Ultrafast 档下,gpt-6-astra 短上下文为每百万 token 输入 $60、输出 $300,是标准档(输入 $10、输出 $50)的 6 倍。在 ChatGPT Work 和 Codex 中使用 Ultrafast 的入口,则是 OpenAI 新推出的 Pro 500 订阅:25 倍于 Plus 的用量上限,并包含 Ultrafast 访问权;OpenAI 9 月 29 日的帖文还预告 GPT-6.1 Sol 的 Ultrafast 即将推出。()

上一次 Ultrafast 的算力方是 Cerebras

Ultrafast 此前就与硬件厂商一起出现过:8 月 13 日,OpenAI 为 GPT-5.6 Sol 时写明,由 Cerebras 提供算力,最高 14 倍于 Standard、每秒最多生成 750 个输出 token,面向选定客户限量预览。这次把 GPT-6 Astra 的 Ultrafast 与 NVIDIA Blackwell 写进同一句话的,是 NVIDIA 帖文所链接的博客。

硬件描述到「Blackwell GPU」为止,API 里可以直接测

NVIDIA 的帖文与博客把硬件描述写到「Blackwell GPU」为止:更细的芯片、规模与双方合作条款,都不在其中。

开发者检验这项提速的通道已经开放:在 API 里把 model 设为 gpt-6-astra、service_tier 设为 ultrafast,就能在自己的负载上直接测。

参考链接