AREX Viewpoint Article
垂直整合、横向开放:CUDA如何撑起AI工厂
导读
2026年7月26日,NVIDIA 宣布扩展 NVIDIA Agent Toolkit,将 NVIDIA PhysicsNeMo 与 CUDA-X 库纳入其中,目标是让软件开发者构建具备 AI 物理技能和加速求解器的自主 AI 工程师。这一宣布并不只是产品列表的延长,它把 CUDA-X 库从“开发者库”正式推到“智能体技能”的位置上,也让此后发布的《AI Factory Insider》第 5 集对垂直整合与横向开放的讨论有了具体的技术落点。
为什么这个转变值得现在关注?NVIDIA 官方文档将 agent skills 定义为“可移植指令集”,能够教会 AI 智能体如何使用 CUDA-X 库和 AI Blueprints;NVIDIA 在 GitHub 上的 skills 项目同样说明,技能是让智能体最优使用 NVIDIA 软件的可移植指令。这意味着企业采用 CUDA-X 的价值不再只是让人类开发者少写代码,而是要让智能体自动发现、选择并组合这些库。当前 Agent Toolkit 的扩展正是这种消费方式变化的直接信号。
然而,宣布之外仍有一个关键问题:为什么 CUDA-X 库能够被包装成技能?本期视频给出了更细致的回答。Stephen Jones 把“横向开放”解释为合作伙伴、ISV 和整个生态系统的参与,最终让企业可以用自己的数据和工作负载;垂直整合则负责底层极致协同设计、性能优化和 ROI。视频把两者放在同一个企业 AI 工厂逻辑中,而不是当作对立选项。这一框架解释了 Agent Toolkit 扩展为什么不是把封闭平台强推给开发者:技能化的前提是先有一个经过深度优化、又能通过开放接口被调用的底层栈。
视频进一步说明,这种可被智能体调用的能力不是单点工具,而是分层、可组合、可复用的平台栈。cuDNN 依赖 cuBLAS,cuBLAS 又依赖 CUTLASS;多年的优化被沉淀为可复用 IP,企业不必重复造轮子。正因如此,每一个 CUDA-X 库才可能被暴露为智能体技能:智能体处理 pandas 数据管道时,可以自动找到并调用数据加速库。这一步把“库”从静态代码资产变成智能体执行任务时的可发现能力。
视频最大的增量在于把开发者的位置也讲清楚了。嘉宾说智能体和招聘新同事差不多:有上下文、会推理、需要工具和技能才能真正产生生产力。CUDA-X 库作为技能被智能体调用后,开发者不再需要亲自写每一行代码,而是变成引导和管理智能体的人。Stephen Jones 称自己因此能做到比以前多三倍的工作,是一种“力量倍增器”。这与 NVIDIA 扩展 Agent Toolkit、让开发者构建“自主 AI 工程师”的目标形成互证:库的技能化不是取代人类,而是把人从重复编码中释放出来。
因此,回看 7 月 26 日的扩展,它真正的意义不只是新增 PhysicsNeMo 或求解器,而是宣布 CUDA-X 库将以技能形态进入智能体工作流。对整个企业 AI 工厂而言,未来需要评估的不只是买多少 GPU 或上多少库,而是自己的技术栈能否把 CUDA-X 库作为技能暴露给智能体、开发者是否具备管理智能体的能力。本期视频恰好把这套“垂直整合、横向开放”的底层逻辑和智能体技能化的新范式连在了一起,为理解 NVIDIA Agent Toolkit 的下一步提供了判断标准。
核心结论
- 垂直整合与横向开放共同构成企业 AI 工厂的完整逻辑,而非对立选项:底层硬件与软件的深度优化负责性能和投资回报,上层通过合作伙伴、ISV 和开源生态保持开放,让企业用自己的数据和负载获得灵活性,避免被单一封闭方案锁死。
- CUDA 的真正护城河不是单一工具,而是可分层、可组合、可复用的深度平台栈:从框架到底层硬件控制器的分层设计,加上 cuDNN、cuBLAS、CUTLASS 等库之间的层层依赖,使 AI 能力可以无缝接入过去二十年的经典计算积累,也让企业不必从零开始构建。
- CUDA 的“开放”不等于开源或厂商中立,而是免费可用、可商用、遵循开放标准并支持开源生态:开发者无需许可即可使用 CUDA 并构建完全属于自己的 IP 和业务,同时 CUDA 遵循 C++ 等开放标准,部分库和模型开源,并与 PyTorch 等社区双向贡献代码。开放不等于必须运行在所有厂商硬件上。
- 软硬件协同设计让软件进步可以回溯到旧硬件,延长 GPU 投资的生命周期:CUDA 架构师与硬件团队长期协同演进,使 Tensor Cores 等硬件创新能通过软件快速暴露给用户,同时软件优化尽可能支持 Ampere、Turing 等旧架构,客户不必每次硬件迭代都重新投资。
- AI 智能体正在把 CUDA-X 库从开发者工具变成可被智能体调用的技能,开发者角色转向智能体管理者:智能体像新同事一样需要工具和技能才能高效工作,CUDA-X 库被暴露为智能体技能后,智能体可以自动发现、选择和组合合适的库。开发者从亲自编码转向管理和引导智能体,获得数倍生产力提升。
观点拆解
1. 垂直整合与横向开放并不矛盾,而是让企业用自己的数据和负载获得灵活性的关键
-
横向开放的本质是把选择权交给企业:用自己的数据、自己的负载,而不是被封闭方案锁死:Stephen Jones 将“横向开放”具体解释为合作伙伴、ISV 和整个生态系统的参与,其最终落点是让企业能够使用自己的数据和自己的工作负载。这说明开放不是抽象口号,而是企业避免被单一供应商绑定、保持灵活性的现实条件。
“但横向开放就像我们所有的合作伙伴、所有的 ISV、我们的生态系统,正如你提到的。最终,它是我们企业组织中的所有合作伙伴,对吧?因为这给了他们使用自己的数据、自己的工作负载的灵活性。”
-
垂直整合与横向开放共同构成企业 AI 工厂的完整逻辑:底层极致优化,上层开放选择:Kaushik Shirhatti 在总结时指出,理解垂直整合的实际含义,以及横向开放在整个技术栈和工作负载层面打开选择空间,是企业 AI 工厂的关键。这直接支撑了“垂直整合与横向开放并不矛盾”的核心观点:前者负责性能和 ROI,后者负责灵活性和生态参与。
“因此,理解垂直整合的重要性,它在实践中究竟意味着什么,以及横向开放——它在整个技术栈、整个工作负载层面打开选择。这是你的数据。这是你的工作负载。这是你的库。其中一些库是由生态系统构建的。这变得非常非常重要。极致的协同设计、性能优化、ROI。”
-
一套工具能服务多个行业,正是垂直整合与横向开放结合后产生的规模化价值:Stephen Jones 强调,单一工具集具有广泛适用性,同一套 AI 能力可以用于药物发现、金融、游戏等不同领域。这解释了为什么在底层做深度垂直整合的同时,上层仍能保持横向开放:核心能力被高度优化后,反而能以更通用的方式赋能多样化的行业场景。
“真正神奇的地方在于,一套单一的工具集竟然有如此广泛的适用性。这一点在具有涌现行为的 AI 上尤其明显:你可以在互联网上用英语训练一个模型,而它可以用于药物发现、用于金融、用于游戏,用于各种各样的事情。”
2. CUDA 的“开放”不等于开源或厂商中立,而是免费可用、可商用、遵循开放标准并支持开源生态
-
CUDA 的“开放”首先指免费可用、无需许可,并允许开发者在其上构建完全属于自己的 IP 和业务:Pradeep Gupta 直接回应了“CUDA 是否开放”的常见质疑,澄清开放不等于开源,也不等于厂商中立。核心在于开发者可以自由获取和使用 CUDA,无需向 NVIDIA 申请许可,而且在其上构建的业务和知识产权完全归开发者所有,这构成了 CUDA 开放性的基础定义。
“开放并不意味着它是开源的,开放也不意味着它是厂商中立的。当我说开放,意思是它是免费可用的,你可以直接拿去使用,无需向 NVIDIA 申请任何许可。更有意思的是,如果你在其上构建一门生意,那完全是你的知识产权和你的业务,你不需要为此与 NVIDIA 做任何交易。”
-
CUDA 的开放性还体现在遵循 C++ 等开放标准,并将大量 CUDA-X 库、模型和数据集开源:Pradeep Gupta 进一步说明,CUDA 在技术层面遵循 C++ 等开放标准,同时许多 CUDA-X 库已经开源,NVIDIA 的 Nemotron 模型和数据集也是开放的。这表明 CUDA 的开放不仅停留在使用许可层面,也体现在对开放标准和开源生态的实际投入上。
“我们尽可能、按需遵循每一项开放标准。例如,C++ 有开放标准,所以我们遵循所有这些标准,作为我们所说的开放 CUDA 的一部分。最后一点,我们仍然有大量的开源。我们的许多 CUDA-X 库今天就是开源的。甚至我们的 Nemotron 模型也是开源的,我们的数据集也是开放的。”
-
开放不等于必须运行在所有厂商硬件上,NVIDIA 通过双向开源贡献与社区共建互操作性:Pradeep Gupta 明确否定了“开放等于跨厂商硬件运行”的理解,Stephen Jones 则补充了 NVIDIA 与开源社区的双向协作:NVIDIA 向 PyTorch 等框架提交大量代码,Meta 等社区成员也向 NVIDIA 库贡献代码。这种交叉贡献和共同基线建设,才是 NVIDIA 所强调的开放生态含义。
“所以请这样理解:开放并不意味着它必须运行在每一家厂商的硬件上。开放意味着它是免费可用的,你可以在其上构建你的业务。”
“我们与许多开源项目紧密合作。我们向 PyTorch 提交了大量代码,也向不同的框架提交了大量代码。同样,来自 PyTorch 的 Meta 也向我们的一些库提交内容。所以这确实是一个有着大量来回交流和交叉滋养的社区。”
3. CUDA 的真正价值不是单一工具,而是一个可分层、可组合、可复用的深度平台栈
-
CUDA 的本质不是单一工具,而是连接应用与 GPU 的深度分层平台栈:Stephen Jones 指出,CUDA 的真正秘密在于它并非一个孤立组件,而是由多个层次构成的深度平台栈:从顶层的框架一直延伸到底层的硬件控制器。开发者可以按需取用其中某些部分,同时依赖其他部分协同工作,这种分层设计使 CUDA 成为所有 GPU 加速计算必经的通道。
“从某种意义上说,CUDA 的秘密就在于它不是一个东西,而是很多很多东西,是所有这些不同的层次。”
“它是一个深度平台栈,从顶层的框架一直延伸到底层的硬件控制器。但神奇之处在于,无论你以何种方式接触它,CUDA 都是把你带到底层 GPU 硬件的那个东西。”
-
分层架构让开发者可以复用通用核心,只在必要时才进行专业化:软件应当始终被视为分层结构:在被迫进行专业化之前,尽可能构建在通用核心之上。不同行业的 GPU 加速应用几乎都会使用 cuDNN、cuBLAS 等核心库及其底层组件,这种共享基础避免了重复造轮子,让开发者能够把精力集中在自己的专长和创新点上。
“你必须始终把软件看作层次结构。软件架构的方式是:你构建在通用核心之上,直到你绝对被迫进行专业化。”
“虽然我们有大量不同的行业都在做 GPU 加速,但几乎每一个行业都会使用核心的 cuDNN 或 cuBLAS 库以及底层的核心组件。”
“在任何工作中,你想要的是专注于你能带来特殊技能和创新的地方,而不必重新发明轮子,不必重新实现已有的东西。CUDA 各组件之间的互操作性正是让你能够做到这一点的关键。”
4. CUDA 库之间层层依赖、相互增强,使 AI 能力可以无缝接入过去二十年的经典计算积累
-
CUDA 库之间层层依赖,形成可组合的计算栈:Stephen Jones 指出,NVIDIA 自身的库之间存在明确的依赖关系:cuDNN 依赖 cuBLAS,cuBLAS 又依赖 CUTLASS。这种层层叠加的结构意味着上层 AI 能力不是孤立存在的,而是建立在经过长期优化的底层计算组件之上,从而形成高度可组合、可复用的技术栈。
“NVIDIA 自己的库也依赖其他库,对吧?所以 cuDNN 库——它是 AI 的核心库——依赖 cuBLAS,这是一个线性代数库,而 cuBLAS 又依赖 CUTLASS,这是一个面向 Tensor Core 的库,以此类推。”
-
AI 革命到来后,新的 AI 库可以直接接入过去二十年的经典计算积累:Stephen Jones 强调,在 AI 革命之前,GPU 加速已经深入科学计算、医疗设备和金融等领域,人们在这些领域积累了大量的经典计算机制。当 AI 革命到来时,新的 AI 库和组件能够直接接入这些已有的计算基础,让用户用全新的技术能力增强原有的工作,而不是推倒重来。
“在 AI 革命到来之前,GPU 加速已经进入科学计算、医疗设备、金融等各个领域。当 AI 革命出现时,AI 库和 AI 组件正在接入人们过去二十年建立起来的经典计算机制。”
“这种互操作性意味着你会看到人们突然用一个全新的学科来增强他们原本在做的事情。而这一切都在连接在一起。”
5. CUDA-X 库是经过长期优化的可复用 IP,让企业把精力集中在自身创新而非重复造轮子
-
CUDA-X 库是多年技术经验与数据模式沉淀下来的可复用 IP:Pradeep Gupta 指出,CUDA-X 库的本质是把多年观察到的数据模式、技术经验和优化成果封装成可复用的软件资产,并针对 NVIDIA 架构持续调优。这意味着企业不需要从零开始摸索底层性能优化,而是可以直接站在已经验证过的技术基础上起步。
“理解 CUDA-X 库的一个非常简单的方式是:它们是可复用的 IP 或技术,包含我们多年来观察到的大量经验与数据模式,我们确保这些软件针对我们的架构进行了良好的调优和优化,并且我们承诺会长期支持。”
-
CUDA-X 库让企业避免重复造轮子,直接复用成熟能力以节省时间:Stephen Jones 用汽车和轮子的比喻说明,CUDA-X 库是 CUDA 生态中已经造好的关键部件,开发者不需要重新发明已经存在且能直接满足需求的库。这个判断把库的实用价值讲得很清楚:复用成熟能力就是节省开发时间。
“我把 CUDA 想象成一辆完整的汽车,它是一台完整的机器,而库就是车轮——没有车轮,没人能用这辆车。但你也不会去重新发明车轮。如果有一个库能满足你的需求,那它就是在帮你节省时间。”
-
企业可以从 CUDA-X 库中找到起点,把资源集中在自身差异化创新上:Stephen Jones 进一步说明,CUDA 生态中已经有数百个库,企业几乎一定能找到与自己开发领域相关的起点。库的价值不只是提供现成功能,更在于让企业把时间、精力和开发资源从重复劳动中释放出来,集中投入到真正属于自己的创新上。
“目前已经有数百个库构成了整个 CUDA 生态系统,几乎肯定会有一些东西能帮助你在需要开发的领域起步。库给你一个起点,让你把精力、时间和开发资源集中在自己的创新上,同时利用已经完成的工作。”
“你会去寻找什么与自己相关,什么可以直接使用,什么可以扩展和增强,然后从那里出发。”
6. NVIDIA 的软硬件协同设计让软件进步可以回溯到旧硬件,延长 GPU 投资的生命周期
-
软硬件协同设计是 NVIDIA 的长期路线图,而非单点优化:Stephen Jones 作为 CUDA 架构师,有一半时间与硬件团队合作,说明 NVIDIA 的竞争力来自硬件与软件在多年周期内共同演进。这种紧密耦合使硬件创新(如 Tensor Cores)能通过软件快速暴露给用户,也让软件需求能反向驱动硬件设计。
“我在软件部门担任 CUDA 架构师之一,但我足足有一半时间是在与硬件团队合作。”
“他们发明了像 Tensor Cores 这样的东西,然后说,我们如何调整软件来暴露它,让所有用户都能使用?所以存在这种非常紧密的耦合,以及跨越多年演进的长期路线图,硬件和软件共同进化。”
-
软件进步可以回溯到旧硬件,延长 GPU 投资的生命周期:由于软硬件是设计好的协同演进,CUDA 的软件改进在多数情况下可以应用到旧架构上。NVIDIA 仍然支持 Ampere 和 Turing 架构,并尽可能将新功能发布到更早的 GPU 上,这意味着客户不必每次硬件迭代都重新投资,也能获得软件层面的持续提升。
“因为有了这种设计好的演进,意味着随着软件进步,在很多情况下——如果不是大多数情况下——我们实际上可以把软件进步应用到更旧的硬件上。”
“我们仍然支持 Ampere,也支持 Turing 架构。任何我们在 CUDA 中构建并可以发布的东西,我们都会尽可能发布到更早的架构上,让每一块 GPU 都能获得进步。”
7. AI 智能体正在把 CUDA-X 库从“开发者工具”变成“可被智能体调用的技能”,改变软件开发方式
-
智能体像新同事一样需要工具和技能,才能从“会思考”走向“能干活”:嘉宾指出,智能体的工作方式与人类同事高度相似:它需要上下文、观察、推理和行动,并且会犯错、会迭代。但仅有这些还不够,真正让智能体产生生产力的是它能否调用具体工具和技能,例如读取表格、发送消息或提取信息。这一判断把智能体从抽象概念拉回到可执行的工作单元,是理解后续“库变成技能”的前提。
“简单来说,智能体和招聘一位新同事并没有太大不同。”
“为了让智能体具备生产力,你必须能够调用某些工具、某些技能。可能是 Excel 表格,可能是 Slack 消息,可能是 PowerPoint,用来提取信息、做出决策、采取行动。”
-
CUDA-X 库正在从“开发者库”转变为“智能体技能”,让可复用能力被自动发现和调用:嘉宾明确提出,过去人们把可复用能力封装为库,而现在更重要的是把这些库暴露为智能体技能。每一个 CUDA-X 库都可以作为技能被智能体调用,例如处理 pandas 数据管道时,智能体可以自动找到并调用数据加速库。这意味着软件能力的消费方式正在从“人去找库”转向“智能体去找技能”。
“我们过去把库看作一种方式,但现在如何把这些库暴露为技能,我认为这正在以非常高效的方式推动可复用 IP 的使用。”
“可以这样想:每一个 CUDA-X 库都将作为一个技能可用。比如你正在处理一个 pandas 管道,做大量数据处理,那个负责这项工作的智能体就可以被暴露给一个技能,也就是我们的数据处理库,从而高效地完成工作。”
“就像文档是给人类看的一样,技能就是给智能体用的。通过为 CUDA-X 宇宙的每一个方面提供技能,智能体就能找到并识别出它们正在做的每项工作的正确工具。”
-
开发者从“亲自编码”转向“管理智能体”,成为智能体管理者并获得数倍生产力提升:嘉宾认为,智能体不只是工具,而是像团队一样需要被引导和管理的协作者。开发者不再需要亲自写每一行代码,而是通过引导智能体来构建应用。Stephen Jones 以自身经历说明,这种模式让他能做比以前多三倍的工作,是一种“力量倍增器”。Pradeep Gupta 进一步总结,每个人都将成为“智能体管理者”,而深度领域知识仍然是把技能编码给智能体的关键。
“你的智能体就是你的团队。它们非常高效,而你负责领导和引导你的智能体去完成编码工作。”
“我能做到比以前多三倍的事情。在 NVIDIA 的工作中,我以前从来没有足够的时间去写我想写的代码,现在我真的可以完成那些我一直想完成的事情。这真的是一种力量倍增器。”
“我们每个人都不需要成为人员管理者才能成为管理者。我们都将成为智能体管理者,而且我们今天就已经是智能体管理者了。”
“不是 AI 或人类二选一。人类与 AI 结合将成为最具生产力、最具影响力的群体。”
8. 一套通用 AI 平台之所以能覆盖多个行业,是因为底层技术和横向工作流可以跨行业复用
-
一套工具之所以能横跨药物发现、金融、游戏等行业,核心在于 AI 的涌现能力让通用模型获得广泛适用性:Stephen Jones 指出,真正令人惊讶的不是某个行业专用方案,而是同一套工具可以在完全不同的领域被反复使用。AI 的涌现行为意味着,一个在互联网英语文本上训练的模型,能够迁移到药物发现、金融、游戏等场景,这构成了单一平台覆盖多个垂直行业的技术基础。
“真正的魔力在于,一套工具竟然拥有如此广泛的适用性。这一点在具有涌现行为的 AI 上尤其明显:你可以在互联网英语文本上训练一个模型,而它可以被用于药物发现、金融、游戏以及各种不同的事情。”
“作为工程师,最棒的事情之一就是你构建的东西被用在你从未想象过的方式中。这种情况一直在发生,因为它最终被证明是一个如此通用的工具。”
-
跨行业复用的不只是底层算力,客户服务等横向工作流同样可以迁移,只需替换知识库或数据:嘉宾以客户服务为例说明,无论是电信还是医疗行业,客户服务的流程基本相同,差异主要在于知识库或数据库。这意味着在一个垂直行业中使用过的大量技术组件,可以直接迁移到另一个行业,从而大幅降低平台扩展的边际成本。
“你可以这样理解:存在许多横向相同的能力,是将这个平台从一个行业垂直领域迁移到另一个行业垂直领域时所需要掌握的。”
“以客户服务问题为例。无论是电信行业的客户服务,还是医疗行业的客户服务,当然会有不同的知识库或数据库与之对应,但共同的流程几乎是一样的。所以你在一个垂直领域中使用过的大量技术组件,可以直接拿过去使用。”
“所以可以这样想:存在一种更偏横向技术的层面,同时也存在一些横向工作流,这些工作流可以根据你特定的行业垂直领域进行微调。这就是你理解如何将这个平台迁移到不同行业的方式。”
-
横向技术加横向工作流的复用逻辑,是 NVIDIA 及其合作伙伴能够覆盖百万亿美元级行业市场的根本原因:嘉宾明确将平台的跨行业覆盖能力与市场规模联系起来,指出 NVIDIA 及其合作伙伴之所以能够服务当今价值百万亿美元的行业需求,正是因为底层技术和横向工作流可以在不同垂直领域中被重复使用和微调。这一判断将技术复用逻辑直接转化为商业价值的论证。
“我认为我们非常公开地谈论过,这个由 NVIDIA 及其合作伙伴共同构建的平台,实际上能够满足当今价值百万亿美元的行业需求。而这正是我们能够做到这一点的原因。”
总结
CUDA 生态的真正壁垒不在于某个单一工具或封闭策略,而在于一个经过长期软硬件协同设计、层层依赖且可复用的深度平台栈。它的开放逻辑是让企业用自己的数据和负载获得灵活性,同时通过库的复用避免重复造轮子。当 AI 智能体开始把这些库当作技能来调用时,开发范式将从“人找工具”转向“智能体找技能”,开发者则从编码者转变为智能体管理者。理解这一转变,比争论开放与否更能把握企业 AI 工厂的未来走向。
信息源
视频来源
- Vertically Integrated, Horizontally Open | AI Factory Insider Ep 5:
外部资料
- NVIDIA Expands NVIDIA Agent Toolkit With ...:
- NVIDIA-Verified Agent Skills:
- Agent Skills for NVIDIA products — install into Claude ...: