AREXOpen in interactive Feed

AREX Feed Article

llama.cpp 发布 v1.0.0:Thomas Wolf 称这是“一个库生命中的大时刻”,并转述英伟达内部口信“继续在开放中构建”

November 13, 2026

北京时间 11 月 13 日 18 时 20 分,用于大语言模型推理的 C/C++ 开源库 llama.cpp 在 上线 v1.0.0 正式版,底层张量库 ggml 同步升至 v1.0.0。这个创建于 2023 年 3 月 10 日、目前拥有 134,844 颗星(截至发稿抓取)的,第一次发布 1.0 版本。当天深夜至次日凌晨,Thomas Wolf(X 账号 @Thom_Wolf,简介自署 Hugging Face 联合创始人)连发三帖, llama.cpp 命中 v1.0.0,称 1.0 是“一个库生命中的大时刻”,还回忆了 2019 年 transformers 的 1.0。

Wolf 的帖子没有停在发布本身。“如果开放模型只有一个拥护者,这一周本将是它们的终点。它们拥有数百万建设者,其中包括英伟达内部的许多人——这些人一直在给我们传同样的口信:继续在开放中构建(keep building in the open)。我们会继续(We will.)。”他。口信来自谁、所指何事,帖子均未点名;可以核对的是,就在发帖前一天,黄仁勋辞去总裁、CEO 及董事职务,即日生效。

发布在先,Wolf 的三帖在后:一条近六小时时间线

把时间排开,发布动作全部出自团队,Wolf 的三帖落在其后。v1.0.0 由 CI(持续集成)机器人 github-actions[bot] 于 18 时 20 分发布;22 时 05 分,ggml-org 在 Hugging Face 发出,标题就叫“llama.cpp v1.0.0:本地 AI 生态更坚固的地基”。22 时 17 分,llama.cpp 创建者 Georgi Gerganov :“llama.cpp v1.0.0 is now available(现已可用)”,附上博客链接;截至发稿抓取,这条帖子获得 2,134 个赞、114,088 次浏览。22 时 24 分,Hugging Face 的 补充说,团队“承诺继续覆盖每一个平台、每一个模型”,同时保持平台稳健精炼,服务所有在它上面构建的人。

23 时 58 分起约六分钟内,Wolf 连发三帖。第一条从 2012 年的 AlexNet 讲到黄仁勋对开放模型的押注;第二条是回帖——“大概是终于发布著名的 lama.cpp v1.0.0 的最佳日子”(原文如此,即 llama.cpp),附上 Gerganov 帖子的,落款“Go open-source!(去开源吧!)”;第三条独立成帖:“当一家倒下,另一家崛起。开源永恒的故事。llama.cpp 命中 v1.0.0——这是一个库生命中的大时刻,今天是分享它的好日子(还记得 2019 年 transformers 的 1.0)。”

删掉 35 个弃用函数,破坏性改动从此只在主版本发生

按,v1.0.0 从主头文件 llama.h 中删除了 llama_set_warmup、35 个弃用函数和 defrag_thold 参数,把 NextN/投机解码 API(应用程序接口)从 llama-ext.h 提升进 llama.h;新增 FP8(8 位浮点)键值缓存、可配置 CPU 占比的主机内存 MoE(混合专家)专家缓存和外部 PLE 分片加载;llama-server 加固了 SSRF(服务器端请求伪造)、CORS(跨源资源共享)、DNS 重绑定与 MCP(Model Context Protocol)工具取消等问题的防护,并新增 OpenAI 兼容的 /v1/audio/speech 语音端点;网页界面重构,加入聊天分组和 Markdown 编辑器。模型支持方面,新增 Kimi-K3.1-Pro、Ripple-65B-Preview、xing4_0 三种文本架构,以及 drama-3 TTS(语音合成)、MageVL-Cowork 和 Kimi-K3.1 的视觉能力。

对下游开发者,这次发布的关键部分是版本承诺。写明:今后 llama.cpp 与 ggml 的 API 和 ABI(应用二进制接口)不兼容变更都将体现在主版本号上——破坏公共 C API 的改动跳主版本,向后兼容的新功能跳次版本,纯缺陷修复跳修订号。博客解释了动机:每多一个集成,就多一批依赖库接口的开发者,“灵活但稳定的 API 至关重要”。博客还列出了 Docker、Debian、Homebrew、conda-forge、Winget、XCFramework 等分发渠道,称项目目前支持超过 150 种模型架构变体和主流投机解码方法,测试基础设施获得英伟达、AMD、高通、Arm、IBM 与英特尔的硬件支持。

Wolf 的黄仁勋叙事:AlexNet、400 美元微型机器人与“首个 X 帖子”

Wolf 的第一条帖子是一段回忆。“2012 年,AlexNet 在两块英伟达游戏显卡上完成训练。Jensen 在几乎所有人之前就理解了这意味着什么,并为此押上了整个公司。”他写道。接着说,几周前黄仁勋在一场会议里花了大半时间,和 Wolf 的团队一起钻研他们那台 400 美元的小型开源微型机器人——“为什么发热、哪款芯片的 FLOPs(每秒浮点运算次数)更高、会耗多少瓦”。这段会面出自 Wolf 的单方叙述,目前没有独立佐证;会议的地点、日期与其他在场者,帖子没有提供。

帖子里有一处可以独立核实:Wolf 称黄仁勋“最近的重大押注是开放模型,他在 X 的第一个帖子就是证据”。黄仁勋的首个 X 帖子确实存在——2026 年 7 月 24 日,他分享一封英伟达参与的公开信;据 报道,信由约 25 家公司联署,包括英伟达、微软、Meta、Palantir、IBM、Hugging Face、Andreessen Horowitz 与 Perplexity,发表背景是华盛顿正辩论是否限制 Kimi K3 这类中国开放权重(open weights)模型。黄仁勋当时写道:“开放模型增强安全性与网络安全,加速创新与扩散,并让主权成为可能。世界既需要前沿封闭模型,也需要前沿开放模型。”

并非所有人都接受 Wolf 的讲法。X 用户 Jonathan Sandhu 指出:AlexNet 用的是两块 GTX 580,模型和 GPU 实现由 Krizhevsky、Sutskever 与 Hinton 完成,开放模型同样为英伟达硬件创造需求——“你把一个分布式的工程生态,改写成了某位亿万富翁的个人善举。这是一种庆祝开放的奇怪方式。”

“本周就完了”:黄仁勋辞任次日的开放模型悬念

Wolf 没有点名“本周”与“倒下”者是谁;两者在时间上先后衔接,但帖子没有说明是否相关。他发帖的前一天,英伟达刚经历人事变动:11 月 12 日,黄仁勋辞任,CFO Colette Kress 出任临时 CEO,董事会启动永久继任者遴选,Harvey C. Jones 出任公司首位董事会主席;公司确认将于 11 月 17 日发布 2027 财年第三季度财报。报道,辞职发生在有关其婚外情的爆料之后,其中一段关系涉及一名被指为中国间谍的女性。

开放模型路线会不会随人事变动转向,已有公开担忧。据 整理:TechCrunch 报道称 Kress 对开放模型和 Hugging Face 的立场尚不明朗;AI 研究员 Nathan Lambert 在 X 上写道:“Jensen 不再担任 CEO,对美国的开放模型事业会非常非常糟。”Hugging Face CEO Clément Delangue 则表示,无论发生什么,公司都会继续为开源而战。

这些口信背后是两家公司的深度绑定:2026 年 9 月 3 日,英伟达宣布以约 129.3 亿美元收购 Hugging Face(、),交易仍在接受监管审查、预计明年完成;llama.cpp 团队就设在 Hugging Face,Gerganov 的 X 简介也自署 engineer @huggingface。据 trendingtopics 整理,英伟达自称已在 Hugging Face 发布逾 500 个模型、250 个数据集,并计划五年内向开放模型投入 260 亿美元;黄仁勋曾给出他的理由——约 70% 的已处理 token(词元)跑在开放模型上,80% 的美国初创公司在使用中国开放模型。

从 transformers 的 2019 到 llama.cpp 的 2026

Wolf 在帖子里回忆的 transformers 1.0,GitHub 上有据可查:transformers 仓库的 发布于 2019 年 7 月 16 日,版本说明开头是“改名:欢迎 PyTorch-Transformers”——库刚从 pytorch-pretrained-bert 更名而来,同时加入 XLNet、XLM 等新模型和统一的模型与分词器 API。七年之后,他把这样的节点感放到了 llama.cpp 上。

对下游开发者,这次 1.0 的实际分量是承诺:破坏接口的改动必须换主版本号,升级节奏从此可预期。截至发稿抓取,Wolf 宣告里程碑的帖子浏览量为 2,747 次,低于 Gerganov 那条“现已可用”的帖子,公告的主声量来自构建这个库的团队。留下的问题是英伟达自身的路线:对开放模型和 Hugging Face 的收购,临时 CEO Kress 至今没有公开表态;交易仍压在监管审查里,11 月 17 日的季度财报发布会将是辞任后管理层第一次公开亮相。

参考链接