Hugging Face 自建 CDN 承载 AI 下载:Thomas Wolf 称月传输近 1 exabyte,缓存按巨型对象适配
北京时间 11 月 21 日凌晨(11 月 20 日 18:55 UTC),Hugging Face 联合创始人 Thomas Wolf 在 X 上宣布,公司自今年夏天起运行一套自建的 CDN(内容分发网络),用于承载 AI 下载。按他给出的数字,这套系统每月传输近 1 exabyte(EB,约 10 亿 GB)的数据,相当于每秒约 420 GB,经由每秒 80,000 个请求完成。约 5 小时前,联合创始人兼 CTO Julien Chaumond 已先行发帖,给出同一量级的说法:「我们每月通过互联网提供的开源模型与数据集接近 1 exabyte。到了这个规模,我们不得不为 AI 下载自建 CDN。」
Wolf 把自建的理由归结为一个被打破的前提:CDN 是为「向许多人分发许多小文件」设计的,而 AI 下载是少数巨型文件,且相当一部分拉取者是机器。与两条帖文一同公开的还有一张实时流量地图,Wolf 评价它「很难不盯着看——相当让人着迷」。
很大一部分「用户」是云区域里的 GPU 集群
Wolf 在帖文开头写道:「AI 下载打破了常规的 CDN 模型。」他解释说,CDN 的原始设定,是向数百个城市里的许多用户分发许多小的网页对象;AI 下载的形态完全不同——文件只有少数几个,单个却极大,而且相当一部分拉取者不是人,而是机器。
按他的描述,缓存对象不再靠近散布在数百个城市里的用户:这些「用户」很大一部分是坐在少数几个云区域里的 GPU 集群。
从缓存网页到缓存 1,000 GB 模型
Wolf 用一组对比说明缓存前提的反转:一个被缓存的网页,对 1,000 个访客都有用;一个被缓存的 1,000 GB 模型,受益的客户端远没有那么多——但每一个都要求立即拿到全部。据此,这套自建 CDN 的缓存按巨型对象适配,要能处理模型发布日的巨型洪峰(mega-floods),以及多个巨型数据集与热门模型同时被拉取的局面。
实时地图上的接入点:全部标注为 AWS 或 GCP 云区域
这张地图托管在 Hugging Face 的 hf.space 域名下,页面标题为「Hugging Face CDN, live traffic」,页面描述写明其用途:「Hugging Face CDN 的实时流量:模型与数据集此刻正流向哪里。」Chaumond 在帖文里把地图归功于「@hugoch 和团队」;Hugo Larcher 的 X 资料显示,他是 Hugging Face 的机器学习基础设施工程师。
Wolf 与 Chaumond 帖文附带视频的两帧画面各列出 9 个「接入点」(points of presence)条目,全部标注为 AWS 或 GCP 的云区域:AWS 的北弗吉尼亚(us-east-1)、巴黎(eu-west-3)、俄勒冈(us-west-2)与新加坡(ap-southeast-1),以及 GCP 的爱荷华(us-central1)、内华达(us-west4)、南卡罗来纳(us-east1)、新加坡(asia-southeast1)与荷兰(europe-west4)。在标注 Live 17:52 UTC 的一帧里,北弗吉尼亚节点以 1.13 Tbps 居首,巴黎 811 Gbps、俄勒冈 768 Gbps、新加坡 723 Gbps 依次排在其后。
画面左下角的总量数字与帖文口径一致:17:52 UTC 一帧显示「Delivering right now」(当前即时带宽)3.70 Tbps,过去 24 小时累计 36.3 PB,每秒 78,216 个请求,缓存命中率 70.1%;标注 Live 17:38 UTC 的另一帧显示 3.36 Tbps、35.9 PB、68,458 个请求与 78.9%。36.3 PB 按 24 小时折算约为每秒 420 GB,与 Wolf 给出的每秒数字一致;78,216 也与他所称的每秒 80,000 个请求处于同一量级。这些仍是地图自报的数字。
「当前最热门下载」列表还展示了多个对象同时被拉取的实例:17:52 UTC 一帧里,Comfy-Org/MiniMax-H3 以 88 Gbps 居首,moonshotai/Kimi-K3.1-Pro 与 Qwen/Qwen3.8-27B 分别占 59 Gbps 和 32 Gbps;17:38 UTC 一帧里,第三名 XDOF/ABC-130k 旁标注着 dataset(数据集),占 53 Gbps。
关键数字只有公司口径,成本与架构未披露
这轮披露的一手材料,是两位联合创始人的两条帖文、两段附带视频,以及那张实时地图。月传输量、请求速率等关键数字目前都出自公司自述,两条帖文未附独立测量或审计数据,也没有说明这套 CDN 的软件构成与成本,以及它同 Hugging Face 此前对外分发方式的关系。
截至发稿,外界能直接打开核对的,只有那张仍在实时刷新的公开地图。