AREX Feed Article
独立研究员 Bojie Li 称复现「Blackwell 权重指纹」:五个模型判定与报告一致,自训小模型对上 GPU 线程数
11 月 13 日 06:51(UTC),独立研究员 Bojie Li(@bojie_li)在 X 上称,已独立复现 Will Depue 的 checkpoint forensics(权重取证)方法,得出与报告一致的硬件判定:DeepSeek V4-Flash 与 MiniMax-M3 匹配 B200/B300,DeepSeek V4 Pro 与 Kimi K3/K3.1-Pro 匹配 GB200/GB300,「跟文中的结论相符」。他还在自己分别用 RTX Pro 6000 和 H200 预训练的小模型上测出 288,768 和 270,336 个线程的初始化条带,与两块卡各自的线程总数精确对应,并恢复了 DeepSeek 与 Kimi K3 的训练种子。截至发稿,这条帖子获得 260 余个点赞、超过 2.6 万次浏览。在 Depue 原帖发布约九个半小时后,这是第一个公开署名的独立复现声明。
被复现的研究出自 Will Depue(其 X 资料标注 prev @ openai,即曾任职 OpenAI),他于 11 月 12 日 21:29(UTC)连同一起:声称 DeepSeek、月之暗面(Moonshot AI)、MiniMax 与蚂蚁集团自 2026 年 4 月起发布的六个新模型——DeepSeek-V4-Flash、DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro、MiniMax-M3、Ling-3.1-flash——初始化于受对华出口管制的 NVIDIA Blackwell 系统。在约 6 万亿个「种子 × 芯片布局」组合的搜索里,巧合匹配的基准约为 8 sigma(标准差,衡量结果高出随机水平的程度),六个模型的最强证据达 49~1,385 sigma;他称已在 B300 上逐位复现 DeepSeek-V4-Flash 的初始权重、在租用的 GB200 上以 0.999995 的相关性复现 Kimi K3,并称结果获得 OpenAI 与 Anthropic 资深研究员独立验证。报告同时写明:这些指纹「支持但不证明」Blackwell 参与了训练,也确定不了芯片所在位置、获取方式或是否违反出口管制。目前原帖已获 3.6 万个点赞、超过 530 万次浏览。
复现声明覆盖五个模型,判定与报告逐项一致
Bojie Li 的 X 资料标注为 Independent Researcher(独立研究员),方向是 Interactive Agent Systems(交互式 Agent 系统),粉丝约 1.58 万。他帖子里的五个判定,与逐项对应:报告判定 DeepSeek-V4-Flash 与 MiniMax-M3 匹配 148 个 SM(streaming multiprocessor,流式多处理器)的 B200/B300 布局,DeepSeek-V4-Pro、Kimi K3、Kimi K3.1-Pro 与蚂蚁 Ling-3.1-flash 匹配 152 个 SM 的 GB200/GB300 布局。他的复现覆盖其中五个模型,未提及 Ling-3.1-flash。他恢复的种子数值也与报告公布的一致:DeepSeek 在 V3 与 V4-Flash 中共用种子 953049583,Kimi K3 的种子为 20256586。
图:Unemployment Labs 报告 Figure 6。DeepSeek-V3、DeepSeek-V4-Flash 与 Kimi K3 的已发布权重分别只在 132、148、152 个 SM 的候选布局上出现接近 1.0 的相关峰,其余布局接近零——Bojie Li 称其独立复现得到了同样的判定。(图片来源:)
13 日 00:04(UTC),Depue 曾承认「有一小部分人私下验证了我的工作,但很合理地,多数人不想在此时具名」,并征集有深度 ML 经验的志愿者「深入验证我的结果并成为相关信源」。Bojie Li 的帖子把这类验证放到了公开署名的位置,不过它目前仍是研究者自述:帖子正文未附脚本或数据,第三方审计也尚未出现。
条带宽度即线程数:把「SM 数」细化成「每 GPU 线程数」
Bojie Li 把方法机理概括为「条带化」:预训练开始时随机初始化权重,GPU 用大量并行线程完成这项工作,每个线程用一个随机数生成器顺序生成初始权重,因此整个初始权重矩阵是条带化的,条带宽度就是 GPU 的线程数量——H200 有 270,336 个线程,B200 有 303,104 个线程,不同代 GPU 的线程数不同。报告对机理的描述一致:PyTorch 通过 cuRAND(NVIDIA 的随机数生成库)把 Philox 伪随机数生成任务分给 GPU 上的并行线程,所查的 NVIDIA 芯片中,H100 SXM、H200 与 H800 同为 132 个 SM、270,336 线程,B200/B300 为 148 个 SM、303,104 线程,GB200/GB300 为 152 个 SM、311,296 线程。
他同时给报告的口径做了一处修正:报告主要按 SM 数计,因为多数 NVIDIA 数据中心 GPU 每 SM 有 2,048 个线程,SM 数乘以 2,048 就是线程总数,「但消费级的卡很多不是这样,更准确的说法是直接用每 GPU 的线程数」。他的自测正是落在这个口径上:用 RTX Pro 6000 预训练的小模型显示 288,768 个线程,用 H200 预训练的小模型显示 270,336 个线程,「都是精确匹配的」,并称「后训练目前看来不会影响」。
至于「训练之后权重不就改变了吗」的疑问,Bojie Li 给出两层解释:一部分在训练中从未被触碰的 token 权重保持初始状态,构成「最强的证据」,据此甚至能恢复原始种子;被训练过的权重是在初始值之上微调的,大多数初始权重的相对大小顺序仍然保留。这与报告的图示吻合:报告 Figure 4 展示 DeepSeek-V3 的保留权重落在 Hopper 布局的对角线上、V4-Flash 落在 Blackwell 布局的对角线上;Figure 5 则显示被训练过的权重里,初始值大小的顺序仍有微弱残留。
图:Unemployment Labs 报告 Figure 4。用报告公布的种子重生成初始值后,DeepSeek-V3 只与 Hopper 布局相关(r = 1.0000),DeepSeek-V4-Flash 只与 Blackwell 布局相关。(图片来源:)
指纹能证明什么、不能证明什么
即便复现成立,它能证明的边界与报告自我声明的相同。报告写明,该方法识别的是「生成初始权重的硬件」,而不是训练用的每一块芯片:实验室可以在一套系统上生成权重、再搬到另一套系统上训练,也可以在混合集群里训练,权重本身排除不了这些可能;指纹同样不能区分同代芯片——H100 SXM、H200 与 H800 共享同一指纹,B200 与 B300 共享同一指纹。芯片所在位置、获取方式、是否违反出口管制,报告明确表示无法确定。报告还检验了 AMD 替代解释:一块 MI300X 可被配置成 148 或 152 个计算单元、复现 Blackwell 布局;但数值差异检验显示,DeepSeek-V4-Flash 的 377 个差异值中 363 个与 NVIDIA 的结果一致、0 个与 AMD 一致,对其余五个模型,报告只判断 AMD 解释「极不可能」。
复现声明发布后,报告涉及的实验室截至发稿未公开回应。
V4.1-Flash 仍未定性,昇腾测试在途
这份复现没有触及报告自己留下的一个未解项——DeepSeek-V4.1-Flash。Depue 在 13 日 05:44(UTC)的里说明:约 43 亿个种子对 16~512 个处理器的每一种布局、用原生 PyTorch 跑了逾 6 万亿次组合,DeepSeek-V4.1-Flash 均为零匹配,对 OpenAI 的 gpt-oss-120b 与 Grok-1 也没有匹配;他把零匹配读作方法不出假阳性的佐证——V4-Flash 在同款搜索里以单一种子、单一布局命中 1,385 sigma——但明言「不能说 V4.1-Flash 是 Blackwell,也不能说它不是 NVIDIA」。他的下一步是测试华为昇腾(Huawei Ascend)的随机数生成器,截至发稿尚未发布结果。
核验路径目前是公开的:报告方已公开,同款比较无需 GPU 也能运行。
参考链接
- Bojie Li 在 X 的复现声明:
- Unemployment Labs 报告《Top Chinese Frontier AI Models Carry the Fingerprint of Export-Controlled NVIDIA Blackwell GPUs》:
- Will Depue 发布报告的帖文:
- Will Depue 征集具名验证者的帖文:
- Will Depue 关于 DeepSeek-V4.1-Flash 的澄清帖文:
- 报告公开代码仓库:
- 报告插图 Figure 6:
- 报告插图 Figure 4: