AREX Feed Article
OpenBMB 开源自进化内核优化 agent ForgeKernel，自报 FlashMLA Prefill 在 B200 提速 9.8%
2026 年 10 月 30 日，开源社区 OpenBMB（X 简介称其致力于构建迈向 AGI 的基础模型与系统）在 GitHub 以 Apache-2.0 许可证发布 ——一个自进化 GPU 内核优化 agent（智能体）：从参考内核出发，把每个通过验证的内核提升为下一轮参考，让优化越过已知最好的实现继续走下去。同步公布的还有 ForgeKernel Live（）的收官成绩：在 NVIDIA B200 上，agent 经过约 22 小时自主优化，把 DeepSeek V4.1 FlashMLA Prefill（预填充阶段）的耗时从 518µs 压到 472µs（第 31 版），比密封的 FlashMLA baseline（基线实现）快 9.8%（）。
这次发布分三部分：Live 中优化出的 DeepSeek V4.1 fused sparse attention prefill 内核（融合稀疏注意力实现，CUDA C++，项目方自测为 FlashMLA 的 1.10 倍）、论文中生成的全部 24 个 CuTe DSL（CUTLASS 生态的领域专用语言）内核，覆盖 attention、Gated DeltaNet、Kimi Delta Attention、GEMM（通用矩阵乘法）与卷积，支持 H100/B200，以及 ForgeKernel harness（配套运行框架）本身。仓库 README 同时列出名次：2026 年 10 月登上 NVIDIA SOL-ExecBench 的 FlashInfer-Bench 榜首，并称在华为 CANN-Bench 的 Ascend A3 与 Ascend 950DT 上均为第一。需要说明的是，上述性能数字与名次均为项目方口径或其自行提交的榜单条目；发布讨论中已有评论指出，这些结果还需要第三方在不同 shape 下复现。
ForgeKernel Live：黑盒里的自主优化
发布分两步。北京时间 10 月 30 日 10:43，Yuxuan Li（其 X 账号简介为 AI4AI Lab 首席科学家）宣布 Live 收官并预告开源；11:22，公布完整成绩。Live 页面把这次运行描述为「一个 agent、一个目标、没有目标线、不会停止」的自进化运行。
官方推文写明了约束：FlashMLA 实现全程保持密封，agent 可以运行并计时它的黑盒 CLI（命令行工具），但读不到源码、文档和 profile（性能剖析数据）。Li 的帖文补充，页面上的内核都是 agent 在这个黑盒 CLI 里从零写出的。时间线上，版本 13 在 10 小时内首次超过 baseline，最终版本定格在 1.098×；42 轮迭代共写出 32 个内核版本。
自进化机制：通过的内核就是下一轮参考
ForgeKernel 的起点是参考内核：先运行、计时、profile 它，把观察转成 architecture-first（架构先行）的里程碑课程。最容易做错、事后改动代价最高的决策——内核切分、tile（分块）形状、warp（线程束）角色、寄存器与共享内存预算、驻留与发射顺序——全部在第一个里程碑 M0 里敲定并冻结；后续 M1 到 Mk 只在既定结构内调优，每个里程碑由正确性、性能、机制三道 gate（评审关卡）收口。当测量表明只有换结构才能继续提升时，arch agent 会回过头修改 M0，而不是让后面的里程碑绕着走。
一次运行有嵌套的两个循环。内循环里，coding agent 一次实现一行决策，同一个 GPU job 判正确性、对照参考计时并做 profile，错误即回滚；外循环里，arch agent 在连续无新最优、决策图穷尽或 gate 僵局时重新入场，重新定价可调项、运行 verdict probe、修订课程。三个工件承载全部工作：milestone（里程碑）只含决策与契约、不含实现代码；硬件知识库 hw_kb/ 按 GPU 架构组织，是唯一带代码的工件，条目必须由 GPU probe 认证后入库，再开给后续算子复用；meta_milestone.md 是蒸馏策略。论文术语里，arch agent 是 teacher（教师），coding agent 是 student（学生）。
自进化由 scripts/self_evolve.py 驱动，默认步长 1.05：只要确认的最优内核比参考快出噪声地板（同 job 确认比的离散度，至少 1.5%），就把最佳内核复制为下一代的参考，链条直到硬件给不出更多才停。README 称论文中每个被提升的参考都被再次超过，单代最高 +9.9%。论文的运行使用 Claude Fable 5.1 做 arch agent、Claude Opus 5 做 coding agent；仓库默认配置两者均用 claude-opus-5-5。仓库自带的 rmsnorm 示例任务在 B200 上约 1.5 小时停在 PyTorch 参考的 5.2×（设备端中位耗时 0.0307 ms）。
自报成绩单：18/22 专家内核与 CANNBench 第一
论文口径的对比在 Hopper 与 Blackwell 两代架构的 27 个算子上进行：ForgeKernel 匹配或超过 22 个专家库内核中的 18 个，对手名单包括 FlashAttention-4、cuDNN、DeepGEMM 等；并超过三个内核生成系统发布的全部 7 个内核；最高提速 +170.6%，几何平均 +39.4%。自进化环节里，GDN prefill 最终比 FlashInfer 快 100%，GQA attention forward（分组查询注意力前向）比 FlashAttention-4 快 29%。
榜单方面，README 宣称 2026 年 10 月登上 NVIDIA SOL-ExecBench 的 FlashInfer-Bench 榜首，并在华为 CANN-Bench 的 Ascend A3 与 Ascend 950DT 上第一。其中 可以直接核对：这个面向昇腾算子的评测基准当前显示 ForgeKernel 以 4,165.94 的最高总分位居 950PR 分区第一，覆盖 59 个任务、测例通过率 95.6%，条目以用户名 chenyaojian 提交于 2026 年 10 月 28 日。FlashInfer-Bench 与 Ascend A3、950DT 的名次，目前仍只有项目方自己的说法。
开源内容：五组内核与整套 harness
kernels/ 按算子类型分五组发布：attention（forward 与 backward、GQA 与 MLA 的分页 decode 与 prefill；MLA 即多头潜在注意力）；sparse_attention（DeepSeek 稀疏注意力的 backward、score recompute 与 indexer backward，以及 DeepSeek-V4.1 fused prefill）；linear_attention（Gated DeltaNet prefill 的前向、反向与 varlen，recurrent Kimi Delta Attention prefill）；gemm（16-bit dense GEMM、FP8 GEMM、FP8×FP4 grouped GEMM（MoE，混合专家））；conv（Conv2d 权重与数据梯度、Conv3d forward）。其中 24 个 CuTe DSL 内核面向 H100 与 B200，是论文实验的产物；第 25 个就是 Live 优化出的 DeepSeek-V4.1 fused prefill，以 CUDA C++ 写成。
harness 让使用者能跑同样的流程。宿主机要求 Linux 或 macOS、Python 3.11 以上、git 与 Claude Code CLI；GPU 端要求 NVIDIA Hopper（sm90）或 Blackwell（sm100）加 CUDA 版 PyTorch，CuTe DSL 任务需装 nvidia-cutlass-dsl，推荐配 Nsight Compute。写一个任务只需填 description.md、shapes.json、task.toml 三个文件；参考只给可运行文件而不给源码时，自动进入 blackbox（黑盒）模式，Live 中密封的 FlashMLA 参考即属此类；--leaderboard flashinfer-bench 则冻结榜单自己的输入、容差与计时器。论文实验的环境是 H100 80GB SXM（CUDA 12.8、PyTorch 2.6.0a0、CuTe DSL 4.4.2、cuDNN 9.7）与 B200 180GB HBM3e（CUDA 13.1、PyTorch 2.10.0+cu130、cuDNN 9.19.1），所有报告增益都在同一个 GPU job 里计时参考与候选。ForgeKernel 与 ForgeTrain、ForgeStencil 同属 Forge 系列，harness 的榜单评测部分改编自 FlashInfer-Bench 与 SOL-ExecBench 的 Apache-2.0 代码。
README 自己写下的边界
项目方在仓库里列出了四条限制。其一，参考内核最有用：只给 PyTorch 实现和一个 device-time（设备端耗时）数字时，论文消融在测过的三个算子上全部停滞，项目方的说法是「ForgeKernel 超越一个已存在的实现，比让它写出第一个实现更可靠」。其二，平台期只是估计不是证明：自进化停在噪声地板，只说明循环没找到更多，不说明不存在。其三，覆盖面限于四个算子族、两代 NVIDIA GPU，不相似的稀疏模式与内存层级未测试。其四，成本与安全：一次运行是数小时 GPU 时间加前沿模型用量，agent 在 harness driver 写入的策略下以绕过权限的方式运行，README 提醒放在专用机器上跑。
截至发布当天，仓库显示 6 stars、0 forks。9.8% 这个数字眼下只有项目方的计时背书；harness 已经把复现所需的任务格式、黑盒模式和榜单评测一并开源，下一步的检验，要靠第三方在不同 shape 下的复现数字。