AREX Feed Article
AMD MI355X 首次覆盖 AA-AgentPerf 全部四个模型：DeepSeek V4 Pro 每兆瓦吞吐比 B200 高 15%～40%，高负载仍落后 NVIDIA
独立 AI 评测机构 Artificial Analysis 于北京时间 10 月 15 日凌晨 1 时 12 分（UTC 10 月 14 日 17 时 12 分），将 AMD 旗舰加速器 MI355X 加入其 agentic 推理基准 AA-AgentPerf，并首次在基准当前收录的全部四个模型，即 Kimi K3、GLM-5.2/5.3、DeepSeek V4 Pro 与 DeepSeek V4.1 Flash 上发布 MI355X 成绩，与 NVIDIA B200、B300 等 Blackwell 系统在编码 agent 工作负载上的最新结果同榜对比。
最强相对成绩出现在 DeepSeek V4 Pro 0813：在单用户输出速度 35～75 tok/s（tokens per second，每秒 token 数）区间，MI355X 的每兆瓦吞吐（tokens/s/MW，每兆瓦功耗每秒产出的 token 数，M 为百万）比 B200 高约 15%～40%。Artificial Analysis 推测这与其每卡 288GB 的 HBM3E（高带宽内存）容量有关，B200 只有 180GB，而 DeepSeek V4 Pro 是 1.6T 参数的模型。但在 DeepSeek V4.1 Flash、GLM-5.2/5.3 和 Kimi K3 上，负载升高后 MI355X 全部落到 NVIDIA 之下。这批数字属于 Artificial Analysis 独立实测的榜单口径。
AA-AgentPerf 怎么算分：重放真实编码会话，以每兆瓦为分母
按 Artificial Analysis 的说明，AA-AgentPerf 重放真实的 agentic 编程会话，把 prompt 缓存和工具调用延迟都算进去，用来度量日常 agentic 负载下的推理性能。其 给出了更完整的口径：每个模拟 agent 沿用真实 coding-agent 轨迹，会话最长 200 轮、序列长度可超 100K tokens，输入长度约 5K～131K tokens、均值约 27K；基准允许 KV cache（键值缓存）复用、投机解码（speculative decoding）、prefill/decode 解耦（把输入预填充与生成解码拆到不同硬件）等生产部署优化；核心指标是 Agents per Megawatt，即每兆瓦实测功耗（而非额定 TDP）能支撑、且满足输出速度与时延目标的并发 agent 数。
这套基准 2026 年 6 月首发时，首批结果跑的是 DeepSeek V4 Pro：NVIDIA 的 B300 与 GB300 配置由 NVIDIA 提交，H200 与 MI355X 则由 Artificial Analysis 自建配置。该机构当时写道，AMD 系统上的 kernel 优化与配置设计仍处早期，预计其性能短期内会明显改善。这次更新，是 MI355X 第一次在基准的全部四个收录模型上都有成绩。
DeepSeek V4 Pro 0813：峰值 94M tokens/s/MW，领先窗口止于约 80 tok/s
给出了规格与曲线细节。MI355X 是 AMD MI350 系列旗舰，2025 年 6 月发布，采用 CDNA 4 架构：每卡 288GB HBM3E、带宽 8TB/s，与 NVIDIA B300 相同；dense FP4 算力约 10 PFLOPS（FP4 为 4 位浮点格式），介于 B300（约 13.5 PFLOPS）与 B200（约 9 PFLOPS）之间；板卡功耗最高 1,400W。
在 DeepSeek V4 Pro 0813 上，MI355X 的每兆瓦吞吐在单用户 33 tok/s 处达到约 94M tokens/s/MW 的峰值，而 B200 要到 13 tok/s 才能达到同一水平。这条领先窗口有明确边界：单用户速度超过约 80 tok/s 后 B200 反超，单 agent 场景下两者分别为 240 与 367 tok/s；NVIDIA 其余硬件的解耦多节点配置则大多在两者之上，例如 B300 用两个 8-GPU 节点在单用户 116 tok/s 下做到约 125M tokens/s/MW。
负载升高后：V4.1 Flash、GLM 与 Kimi K3 上的差距
三个落后的模型中，DeepSeek V4.1 Flash 的差距最小：单 agent 输出速度 647 tok/s，与 B300 的 652、B200 的 669 基本持平；负载升高后差距拉开，到单用户 100 tok/s 时，MI355X 约 128M tokens/s/MW，B200 约 193M，B300 约 220M。
GLM-5.2/5.3 上，MI355X 在单用户 100 tok/s 下约 26M tokens/s/MW，低于 B200 的约 42M 和 B300 的约 44M。差距最大的是 2.8T 参数的 Kimi K3：单用户 50 tok/s 时 MI355X 约 8M tokens/s/MW，约为 B300（约 24M）的三分之一。B300 的数字来自 NVIDIA 的多节点配置，而 MI355X 的全部成绩都测自单个 8-GPU 节点；单 agent 速度两者分别为 152 与 235 tok/s。
ROCm nightly 加 dev builds：这批数字的测试前提
软件栈方面，Artificial Analysis 说明，全部 MI355X 成绩采用 ROCm nightly 与 vLLM、SGLang 的 dev builds（开发版本）。榜单结果按其 6 月文章定下的两条路径进入：厂商提交调优配置，或由评测方自建；该机构当时提醒，自建配置的 MI355X 与 H200 性能余量可能更大，所有结果应被视作「快速前沿的快照」，随着厂商提交增加而攀升。
Artificial Analysis 在推文中称，榜单结果已实时上线、会随时间演进，团队期待持续追踪 AMD 硬件上的软件与服务改进。AMD 后续若提交针对 MI355X 的调优配置，榜单上的这批数字会随之更新。