AREX Feed Article
SGLang 联合 AWS 推出基于 TorchNeuron 的 Trainium 插件 beta，并完成首个端到端异构 RL 运行
10 月 22 日，LMSYS 在宣布与 AWS 合作推出 SGLang Trainium 插件 beta。插件基于 TorchNeuron 构建，这是 AWS 为 Trainium 芯片打造的开源原生 PyTorch 后端，公开测试版于 10 月 20 日上线，比这次宣布早两天。beta 支持在 Trainium2 与 Trainium3 两代芯片上进行 LLM 推理服务和 RL（强化学习）rollout 生成。
博客同时公布，第一个端到端异构 RL 运行已经完成：SGLang 在 Trainium3 上为 Qwen3-MoE-30B-A3B 生成 rollout，SGLang 团队的 RL 后训练框架 Miles 在单节点 H200 上以 Megatron 训练 GRPO 策略，整套设置「完成了稳定训练」。同日，RadixArk 在 同步了这一发布，该账号在中自述为 SGLang 的核心维护方。两则来源均为发布方一手披露。
首批模型与特性清单
模型侧，beta 首批覆盖 Qwen3 (dense)、Qwen3-MoE-30B-A3B、DeepSeek-V2-Lite、GLM-4 与 GLM-5.2/5.3，博客称更多大型前沿（frontier）模型的支持「正在进行中」，覆盖范围将在 beta 期间继续扩大，并计划今年晚些时候扩大可用范围。
特性清单有四项：DP（数据并行）/TP（张量并行）/EP（专家并行）三套并行策略、Radix Cache、BF16/FP8 两种数值精度，以及异步调度器（async scheduler）。参与方式上，初期 beta 仅向少数团队开放，博客给出的理由是便于与每个参与团队紧密合作；博客点名的目标用户有两类：正在或计划在 Trainium2/3 上运行 LLM 推理的团队，以及想尝试 rollout 在 Trainium、训练在 GPU 的异构 RL 的团队，加入需通过申请。
在 TorchNeuron 私测期就动手的移植
中说明，TorchNeuron 是开源的 Trainium 原生 PyTorch 后端：开发者把设备切换为 .to('neuron')，即可让 PyTorch 代码在 Trainium 上运行，eager 执行、torch.compile 和标准 PyTorch API 均保持兼容；它还与 NKI（Neuron Kernel Interface）集成，支持以自定义算子做性能优化，开源代码面向 EC2 Trainium2 与 Trainium3 实例提供。
按博客的说法，SGLang 的 Neuron 后端在 TorchNeuron 仍处于私有预览（private preview）阶段时就已经开工，这个决定塑造了整个工程。因为 TorchNeuron 是原生 PyTorch，SGLang 的模型组件和核心抽象「大体原样」迁移到 Trainium，模型通过开发者已在 GPU 上使用的同一接口提供服务，工作负载在 GPU 与 Trainium 之间搬移只需极小改动。需要更底层的性能控制时，NKI 让团队在 PyTorch 工作流内编写自定义 Trainium kernel；对一个横跨多种硬件平台的开源项目来说，贡献者能用熟悉的编程模型上手，性能关键处也握有底层硬件控制权。
博客开篇也交代了来路：过去一年，SGLang 持续扩展支持的硬件范围，同时为新开源模型提供发布日支持，并把 RL rollout 带进了 Miles。
SGLang Trainium 插件把 rollout 与策略更新拆到不同硬件
博客解释了异构 RL 的机制：一个 RL step 分为两个阶段，rollout 生成（RL 训练中的采样生成，以解码为主的推理负载）和策略更新（训练负载）。多数团队把两个阶段放在同一个 GPU 集群上运行，但两者对硬件的要求并不相同。SGLang Trainium 插件允许两者分开，首次运行中，Miles 把 Trainium 上的 SGLang 作为外部 rollout 引擎接入，两个阶段就此落在两套硬件上。
博客称 Miles 是「我们的 RL 后训练框架」。显示，它是一个面向大语言模型（LLM）与视觉语言模型（VLM）后训练的企业级 RL 框架，以 Apache-2.0 许可开源，rollout 侧搭配 SGLang、训练侧搭配 Megatron-LM，另支持 FSDP2 与 torchtitan 后端；GRPO、GSPO、PPO、REINFORCE++ 等 RL 配方均在支持范围内。
「各阶段各挑硬件」：发布方的性价比主张
博客给出的动机是成本。开源模型服务和 RL rollout 生成都是持续运行的负载，每 token 成本直接决定团队能部署多少容量；Trainium 是 AWS 专为 AI 打造、在云端规模化供应的芯片，定位是以较强性价比承接高吞吐工作负载，博客的目标是让 SGLang 成为在 Trainium 上运行这类负载的「一等选项（first-class option）」。博客认为，rollout 与训练拆开后，每个阶段可按各自性价比挑选硬件，Trainium 上的 rollout 容量能独立于 GPU 训练规模扩展。
RadixArk 的帖子把这套主张压缩成一句话：「与 Miles 的异构 RL：rollout 生成放在 AWS Trainium 上，策略模型在哪里部署就在哪里训练。每个阶段各挑各的硬件，rollout 容量自己单独扩。」
「早期里程碑」、缺失的数字与 11 月的 Summit
博客明言这只是「早期里程碑（early milestone）」，Trainium 上的性能优化仍在进行。整篇博客没有给出任何吞吐、延迟或成本数字，Trainium 与 GPU 的实际性价比差距目前无从核对。
按博客与帖文的共同预告，更多进展将在 11 月的 上公布。Trainium 方案的性价比主张能否成立，届时要看能否拿出可核对的数字。