AREXOpen in interactive Feed

AREX Feed Article

Reflection 公布首个开放权重模型 Beam:501B 总参数、23B 激活,称本月内发布权重

October 6, 2026

10 月 5 日,Reflection 在公布了其首个开放权重模型 Beam。按博客的说法,这是一个稀疏 Mixture-of-Experts(MoE,混合专家)模型:总参数 501B(5,010 亿),每个 token 激活其中 23B(230 亿);面向编码、推理与智能体(agentic)工作负载,预训练语料为 23.8 万亿 tokens。博客称权重将在本月晚些时候按 Apache 2.0 许可发布。

稀疏激活、训练数据与能力边界

MoE 的「稀疏」体现在激活方式上:生成每个 token 时只调用总参数中的一部分,博客在估算推理算力时也明确按「每 token 激活参数」而非总模型规模计算。

训练数据方面,博客称这批语料来自网络、公开来源与专有授权数据集,训练几乎覆盖了网络上所有可公开获取、许可不受限制的代码与代码文档。博客还称 Beam 的基础模型与可获取的同规模开源基础模型相比「持平或更优」。

博客还写明:中期训练(midtraining)把有效上下文扩展到 1M tokens;Beam 是纯文本模型,但可以处理以文本形式提供的其他模态信息。博客给出的四个演示包括用公开数据搭建纽约地铁实时地图和为 Gemma-4 编写微调 notebook,用来说明 Beam 在具体任务中的表现。

基准成绩与 3~4 倍算力差:数字怎么算出来的

博客给出的成绩表横跨编码、推理、工具调用与通用能力四组基准,并注明 NR 代表未报告的成绩。Beam 的几项主要得分:SWE-bench Verified 80.9、SWE Bench Pro v2-Hard 77.2、Terminal Bench v2.1 80.1、AIME 2026 97.8、GPQA Diamond 90.5、HLE(不使用工具)36.2。对照模型包括 GLM 5.2、Kimi K3、Qwen 3.8-Max 等。

博客对竞争位置的表述是:Beam 在编码与智能体任务上能与 GLM 5.2 这类更大的开放模型竞争、并接近 Qwen 3.8-Max;Kimi K3 这类前沿开放模型在原始能力上仍然领先,而 Beam 的优势在推理效率。具体说法是,在高级推理基准上,Beam 取得与 GLM-5.2 相当的成绩时,推理算力少用 3~4 倍。

「3~4 倍」是估算值:博客说明,其比较方式是按「FLOPs ≈ 2 × 每 token 激活参数量 × 平均生成 token 数」估算生成阶段的前向算力(FLOPs 即浮点运算次数),不计入提示词预填充(prompt prefill)、依赖上下文的注意力计算与服务开销,因此它被写成「近似的算力比较,而不是实测的推理成本」;对比图中其他模型的评测成绩注明取自 Artificial Analysis 与 DataCurve。

在推理长度与效果之间,Beam 提供了 reasoning effort 参数:调低时回复更短,调高则允许更长的推理,让用户按任务与算力预算调节。

4 周、10,500 张 GB300 与超过 1 亿次 rollout 的强化学习

博客称,高算力强化学习(RL)是 Beam 的核心扩展方向:训练动用 10,500 张 NVIDIA GB300 GPU、历时 4 周,生成超过 1 亿次 rollout(采样轨迹),单次最大上下文 256K tokens;训练与评分使用了约 13 亿个沙箱,任务池接近 100 万个环境,覆盖编码、智能体与 STEM(科学、技术、工程与数学),主要来自合成数据管线,另有专有供应商数据与开源来源。

方法上,Beam 用异步策略梯度训练。异步在规模上会带来策略陈旧(policy staleness)问题:一条长轨迹里的 token 可能由多个模型版本生成。博客称新算法能在这种条件下保持稳定的学习:即使训练数据是超过一天前生成的交互、样本最多落后当前策略 107 个权重版本,数值仍然稳定。

博客对结果的表述是:随着 RL 算力增加,各项评测的成绩持续提升、没有出现平台期,并称这次训练「可能是迄今开放实验室做过的规模最大的 RL 训练之一」。预训练一侧同期公布的数据是:整段预训练共执行了九次半自动回退(rewind),训练有效时间占比(goodput)末段达到 92.3%。

权重尚未发布:等候名单、配套资料与评估进度

眼下实际可用的入口有两个:部分用户能拿到早期版本,其他开发者可以加入等候名单。截至公告发布,权重尚未公开;博客称 Beam 仍在进行最终的红队测试(red-teaming)与评估。随权重一同承诺发布的还有技术报告、模型卡与开发者资料。

博客称,权重发布时会一并提供运行、评估与微调所需的完整工具栈,并接入分发伙伴和开源库、工具链,让开发者能在现有开源工作流里使用 Beam。Reflection 还称 Beam 是系列模型的第一个,下一个模型已在训练中。

安全与对齐采用独立管线:从同一个预训练检查点出发,用单独的 SFT(监督微调)与 RL 管线训练出专注安全与对齐的第二个模型,再通过多教师同策略蒸馏(MOPD)把它的能力与大规模 RL 教师的能力合并进最终模型;安全训练采用把安全政策写进模型推理的 deliberative alignment 方法,数据用对抗式迭代的方式构建。安全评估结果将随技术报告发布,Reflection 称会把内部使用的安全评测开源。

Beam 的基准成绩、效率估算和训练规模数字都还只是 Reflection 的自述;外部的独立复核,要等权重与技术报告发布之后才能开始。

参考链接

More from this developing story

  • Axios 独家:英伟达投资的 Reflection 拟发布 open-weight 模型,初期可与中国头部开源模型竞争Oct 4, 2026
  • Reflection 公布首个开放权重模型 Beam:501B 总参数、23B 激活,称本月内发布权重Oct 6, 2026