AREX Feed Article
Ricursive Intelligence 发布 Ripple-65B Preview：65B 稠密开源模型自称以 80.52 分刷新美国 agentic coding 开源权重纪录
北京时间 11 月 5 日凌晨 2 时 24 分（UTC 11 月 4 日 18 时 24 分），Palo Alto 初创公司 Ricursive Intelligence 的官方 X 账号宣布发布 Ripple-65B Preview——一个从零预训练的 65B 稠密架构开源权重模型（open-weight，指公开模型权重供任何人下载使用的发布方式）。称，该模型在 agentic coding（让模型在终端环境中自主完成工程任务的一类评测）上创下美国开源权重模型的最好成绩：Terminal-Bench 2.1 得分 80.52，高于 Reflection Beam 501B（80.1）、Meta Muse Spark Open 816B（76.4）、Thinking Machines Inkling 975B（63.8）与 NVIDIA Nemotron 3 Ultra 550B（56.4）。这四个对比模型的参数量从 501B 到 975B 不等，最大者约为它的 15 倍。
给出更多数字：模型在 12 万亿 token 语料上预训练，支持最长 1M 上下文；从零开始的总研发成本为 3200 万美元，按公司自己的估计约为此前开源权重 SOTA（state of the art，最优成绩）的十分之一；强化学习（RL）阶段只用了 140 万次 rollout（模型在训练环境中完整试错的次数）。创始人 Azalia Mirhoseini 随后在 模型已经上线 、、 与 。
80.52 的分数、对比成绩与成本数字全部来自公司自报，截至发稿（11 月 5 日）未见第三方独立复现。
比公告早近 16 小时，权重已在 Hugging Face 上架
页面显示的创建时间是 UTC 11 月 4 日 02 时 41 分，比官方公告早近 16 个小时。仓库包含 64.8B 参数的 BF16（bfloat16，16 位浮点）指令模型权重，许可证为 Apache 2.0；同一组织还上架了 （NVFP4 为 NVIDIA 的 4 位浮点权重格式）和一个 BF16 Base 模型。
模型卡的训练流程表显示：预训练 12T token、8K 序列长度；继续训练阶段（midtrain）200B token、64K 序列长度；随后是 2M 序列长度的长上下文阶段、183B token 的 SFT（监督微调）与长上下文 SFT，最后是 RL 阶段。模型卡写明这版 Preview「经历了相对轻量的后训练，重心放在 agentic coding」。博客另称 Fireworks 平台将于发布当天晚些时候上线。
同一基准的两组分数
文首散点图就是这一主张的呈现：Ripple 的数据点在分数轴上高于全部对比模型，图表把参数差距标注为「15x smaller」。模型卡另附一组按官方 Terminus 2 评测框架测得的分数：Ripple 仍为 80.5，Beam 降至 70.8，Muse Spark Open 升至 78.7，Inkling 与 Nemotron 3 Ultra 分别为 56.2 和 55.1。卡内注明，除各公司官方模型卡分数外，其余由公司内部评测流程补齐；公司还写明现代 agentic 评测难以复现：他们发现用官方 Terminus 2 框架、128K 序列长度并开启摘要时，除 Muse Spark Open 外各家分数普遍更低。
「美国开源权重」这一定语是公司自己写进主张的：Terminal-Bench 2.1 对比表只覆盖美国机构的模型。模型卡的基础模型对比表虽包含 DeepSeek V3.1 与 V4 Flash，但那是传统预训练评测，不是这轮 agentic coding 对比。
模型卡还给出另一层口径：Ripple 的 65B 参数全部参与每一次计算；对比的 MoE（混合专家，Mixture-of-Experts）模型总参数虽大，每次只激活 23B～55B——Beam 501B 激活 23B，Inkling 975B 激活 41B。稠密架构的取舍在于：总参数量只有对比模型的约 1/8～1/15，换来的是更简单的训练与服务栈。
成本明细与不买数据的 RL 配方
成本口径在博客里单独成节，写得相当细：3200 万美元是「从零开始的全研发成本」，包括预训练阶梯（ladder）实验、数据配比、评测、调试、合成数据生成、后训练配方开发，以及最终的主预训练与后训练运行。博客脚注给出的参照是： Reflection 承诺在 SpaceX Colossus 上以每月 1.5 亿美元购买算力； Beam 预训练与后训练各耗时 4 周。
博客称公司没有购买任何后训练数据，全部依赖自建合成数据管线、质量过滤与覆盖率指标；混合 RL 配方使用截断重要性采样（truncated importance sampling）、分数中心化（score centering）与线性长度惩罚，并随模型变强不断加入更难的任务。结果是：从较强的 SFT 检查点出发，只用 140 万次 rollout 就把 Terminal-Bench 2.1 推到 80.5 分，公司称比此前 SOTA Reflection Beam 少用约 70 倍。模型卡中 RL 阶段 700 步、批大小 2048，相乘约 143 万次，与博客口径一致。
不用 MoE 的稠密架构，按 NVIDIA 硬件裁剪
架构选择被公司归因于自身场景：想要强推理与低延迟的 token 生成，同时简化基础设施。博客写明 Ripple 是现代化稠密 Transformer 而非 MoE，整个预训练与后训练期间保持 40% 的 MFU（模型算力利用率），只靠简单分片，不用定制内核、不做量化（BF16）。具体设计「瘦而深」：d_model 为 5120、共 80 层；模型卡称其从 Olmo 3 的类 Llama 架构切换为类 Gemma 3N 架构以提升大规模训练稳定性，加入门控注意力（gated attention）、全局 NoPE（无位置编码）、价值残差（value residuals）与 FFN 激活裁剪，并超配注意力头数量、调整滑动窗口注意力（SWA）与全局层的比例。
预训练配方从 AI2 的 Olmo 3 模型阶梯出发，从 v1.0 一路迭代到 v1.6，公司在 4B 规模测得代码上的计算效率提升 16 倍；模型卡称最终主运行的提升达到 55 倍。生成速度方面，模型卡给出 2 张 B200、批大小 8、未做量化与定制内核的条件下 250 tok/s。硬件侧有第三方印证：发帖祝贺，称模型在 NVIDIA B300 GPU 上训练、使用了 NVIDIA 开放的 Nemotron 后训练数据集，并引导用户下载 NVFP4 权重在 DGX Spark 上本地运行。博客结尾也感谢了 AI2 的 Olmo 团队、Prime Intellect、RadixArk 与 NVIDIA 的开源贡献。
从 AlphaChip 到 Ripple：芯片设计公司的模型闭环
Ripple 出自一家做 AI 芯片设计平台的公司。博客把公司定位为「通过共同优化硬件、软件与模型来构建自我改进系统的全栈 AI 实验室」，页面标题即「用 AI 做芯片设计、用芯片设计反哺 AI 的递归自我改进」。博客解释，这次开源的 Ripple-65B Preview 是驱动其 AI 芯片设计平台的专有模型的通用变体，目的是「开始闭合模型与硬件之间的循环」。
两位创始人的背景与这个闭环直接相关： 的 X 简介标注其为斯坦福 CS 助理教授，曾任职 DeepMind、Anthropic 与 Google Brain，是 MoE 与 AlphaChip 的共同创作者； 是公司创始人兼 CEO，曾在 Google DeepMind 与 Anthropic 任职，自述为 AlphaChip 共同负责人。她在发布帖中写道，通过让模型与训练配方适配硬件，团队获得了「相当于用 16 倍 GPU 训练」的效率收益。
小团队是公司强调的另一点：模型卡写明开发期间团队从 1 人扩展到 5 人；自述为研究成员的斯坦福博士生 Shayan Talaei 三个关键选择——选稠密架构、不买后训练数据、RL 系统与任务课程一起做。斯坦福 CS 助理教授 Caroline Trippel 也已加入公司领导硬件验证。发布了模型入口链接，其合伙人 Stephanie Zhan 在 了发布要点，其 X 简介将她列为 Ricursive 的「1st partner」。
跨圈层扩散与待检验的边界
发布在开源社区迅速扩散：截至 11 月 5 日查询时，公司公告帖已有约 32.3 万次浏览与 2,683 次点赞； 转引成本脚注并称这是「开源模型 SOTA 的复仇者联盟」；德国科技评论账号 kimmonismus 的获得 335 次点赞，其中特别点出全激活 65B 与 MoE 只激活 23B 的差异。
发布当天深夜（UTC 22 时 58 分），atomic.chat 团队完成首个 GGUF（llama.cpp 使用的模型量化格式）移植并上传 Hugging Face，称对照官方参考代码逐 token 检查一致，Q8_0 量化占 68.8 GB、Q4_K_M 占 38.8 GB，移植后可直接跑在 llama.cpp 上。但移植正确性检查还不是基准复测；「MacBook Pro 上高效本地运行」的说法也仅出自 Mirhoseini 的个人帖——博客与模型卡只点名 DGX Spark。
参考链接
- Ricursive Intelligence 公告帖：
- Ripple-65B Preview 发布博客：
- Hugging Face 模型卡（ricursiveAI/Ripple-65B-Preview）：
- NVFP4 权重仓库：
- Azalia Mirhoseini 发布确认帖：
- Anna Goldie 发布帖：
- Shayan Talaei 技术复盘帖：
- Caroline Trippel 加入帖：
- Sequoia 官方账号渠道帖：
- Sequoia 合伙人 Stephanie Zhan 复盘帖：
- swyx 评论帖：
- kimmonismus 总结帖：
- NVIDIA RTX Spark 祝贺帖：
- atomic.chat GGUF 移植帖：
- Together AI 模型页：
- GMI Cloud 模型页：
- OpenRouter 模型页：
- 博客脚注援引的 TechCrunch 报道（Reflection 与 SpaceX 算力合同）：
- 博客脚注援引的 Reflection 自述（Introducing Beam）：