AREXOpen in interactive Feed

AREX Feed Article

美团开源 LongCat-2.5 权重:1.6T 总参数、约 48B 激活,MIT 许可上架 Hugging Face

November 9, 2026

北京时间 11 月 9 日晚 10 时 05 分,美团 LongCat 团队官方 X 账号 发帖宣布:LongCat-2.5 权重当日开放,采用 MIT 许可证,已上架 Hugging Face。帖文列出的规格为 1.6 万亿总参数、每 token(词元)激活约 480 亿,定位是面向长程(long-horizon)智能体任务的原生多模态模型;官方称一个模型同时具备更强的视觉理解与 agentic coding(智能体编程)能力,覆盖从复杂代码项目到创意设计、3D 任务的场景。截至发稿,可正常访问,附带完整 model card(模型说明卡)、评估表和 NPU(神经网络处理器)部署指引。当晚 22 时 40 分,以「支持商用推理部署与二次训练,无需额外授权」报道了这次开源。

对 LongCat 来说,这次开放把 LongCat-2.5 从「只能调用」变成「可以下载」。9 月 25 日 LongCat-2.5-Preview 先行上线 API 与网页聊天;11 月 1 日至 2 日,模型正式发布、技术博客放出。一周之后,权重开放下载,开源编码代理 OpenCode 也在同日把 LongCat 2.5 放进了自己的免费窗口。

官宣一周后,权重页当天可访问

时间线分三步。宣布 LongCat-2.5-Preview 上线,规格还包括 100 万 token 上下文窗口。与给出完整技术细节,但「体验入口」一栏只列了在线体验与 API 接入两个链接;掘金社区一篇记录了这一状态:「权重还没开源……2.5 目前只有 API」。

美团技术团队发布 LongCat-2.5 时的公告配图(图源:美团技术团队博客)

这也不是 LongCat 第一次开源主线模型: 权重 7 月初已按 MIT 上架 Hugging Face,同为 1.6T 总参数、约 48B 激活的文本 MoE(混合专家)模型。2.5 保持参数规格不变,新增的是原生视觉输入。11 月 9 日权重开放后,官宣帖在数小时内获得约 760 次点赞、2.6 万次浏览(截至北京时间 11 月 10 日凌晨的帖面数据)。

视觉如何进入主干:离散 token 与联合训练

把多模态路线概括为「原生视觉建模」:沿用 的方法,先由语义对齐编码器(SAE)提取原生分辨率视觉特征,再对特征做残差向量量化(RVQ),把视觉信号压成多层级离散 token。视觉输入与文本一样以 token 序列进入主干,在共享语义空间里对齐。

原生分辨率视觉 token 化:图像编码为离散 token 序列,再由视觉解码器重建(图源:LongCat 官方技术博客)

这个设计同时改了训练侧的账目。固定 tokenizer 让视觉 token ID 可以离线预计算并缓存,主干直接处理预先分词的序列,长序列打包、切分和分布式训练的负载均衡随之简化;视觉码本 embedding(嵌入表示)与主干联合学习。官方给出的验证证据是一份小规模试验:在平均激活约 3B 的 MoE 模型上,t-SNE(降维可视化方法)显示视觉与文本 embedding 呈交织分布——这是小模型上的初步结果,2.5 本体在图文融合上的实际表现要靠基准成绩间接印证。

长程智能体 RL:把失败轨迹变成可复现训练题

RL(强化学习)部分的训练素材来自真实工程任务。技术博客描述的流水线先筛选 GitHub 公开仓库的 PR(合并请求)与关联 issue,用 Agent 自动打标并合成可交互环境,以 fail-to-pass(F2P)和 pass-to-pass(P2P)测试校验任务的可验证性,美团内部真实编码任务也一并纳入;真实 Agent 的失败轨迹会被转化成可复现、可验证的训练任务,用来补能力短板。

防投机措施写得很具体:任务环境断网、清除 git 历史与文件缓存,再用 LLM judge(裁判模型)审计轨迹;对重复思考、重复工具调用施加额外惩罚,对响应长度增长过快的问题重新分配正样本奖励。异步 partial rollout(部分轨迹采样)允许未完成轨迹中断、保存、续跑,陈旧 token 的梯度贡献按累计偏差缩放,以限制陈旧性带来的梯度偏置。

教师侧沿用 LongCat-2.0 的三组专家——Agent 能力、推理、交互——通过多教师在线蒸馏(MOPD)合入主线模型:学生在任务上采样,教师对采样输出施加全词表 KL 散度约束。为控制长回复的分布偏移,教师回复按固定长度切成 per-cut prefix 供学生续写;训练时以教师轨迹为树干、学生采样为分支构建树,Tree Attention 让同组样本在一次前向、反向中完成训练。

国产卡上的训练与推理:不足 80 GB 显存与 W4A4 量化

技术博客写明了硬件约束:训练跑在单卡显存不足 80 GB 的国产 AI 加速器上。并行策略围绕超节点拓扑设计,FSDP(全分片数据并行)与 EP(专家并行)并行度对齐单超节点卡数,参数通信与专家 token 交换都被关在高带宽互联域内;双重分片 FSDP 把 FP32 主权重和优化器状态进一步跨域分片。官方口径是:在长序列 SFT(监督微调)任务中,这套配置的单卡吞吐比 DDP(分布式数据并行)基线高 86%。训推一致性方面,训练、prefill、decode 三段在并行配置独立的前提下保持逐 token logprob(对数概率)的逐位(bitwise)一致,方案已在实验与生产任务中默认启用。

推理侧的 W4A4 方案把专家权重与激活同时压到 4 bit,用原生 INT4 矩阵乘法单元计算,并以 FlatQuant 式可学习变换保精度——官方称在已评测的下游任务上与未量化模型表现相当。线上压测对比 W8A8 INT8 基线:prefill 吞吐提升 43.3%,decode 吞吐提升 42.77%,TTFT(首字延迟)降低 15.91%,TPOT(每 token 生成延迟)降低 19.72%,分组 GEMM(通用矩阵乘)算子平均加速 1.73 倍;叠加 KV cache(键值缓存)量化后,W4A4KV8 的 decode 吞吐比 W8A8KV16 高 92%。这些数字均出自团队自报的压测结果。

部署文档已同步就位。权重页把 NPU 部署指向 ,其 ReadMe 给出的参考部署规模是昇腾 Atlas A2 194 卡集群,按 Encoder、Prefill、Decode(编码、预填充、解码,EPD)分离方式部署——三部分分别占 2 卡、64 卡、128 卡,配套昇腾 CANN 软件栈与 PyTorch 2.9 的 torch_npu 适配层;文档同时给出单独的 量化权重下载地址。

自报成绩单:多项自测分数跳升,比较口径留有说明

model card 的评估表覆盖代码智能体、通用智能体和视觉三类共三十多项基准,开篇即写明口径:带 * 的成绩引自公开技术报告、博客或官方榜单,不带 * 的为团队自测、「仅供参考」(原文 indicative only)。

官方指标看板:LongCat-2.5 与 GPT-5.5、GPT-5.6-Sol、Claude-Opus-4.8、Claude-Opus-5 的对比(图源:LongCat 官方技术博客)

跳变集中在与上一代的对比上:Terminal Bench v2.1 从 LongCat-2.0 的 70.8 升到 88.4,Terminal Bench v4.0 从 3.0 升到 38.5,AutomationBench 从 15.8 升到 51.8,带工具的 HLE 从 37.5 升到 63.1。横向看有进有退:BrowseComp 的 91.9 高于表中所有对比模型;Terminal Bench v2.1 的 88.4 仍低于 DeepSeek-V4.1-Flash 的 90.6 和 Claude-Opus-5 的 89.1(两者均为引自公开报告的分数)。

视觉类成绩是 2.5 新增的部分:Text→3D 的 3DCodeBench 拿到 55.4,高于表中全部对比模型;Vision2Web 78.6,低于 Claude-Opus-5 的 80.2。评估设置也写在 card 脚注里:Terminal Bench 等代码基准以 Claude Code 作为评测脚手架(harness),序列长度上限 512K;DeepSWE 则以 100 万序列长度、三次独立运行取平均——所谓「长程」能力是在相当长的上下文里测的。

MIT 的边界与当天的第一波落地

许可条款写在 model card 里:模型权重按 MIT 发布,对仓库的贡献默认同样适用 MIT;许可不授予美团商标或专利的使用权。model card 同时提醒,模型未针对每一种下游应用做专门设计与全面评估,跨语言表现存在差异,敏感或高风险场景的合规责任由部署方承担。

当天的第一波落地来自编码工具侧。OpenCode 官方账号在北京时间 11 月 9 日 21 时 48 分——比 LongCat 官宣早了约 18 分钟——宣布 LongCat 2.5 在其平台免费开放两周,列出的卖点是 100 万 token 上下文、多模态、零数据保留;该帖随后获得约 2,200 次点赞,热度高过官宣帖本身。

把 1.6T 模型按官方样例跑在自己的国产集群上,起步参考是 194 张 Atlas A2 卡;没有这套硬件的开发者可以使用 OpenCode 的两周免费窗口,该帖未说明窗口结束后的安排。

参考链接