美团 LongCat-2.0 发布:国产芯片上跑出的万亿参数大模型

6 月 30 日, 美团正式发布新一代万亿参数大模型 LongCat-2.0, 并对外开源。该模型号称是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型, 总参数达 1.6T, 平均激活约 48B, 动态范围 33B~56B, 从零开始预训练, 原生支持 1M 超长上下文。预览版已通过 OpenRouter 平台和 longcat.ai 开放调用, 目前跻身 OpenRouter 全球大模型调用量前三。

📌 国产算力集群上的突破

LongCat-2.0 的预训练数据规模超过 30T tokens, 覆盖中文、英文、多语言和代码。面对万卡级训练中的硬件故障、通信异常、显存压力与数值波动, 团队从稳定性、正确性和效率三方面攻克难题:

从已披露信息看, 这一变化更值得关注的, 不只是表面动作本身, 还包括其对后续行业节奏、用户预期和市场竞争的连锁影响。

• 稳定性 : 通过 HCCL 异常处理、弹性扩缩卡和自动故障恢复, 将月均日故障率降低 70% 以上。
• 正确性 : 自研确定性算子、Bitwise 一致性验证和参数检测, 提升关键模块计算精度, 优化 Reduce 逻辑。
• 效率 : 通过流水线调度、显存优化和算子级控核, 训练 MFU 提升 1.5 倍。

最终,LongCat 实现稳态日吞吐超过 1T tokens/day, 完成了万亿参数 MoE 模型在国产算力上的稳定训练。

🔍 推理与架构创新

在推理阶段,LongCat-2.0 通过大规模专家并行聚合访存带宽, 支撑低延迟解码; 零计算专家机制避免了不必要的传输与计算。此外, 模型采用 LongCat Sparse Attention (LSA) 稀疏注意力机制, 将计算量从平方级降至线性级, 在 100 万 Token 超长上下文中保持信息定位与理解能力。

通过 MOPD 架构,LongCat-2.0 融合了 Agent、Reasoning、Interaction 三组专家能力:

• Agent Experts: 专攻工具调用与自主纠错。
• Reasoning Experts: 深耕数学与 STEM 推理。
• Interaction Experts: 优化指令遵循与交互体验。

门控网络根据任务类型动态调度最擅长的专家, 实现 token 级动态激活 (33B~56B), 简单 token 不消耗算力, 复杂 token 自动获得更多计算资源。

💡 评测表现与行业影响

LongCat-2.0 在多项评测中表现突出:

• 编程能力 :SWE-bench Pro 得分 59.5, 领先 Gemini 3.1 Pro (54.2)、GPT-5.5 (58.6) 和 Claude Opus 4.6 (57.3);SWE-bench Multilingual 得分 77.3, 与 Claude Opus 4.6 (77.8) 持平;Terminal-Bench 2.1 得分 70.8。
• 办公场景 :RWSearch 得分 78.8,FORTE 得分 73.2,BrowseComp 得分 79.9, 均达到或接近前沿闭源模型水平。

这些成绩表明,LongCat-2.0 在企业级 Agent 应用领域具有较强竞争力, 其开源策略也有望推动国内 AI 生态发展。

📊 总结

LongCat-2.0 的发布标志着国产算力在万亿参数大模型训练与推理上的重要进展 。该模型不仅在国产芯片上实现了全流程训练, 还在编程、推理和交互等多个维度达到或接近国际前沿水平。随着开源社区的参与,LongCat-2.0 有望加速国内 AI 技术的落地与创新, 为行业带来更多可能性。