华东首个国产TPU千卡集群落地杭州,中昊芯英二代芯片“须臾”发布

在 WAIC 2026 期间 , 中昊芯英正式推出第二代自研 TPU 芯片“须臾”, 并宣布华东地区首个国产 TPU 智算千卡集群已在杭州落地。这一集群由杭州电信、中兴通讯与中昊芯英三方联合建设, 旨在为大模型训练、推理及科学计算提供算力支撑, 也是中国电信体系内首个大规模国产 TPU 集群部署项目。

📌 TPU 因推理成本重回舞台中央

大模型训练虽然昂贵, 但属于阶段性投入 ; 推理则是持续发生的成本。每一次 AI 交互都在消耗 Token, 智能体的出现更是放大了这一过程。中昊芯英 CEO 杨龚轶凡指出, 当前推理走向 PD 分离——将处理输入内容的 Prefill 阶段与逐 Token 输出的 Decode 阶段拆开调度, 以优化资源利用。TPU 专为深度学习张量计算设计, 牺牲通用性换取计算密度和能效, 谷歌已在大规模场景中验证其价值。

从已披露信息看, 这一变化更值得关注的, 不只是表面动作本身, 还包括其对后续行业节奏、用户预期和市场竞争的连锁影响。

🔍“须臾”芯片性能大幅提升

作为第二代产品,“须臾”混合精度浮点算力达 896TFLOPS,8-bit 推理算力 1792TOPS, 整体性能约为上一代的三倍, 单芯片功耗 600W。性能提升源于计算流水线重构、双芯粒同基板封装以及片上存储容量与带宽的升级。目前, 该芯片已完成 Qwen、DeepSeek、GLM 等主流开源模型的基础适配, 并能在新模型发布后快速跑通流程。不过, 从可用到好用仍需围绕算子、编译工具和调度策略持续优化。

💡 千卡集群背后的三方协同

杭州千卡集群由杭州电信、中兴通讯和中昊芯英共同建设。 运营商角色正在转变 , 客户从租用服务器转向按 Token 购买模型服务。杭州电信表示, 经过数月调优,TPU 集群的 Token 输出效率较年初提升超 10 倍。中兴通讯负责网络与系统集成, 解决千卡向万卡扩展时的通信瓶颈。未来智算中心将长期保持异构状态, 不同芯片各司其职。

📊 值得关注的几个重点

• 专用架构价值凸显:TPU 在推理场景中的能效优势正被市场重新认识。
• 国产替代加速: 从芯片到集群, 国产 TPU 产业链初步成型, 运营商与设备商深度参与。
• 软生态仍是关键: 模型适配、工具链完善、调度优化决定了商业化落地效果。

🚀 总结

中昊芯英“须臾”芯片与杭州千卡集群的落地, 标志着国产 TPU 在规模化部署上迈出实质性一步 。专用芯片的价值建立在完整软硬件体系之上, 未来需持续推动生态成熟, 方能在推理成本敏感的市场中赢得一席之地。