微软 Maia 300 发布:台积电 N2P 工艺、288GB HBM4 与 18TB/s 带宽

3次阅读
没有评论

共计 1351 个字符,预计需要花费 4 分钟才能阅读完成。

Analysis

微软 Maia 300 AI 芯片发布: 台积电 N2P 工艺,288GB HBM4 内存、带宽 18TB/s

微软在自研 AI 芯片路线上再落一子 。10 月 12 日,Maia 300 正式发布: 台积电 N2P 制程、288GB HBM4 内存、18TB/s 带宽,FP4 算力最高 13.8 PFLOPS, 并计划 2027 年部署。这组参数把重点押在高内存与高带宽的 AI 推理场景上。

📌 核心规格:N2P 制程与多芯粒设计

Maia 300 采用多芯粒设计 , 主要计算部分基于台积电 N2P 2 纳米制程, 同时集成独立的内存芯粒和 I/O 芯粒。微软给出的算力指标为 FP4 13.8 PFLOPS、FP8 6.9 PFLOPS。芯片配备 8 组 HBM4, 总容量 288GB, 带宽 18TB/s。

多芯粒并非新概念, 但在 AI 加速器上 , 它允许计算、内存和 I/O 分别选择适合的工艺与封装方案, 在良率、成本和扩展性之间做平衡。这样的组合更强调数据搬运效率, 而不是只堆算力峰值。

🔍 大内存与大带宽, 瞄准 AI 推理

对需要频繁搬运权重和 KV 缓存的大模型推理来说 , 显存容量和带宽经常决定实际吞吐。288GB HBM4 与 18TB/s 带宽, 让 Maia 300 更适合长上下文、多并发或内存压力较大的推理任务。

在生成式 AI 推理中, 模型权重、KV 缓存和中间结果都会占用显存, 带宽不足会让加速器等待数据。因此, 高容量与高带宽并非简单堆料, 而是针对推理瓶颈的配置。微软也明确, 该产品面向对内存要求较高的 AI 推理。不过, 参数是否转化为成本优势, 还要看软件栈、调度效率和集群利用率。

💡 互连与集群: 单机架最多 96 颗

Maia 300 的双向扩展互连带宽为 3.2TB/s, 网络基于以太网的双层架构。单个机架最多可容纳 96 颗芯片, 最大可组建包含 12000 颗加速器的集群。

这说明微软并非只发布单卡, 而是在同步规划机架级与集群级扩展 。以太网方案的优势在于生态成熟、部署范围广, 双层网络可能对应机架内与机架间不同层级的通信。对云厂商而言, 集群互联效率往往决定大规模训练和推理能否稳定运行。

📊 功耗升至 950W, 部署定在 2027 年

Maia 300 的 SoC 功耗额定值为 950W, 明显高于 Maia 200 的 750W。性能提升伴随功耗增加, 数据中心供电和散热需要同步升级。若单机架容纳 96 颗, 整体功耗规模会非常可观。

计划 2027 年部署, 意味着它距离规模落地还有时间; 届时实际性能、软件生态和单位算力成本才会接受检验。

🚀 行业观察与总结

从已公布信息看,Maia 300 是微软围绕 AI 推理继续加码自研加速器的一步。它把台积电 N2P、HBM4 和以太网集群互连打包在一起, 参数指向明确。对微软而言, 自研芯片的意义不只在参数, 更在于云服务的长期成本与供应安全。

  • 制程: 台积电 N2P,2 纳米级别
  • 内存:288GB HBM4, 带宽 18TB/s
  • 算力:FP4 13.8 PFLOPS,FP8 6.9 PFLOPS
  • 功耗:SoC 额定 950W
  • 扩展:3.2TB/s 双向互连, 最多 12000 颗集群

这些规格能否降低微软对外部加速器供应的依赖, 并形成可复用的云服务能力 , 是后续观察重点。如果 2027 年如期部署, 它将与微软云服务结合, 影响其 AI 基础设施的成本结构。Maia 300 的最终价值取决于交付进度、软件生态与单位算力成本, 而不仅是纸面参数。

以上为阶段性观察。
本文基于公开信息整理, 如有侵权请联系删除。
正文完
 0
评论(没有评论)
验证码