SOCAMM2升温:AI服务器内存赛道迎来新变量

135次阅读
没有评论

共计 1344 个字符,预计需要花费 4 分钟才能阅读完成。

进展时间线

SOCAMM2, 引爆内存圈

SOCAMM2 正在成为 AI 存储市场的新关键词。 在 HBM 长期占据高带宽内存焦点之后 , 面向 AI 服务器、AI PC 等场景的模块化内存方案开始加速进入产业视野, 并吸引存储巨头与部分国产厂商跟进。

📌 从 HBM 热潮到 SOCAMM2 升温

过去几年,AI 训练和推理需求快速增长 , 推动 HBM 成为半导体行业最受关注的赛道之一。尤其在大模型算力扩张背景下,GPU 侧对高带宽、低延迟内存的依赖持续增强,HBM 供应紧张也随之加剧。

与 HBM 不同,SOCAMM 并不是直接替代 GPU 旁的高带宽堆叠内存 , 而更偏向系统主存和扩展内存角色。它由英伟达主导, 并与三星、SK 海力士、美光等存储厂商协同推进, 采用基于 LPDDR 的模块化形态, 面向 AI 服务器与 PC 等设备。

🔍 SOCAMM2 的核心变化: 更快、更大、更适配服务器

第一代 SOCAMM 进入行业讨论后, 英伟达随后将重点转向 SOCAMM2。相较早期规格,SOCAMM2 在延续部分底层设计的同时, 传输速率被提升至 9600MT/s, 较 8533MT/ s 有进一步提高。部分产业信息还提到,SOCAMM2 未来存在支持 LPDDR6 的可能性, 但这仍需以后续产品落地为准。

目前已知进展中, 美光宣布向客户出货 256GB SOCAMM2 低功耗内存;SK 海力士则宣布启动 192GB SOCAMM2 的大规模量产, 并称其产品面向英伟达 Vera Rubin 平台。三星方面暂未披露 SOCAMM2 量产消息, 但有信息显示其正在解决量产相关技术问题。

  • 容量: 单条容量可覆盖百 GB 级别, 适合大模型参数与缓存需求。
  • 功耗: 基于低功耗内存路线, 整体能耗有望低于传统服务器内存方案。
  • 形态: 水平压接式设计更利于高密度服务器布局。
  • 维护: 模块化设计有助于后续更换、扩容与运维。

💡 为什么 AI 推理阶段更需要新内存形态

AI 行业正在从“训练优先”转向“推理规模化部署”。 在长上下文、多并发请求成为常态后 , 系统内存压力明显上升。尤其是 Transformer 架构中的 KV 缓存, 会随着上下文长度增加而扩大, 传统 DDR5 内存在带宽、功耗和空间利用上可能逐渐显露瓶颈。

这也是 SOCAMM2 受到关注的重要原因: 它并不主打极限带宽, 而是在容量、成本、功耗和服务器适配之间寻找平衡 。对于云服务商和数据中心来说, 这类方案若能成熟落地, 可能带来更高的部署弹性和更可控的总体成本。

📊 国产厂商也已进入赛道

除国际存储大厂外, 江波龙也已发布基于 LPDDR5/5X DRAM Die 的 SOCAMM2 企业级内存模组, 规格覆盖 64GB 至 256GB, 传输速率为 8533MT/s。其设计采用 CAMM 模块化思路, 并针对服务器安装环境和液冷系统进行结构优化。

从前期概念亮相, 到 2026 年前后多家厂商围绕量产、送样和客户导入推进 ,SOCAMM2 的关注点已经从“新规格”转向“能否规模化供给”。这也是该赛道前后变化最明显的地方: 早期市场更多讨论技术可行性, 如今焦点则转向产能、客户验证和平台适配。

🚀 行业观察: 它更像 HBM 的补位者

围绕“SOCAMM2, 引爆内存圈”,这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看,核心结论是趋势已较为明确,但细节仍需结合后续进展持续观察。

后续仍需结合新增披露持续校准判断。
本文基于公开信息整理, 如有侵权请联系删除。
正文完
 0