内存墙困局:存储正从算力附属品走向AI基础设施主角

3次阅读
没有评论

共计 1031 个字符,预计需要花费 3 分钟才能阅读完成。

信息整理

对话芯展速李蓁: 内存墙下, 存储不再是算力的附属品

过去二十年,GPU 单精度算力提升了四个数量级以上 ,AI 产业的注意力几乎全部集中在芯片与网络。但随着大模型从训练走向规模化落地, 一个更隐蔽的瓶颈正在浮现: 显存带宽与容量的线性增长, 早已追不上算力扩张的速度。“内存墙”之下, 存储正从幕后的数据仓库走向台前。

📌 算力在等数据, 内存成了新短板

过去谈 AI 基础设施, 算力芯片与高速网络是绝对主角 , 行业普遍相信“算力堆够, 能力就有保障”。但当大模型参数跨过千亿、上下文窗口扩展到百万 Token、Agent 应用批量兴起, 旧供给已经跟不上新需求。

芯展速副总裁李蓁用了一个比喻: 一个人掌握的一手数据越多、知识越渊博, 应对复杂场景的判断就越精准 。AI 要融入千行百业, 就需要持续喂养海量数据, 而数据的承载、流转与调度, 都离不开存储。

早期 AI 存储只需满足训练的高吞吐、大容量需求, 如今数据管道已覆盖采集、清洗、训练、检索、推理、反馈全链路 。数据不再是静态资产, 而是持续流动的生产要素。数据流动一旦受阻, 再强的算力也只能空转——以前的问题是算得慢, 现在更常见的是等着数据送过来。

🔍 分层架构在 AI 时代逐渐失效

同一份数据在 AI 生命周期里, 时而需要高性能读写 , 时而需要低成本大容量存储, 在传统分层架构中必须反复迁移。李蓁坦言, 搬运过程会产生巨大开销,GPU 长时间处于等待状态, 设备持续上电却没有产出, 这些成本最终由用户买单。多套系统、多类介质对应不同分层, 也让架构设计与日常运维的复杂度指数级上升。

💡 无分层架构需要软硬件深度协同

  • SCM: 承担低延迟、高耐久的写入缓冲与全局状态持久化
  • QLC: 主打海量数据的容量经济性
  • TLC: 保障高并发关键负载的性能弹性

📊 存储不再是算力的附属品

让存储参与计算, 以存力强化算力 , 正在成为 AI 产业回归数据本质的一种路径。李蓁判断, 未来三到五年, 最大的变化将是数据存储的下沉与分化: 各行各业的用户都会产生定制化模型与数据, 大量个人数据、业务数据需要在本地存储与处理, 以存强算、存算协同的边缘与端侧场景会成为新的增长主线。

但机遇背后挑战同样清晰。一方面,AI 数据的增长速度远超行业预期 , 对存储的性能、容量、耐久度要求还在持续提升, 无分层架构的优化没有终点; 另一方面, 任何新技术都不会保持直线增长, 行业必然存在周期性起伏。如何在热潮中积极投入抢占技术制高点, 同时避免盲目堆砌, 在周期波动中保持稳健节奏, 是存储厂商需要长期面对的命题。

本文基于公开信息整理, 如有侵权请联系删除。
正文完
 0
评论(没有评论)
验证码