32GB 内存也能跑 120B 大模型?Nextorage 外接 AI 加速硬件曝光

67次阅读

共计 1316 个字符，预计需要花费 4 分钟才能阅读完成。

「观察视角」

围绕事件本身、节奏变化与潜在影响展开。

大语言模型的本地部署一直面临显存与内存瓶颈,尤其是动辄百亿参数的开源模型, 对普通消费者而言门槛极高。不过, 群联旗下日本存储模组企业 Nextorage 近日公布的一项计划, 或许将改变这一局面。

Nextorage 宣布正在开发一款名为 aiDAPTIV Station 的外接式硬件设备, 其核心卖点在于: 让仅配备 32GB 内存的 AI 笔记本电脑也能流畅运行 OpenAI GPT-OSS-120B 这样拥有 1200 亿参数的大型模型。这一消息无疑给本地 AI 应用场景注入了新的想象空间。

从名称不难看出,aiDAPTIV Station 基于群联已有的 aiDAPTIV 技术方案。该方案的核心思路是通过软件与硬件的协同, 实现本机 DRAM 与外接高耐久 NAND 存储介质之间的动态资源调配, 从而在逻辑上扩充可用内存容量。简单来说, 就是利用外接高速闪存作为“扩展内存”, 让原本无法加载的大模型得以运行。

设备采用便携式设计, 通过 USB-C 接口与主机连接, 兼容 Windows 和 Linux(Ubuntu 发行版) 操作系统。Nextorage 计划在 2026 年内面向日本市场率先推出该产品, 并同步提供预构建的软件包方案, 以降低用户部署门槛。

要理解 aiDAPTIV Station 的价值, 需要先了解大模型运行的内存瓶颈。通常, 运行一个 120B 参数的模型需要至少 240GB 以上的显存或内存(以 FP16 精度计算), 而普通消费级笔记本往往只有 16-32GB 内存。aiDAPTIV 方案通过将模型的部分参数或中间数据“卸载”到外接的高速 NAND 存储中, 并利用智能调度算法, 在 DRAM 与 NAND 之间快速交换数据, 从而突破物理内存限制。

硬件形态: 外接式、便携、USB-C 连接, 即插即用, 无需拆机改造。
目标场景: 主要面向已有 AI 笔记本但内存不足的用户, 尤其是需要本地运行开源大模型的开发者、研究者及发烧友。
生态配套:Nextorage 将提供预构建软件包, 可能包含模型量化、驱动优化等, 降低用户的使用复杂度。
市场节奏:2026 年内日本首发, 全球其他地区的计划尚未公布。

事实上, 群联的 aiDAPTIV 技术并非首次亮相。此前 OWC 推出的 Stack AI 产品也采用了类似方案, 本质上都是将高耐久闪存“伪装”成内存使用。这一思路与苹果在 Apple Silicon Mac 上使用的统一内存架构有异曲同工之妙, 但通过外接方式降低了升级门槛。