共计 1219 个字符，预计需要花费 4 分钟才能阅读完成。
端侧 AI“小时代”
建议按 ” 变化—原因—影响 ” 的顺序阅读。
2026 年初, 一款名为“龙虾”的 AI 代理意外走红 , 随之而来的是一阵 Mac mini 抢购潮。人们开始为随时待命的 AI 单独配置一台电脑, 端侧 AI 的“小时代”就此拉开序幕。然而, 热闹背后, 本地智能的规模化落地仍面临诸多考验。
📌“小时代”的开场: 硬件先行
从苹果在 Mac mini 和 Mac Studio 上强调本地运行智能体, 到小米展示内置三颗玄戒芯片的 AI Cube 原型机, 再到英伟达 DGX Spark 的交付, 硬件厂商正围绕“将 AI 算力留在本地”展开新一轮竞赛。联想、华硕、惠普等 PC 厂商也纷纷推出基于 GB10 平台的整机, 试图在 AI 入口的争夺中占据一席。
从已披露信息看, 这一变化更值得关注的, 不只是表面动作本身, 还包括其对后续行业节奏、用户预期和市场竞争的连锁影响。
🔍 内存与速度: 本地 AI 的两道门槛
本地部署大模型, 内存是首要瓶颈 。以 70B 模型 4 比特量化为例, 仅权重就需要约 35GB, 加上缓存和系统开销, 对内存容量的需求远超传统 PC。为此, 苹果 Mac Studio 已提供最高 512GB 统一内存, 小米 AI Cube 配备 80GB,DGX Spark 则达到 128GB。
然而, 内存并非万能。DGX Spark 的 128GB 内存搭配 273GB/ s 带宽 , 决定了模型运行时的数据搬运速度。模型精度、上下文长度和推理软件同样影响体验。单纯堆内存, 无法解决所有问题。
💡 生态与模式: 谁在掌握话语权?
硬件之外, 软件生态和商业模式才是决定端侧 AI 走向的关键 。苹果凭借芯片、系统到开发工具的垂直整合, 让 Mac 成为本地 AI 的天然平台; 小米则试图通过自研芯片和米家生态, 将 AI 能力融入家庭场景, 但 AI Cube 仍停留在原型阶段, 与米家、Miloco 的整合尚未成熟。
传统 PC 厂商则选择共用上游平台, 如英伟达的 GB10, 将精力集中在整机设计和服务上。这种模式降低了门槛, 但也让产品差异化变得困难。当芯片和模型都来自同一供应商, 客户为何选择你? 答案或许在于部署工具、售后服务和客户关系。
📊 值得关注的几个看点
- 苹果的梯度布局: 从 Mac mini 到 Mac Studio, 覆盖不同预算和需求, 同时开放外部模型合作, 巩固平台优势。
- 小米的“家庭 AI”野心: 借助 11.6 亿台 AIoT 设备, 尝试让 AI 理解家庭需求, 但专用硬件的购买理由尚待证明。
- PC 厂商的突围: 惠普等通过提供便捷的部署工具和服务, 试图在共性平台下建立客户粘性。
🚀 行业观察: 大时代仍需等待
端侧 AI 的“小时代”已经到来, 但距离“大时代”还有距离 。模型压缩、内存成本、软件生态和用户习惯, 都是横亘在前的障碍。苹果和小米选择了不同的整合路径,PC 厂商则在寻找差异化空间。未来, 谁能率先解决“多花的钱留给谁”的问题, 谁就可能在下个阶段占据先机。
正如一位业内人士所言:“大时代, 还得等等 。”但等待并不意味着停滞, 每一次产品迭代和生态完善, 都在为那个真正的爆发积蓄力量。
