共计 1177 个字符，预计需要花费 3 分钟才能阅读完成。
过去一个多月, 本地模型、小模型与个人智能体的密集涌现 , 把端侧 AI 再次推到了讨论中心。看好者认为它终将取代云端成为主流, 但“爆发时刻”一再失约。在 10 月 14 日举行的“从芯出发, 向端而生”大模型赋能智能终端创新实践大会暨后摩智能生态合作伙伴大会上, 芯片厂商、模型方与治理研究者的发言, 勾勒出这条赛道当下的真实位置。
📌 算力下沉, 不只是技术迁移
全球人工智能创新治理中心副主任、复旦大学国际关系与公共事务学院副教授蒋昌建提醒, 理解端侧 AI 不能只盯着技术 。云端到边端的转移, 同时意味着算力下沉, 以及权力、风险与责任的重新分配。
他以近期亚马逊封锁 Meta 个人智能体 Muse 为例, 指出技术权限与商业规则正在成为端侧 AI 的现实议题 。在他看来, 形成开放公平的接口治理制度, 实现安全、自主、公平与责任的统一, 对这条赛道尤为关键。
🔍 芯片侧的信号:Token 消耗涨了两个数量级
后摩智能创始人、CEO 吴强的观察更贴近产业一线:Agent 爆发让 Token 消耗提升 2 到 3 个数量级, 且趋势仍在加速 , 计算效率因此变得格外重要。其 M50 芯片量产不到一年, 已获得 150 多个产品定点, 服务客户超过百家。
在产品覆盖的四大场景中,Agent Computer 与边缘服务器起量最快;AI PC 看的是数亿台存量设备的替换空间; 具身智能也开始起量。吴强认为成本与生态决定速度——若 Token 边际成本趋近于零, 本地算力一次性投入后可无限调用, 行业会明显加速。后摩智能据此提出“端侧免费 Token 工厂”的概念, 希望成为端侧 AI 的算力底座。不过他也不讳言, 多数复杂场景现阶段仍需端边模型与云端协同满足。
💡 时间表分歧:1- 2 年临界点, 还是 2027 年年中
阿里云智能集团千问模型智能硬件行业总监徐超认为, 端侧的关键是把模型做小、把智能密度做高 , 有效利用 NPU 算力与内存。他预计, 到 2027 年年中, 端侧模型很可能已能解决大部分人的很多工作需求,“个人超级计算机”或成标配。
吴强的判断更早: 随着模型与芯片两端共同演进, 未来 1 到 2 年左右可能达到临界点 。后摩智能联合创始人、产品副总裁信晓旭则从指标层面给出视角——Token/$ 关注单位成本能换来的 Token 产出,Token/ W 关注推理输出与功耗的关系; 公司以 SRAM-CIM 为根技术, 推进 2D CIM 与 3D CIM 两条路径, 分别面向更大容量与更大带宽。
📊 最后 100 米的三道门槛
- 数据打通 : 让分散的数据真正流动起来;
- 交互嵌入工作流 : 能力要进入用户既有流程, 而非另起入口;
- 概率模型稳定性 : 输出可预期, 才谈得上被信任。
🚀 生态协同, 才是奇点的前置条件
围绕“Agent 热潮带火端侧 AI,“奇点时刻”还有多远?”，这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看，核心结论是趋势已较为明确，但细节仍需结合后续进展持续观察。
