DeepSeek V4 预览版发布:万亿参数模型开源,推理成本与上下文能力全面升级

217次阅读
没有评论

共计 1320 个字符,预计需要花费 4 分钟才能阅读完成。

核心摘要

DeepSeek 再放大招, 国产大模型坐不住了

一句话

📌 架构升级: 从 V3 到 V4 的延续与突破

  • 重点: DeepSeek V4 上桌, 牌局又变了。
  • 重点: 当前公开信息主要集中在产品、策略或节奏变化上。
  • 重点: 后续仍需关注官方更新、落地范围以及实际反馈。

V4 延续了 V3 的 MoE 架构思路, 但在规模和技术细节上大幅提升 。V3 以 6710 亿总参数、每次激活 37B 专家的设计, 将训练成本压缩至 500 万美元左右。V4 完整版总参数跃升至 1.6 万亿,Lite 版为 2850 亿, 每层配置 384 个专家, 推理时激活 6 个。注意力机制升级为 DSA2, 整合了 V3/R1 的 DSA 设计并引入 NSA 稀疏注意力方案, 残差连接采用 Hyper-Connections 方案。这些技术积累使 V4 在数学、代码推理等基准测试中超越当前所有开源模型, 仅稍逊于 Gemini Pro 3.1。

🔍 推理成本: 百万 token 时代的“使用平权”

V4 在推理端实现了显著的成本控制。DSA2 稀疏注意力机制在 token 维度进行压缩, 降低了计算和显存需求; 支持 FP4 精度, 显存需求在 FP8 基础上再降一半。路透社报道推算,V4 每个 token 仅激活约 370 亿参数, 推理成本与 V3 保持同一量级。这意味着参数量翻倍, 成本却未增加。DeepSeek 还宣布 V4 所有官方服务默认支持百万 token 上下文, 且开源。这一举措大幅降低了开发者的使用门槛, 长文本处理、法律合同分析、长周期 Agent 调用等场景将直接受益。

💡 硬件生态: 从英伟达到华为昇腾的战略转移

V4 延期发布的主要原因是从英伟达生态迁移至华为昇腾芯片。DeepSeek R1 曾基于英伟达 GPU 的 PTX 底层进行极致优化, 但迁移到昇腾后, 整套底层代码和工程体系需重写。昇腾在芯片间互联带宽、软件生态成熟度上与英伟达存在差距, 工程师花费大量时间重写核心代码。V4 计划发布两个版本: 完整版面向华为昇腾, 轻量版可在其他国产芯片上运行。英伟达 CEO 黄仁勋对此评论称“对美国来说将是一个糟糕的结果”, 凸显了这一举措的战略意义。

📊 行业影响: 大模型竞争进入新阶段

V4 的发布加剧了国产大模型赛道的竞争。2026 年, 字节、阿里、腾讯、百度等大厂在 AI 应用推广上投入超 45 亿元, 技术竞赛进入胶着状态。阿里、MiniMax、Kimi 等厂商密集发布新模型,Token 消耗量排进全球前三。云厂商转向“模型超市”策略, 整合多家模型按需分发。DeepSeek V4 面临单一基座能力难以构成护城河的挑战, 需要在开源基准、长上下文易用性、推理成本控制及国产硬件支持等多条战线同时发力。V4 将推理成本作为新的突破口, 可能引发行业定价体系的进一步透明化。

🚀 总结:DeepSeek 的“去 CUDA 化”探索

V4 不仅是一次技术迭代, 更是 DeepSeek 在硬件生态上的一次重要试探。若 V4 能在华为昇腾上跑通稳定高效的推理, 将打破英伟达在 AI 芯片领域的护城河。同时,V4 的开源策略和低成本推理可能推动大模型从“能力平权”进入“使用平权”阶段。不过,DeepSeek 也面临融资、人才流失等现实问题, 首代模型核心作者罗福莉转投小米,R1 核心研究员郭达也已离开。V4 能否成为国产算力闭环的标杆, 仍有待市场验证。

本文基于公开信息整理, 如有侵权请联系删除。
正文完
 0