深圳团队基于昇腾910C完成1.6万亿参数大模型后训练

156次阅读
没有评论

共计 1156 个字符,预计需要花费 3 分钟才能阅读完成。

编辑导读

深圳国产芯片成功训练万亿级 AI 大模型: 依托华为昇腾 910C, 达到工业级运行标准

国产 AI 算力在超大模型训练上迎来一次关键验证。深圳河套学院 AI 训练平台项目团队联合多方机构, 依托华为昇腾 910C 国产 AI 算力集群, 完成了 1.6 万亿参数大模型 DeepSeek-V4-Pro 的全参数后训练。

📌 多方联合攻关, 目标指向国产算力训练能力

此次项目由深圳河套学院 AI 训练平台项目团队牵头,并联合哈尔滨工业大学(深圳)、深圳市大数据研究院、华为相关团队, 同时协同深智城 AI 算力平台推进。整体方向并非简单部署模型应用, 而是围绕国产算力支撑大模型训练展开联合攻关。

从已披露信息看,项目使用的是昇腾 910C 国产 AI 算力集群 , 训练对象为 1.6 万亿参数级别的大模型 DeepSeek-V4-Pro, 任务类型为 全参数后训练。这一规模意味着训练过程对芯片性能、集群调度、通信效率、算子优化和稳定性都有较高要求。

🔍 关键指标达到工业级运行标准

项目目前公布的核心进展主要集中在训练效率和运行标准两个方面: 模型算力利用率 (MFU) 已超过 30%,关键训练算子效率提升 14%, 并且各项指标达到工业级运行标准。

  • 算力平台:基于华为昇腾 910C 国产 AI 算力集群。
  • 模型规模:完成 1.6 万亿参数大模型 DeepSeek-V4-Pro 全参数后训练。
  • 效率表现:模型算力利用率超过 30%。
  • 优化成果:关键训练算子效率提升 14%。
  • 运行状态:相关指标达到工业级运行标准。

这些指标对于判断国产 AI 芯片能否支撑大规模训练具有参考意义。特别是在万亿级参数模型场景下, 单点算力并不是唯一变量, 系统级协同能力往往同样关键。

💡 训练与推理不是同一件事

值得注意的是,大模型“调用”和“大模型训练”在技术链条上并不等同。企业或开发者调用已有模型进行业务推理, 重点通常在响应速度、服务稳定性和成本控制; 而全参数训练或后训练则涉及更复杂的梯度计算、参数更新、数据调度以及长时间集群稳定运行。

📊 行业看点: 国产 AI 基础设施的可行性被进一步验证

在全球 AI 竞争持续升温的背景下,算力基础设施的重要性愈发突出。此次深圳团队的实践, 为第三方机构在国产算力平台上完成同级别模型训练积累了经验, 也为后续更多国产 AI 训练项目提供了可参考路径。

  • 推动高校、科研机构与城市算力平台之间形成更紧密的协同。
  • 增强国产 AI 芯片在大模型训练场景中的工程可信度。
  • 为后续模型训练框架、算子库和集群调度优化提供实践样本。
  • 帮助产业界更清晰地区分推理应用与训练能力之间的差异。

🚀 总结: 从可用到可训练, 仍需持续迭代

围绕“深圳国产芯片成功训练万亿级 AI 大模型: 依托华为昇腾”,这一部分可从背景、现状与影响三个角度理解其关键信息。结合已公开内容来看,核心结论是趋势已较为明确,但细节仍需结合后续进展持续观察。

本文基于公开信息整理, 如有侵权请联系删除。
正文完
 0