OpenAI首席科学家回应Astra“推理不透明”争议,称前沿模型计算图深度相较GPT-4未出现跳跃式增长,并将继续加强思维链监控。

中科曙光宣布将推出全球首款64线程移动工作站,机身厚度仅16.9mm,配备16GB显存,本地运行35B MoE模型可达50 Tokens/s,AI推理速度提升3~5倍。

AI推理需求推高算力与能耗压力,光计算因适合矩阵运算被重新关注。不同技术路线正围绕低功耗、存算一体和太空部署展开竞争。

英伟达据称收购企业AI初创公司Kumo AI,重点指向结构化数据预测、推理算力和企业级AI解决方案布局。

智谱因GLM-5.1高速版API引发关注,400 tokens/s输出速度、推理引擎与网络架构优化,成为资本市场聚焦点。

DeepSeek V4发布,核心价值不在参数,而在国产芯片适配与低成本推理。通过架构优化,V4在华为昇腾上稳定运行,推理价格大幅降低,为企业规模化部署AI铺平道路。

在最新MLPerf v6.0基准测试中,英伟达凭借Blackwell Ultra架构实现全面性能碾压,其中DeepSeek-R1服务器端推理速度达每秒每GPU 8064词元,较前代提升2.77倍,展现其在AI硬件领域的领先地位。

英伟达在最新的MLPerf v6.0 AI推理基准测试中表现突出,其Blackwell Ultra架构在DeepSeek-R1服务器端测试中达到每秒每GPU处理8064个词元,相比上一版本提升2.77倍,展现了强大的AI推理性能。

中国大模型在全球API平台上的价格优势,背后是电价、电网与基础设施的深层较量。当推理成为AI商业竞争的核心,电力成本正从背景条件变为关键定价变量。

中国大模型在全球API市场频频报出低价,背后不仅是算法与工程的较量,更是电力成本、电网基础设施与能源结构的系统性优势。一度电的差价,正成为决定AI推理服务定价的关键变量。