共计 1192 个字符，预计需要花费 3 分钟才能阅读完成。
博通推出 VMWare AI 工厂, 简化企业私有云 AI 部署
企业 AI 落地正在从“能不能用”转向“能不能快速、可控地上线”。 博通宣布推出 VMware AI 工厂, 试图把 AI 基础设施、模型部署和资源管理整合到企业私有云环境中, 为内部 AI 应用提供更直接的生产化路径。
📌 定位:VMware AI 私有云的软件定义基础
按照博通的介绍,VMware AI 工厂是 VMware AI 私有云体系中的软件定义基础, 重点并不是单一模型或单一硬件, 而是围绕企业私有云中的 AI 基础设施部署提供自动化能力。其目标是让企业把 AI 应用直接部署在自有私有云环境内, 减少从服务器准备到模型上线之间的复杂操作。
🔍 核心能力:GPU 汇聚、模型库与 RAG 工作流
在企业内部部署 AI 时,GPU 往往是最关键也最昂贵的资源 。VMware AI 工厂强调通过 VCF 在企业范围内汇集 GPU 资源, 让不同团队能够在共享硬件上运行多个模型, 而不是为每个 AI 项目单独配置服务器。
平台还提供统一模型库, 面向数据科学团队提供单一操作界面 , 用于在虚拟机、容器以及 GPU 资源之间部署和管理模型推理任务, 并支持 RAG 工作流相关管理。
- 资源层面: 整合企业内部 GPU, 提升共享利用率。
- 部署层面: 通过自动化缩短 AI 基础设施准备时间。
- 应用层面: 支持模型推理和 RAG 工作流的统一管理。
- 运维层面: 提供面向 AI 负载的监控与可观测能力。
💡 可观测性: 把 Token 与算力利用纳入监控
除了部署流程, 博通也将 AI 运行过程中的可观测性作为重点。该平台内置监控能力, 可跟踪 Token 吞吐量、延迟, 以及计算和内存利用率等指标。对于已经将大模型接入业务流程的企业而言, 这些指标直接关系到成本、响应速度和系统稳定性。
📊 生态支持: 覆盖多家服务器厂商与模型架构
模型兼容性方面, 博通提到该平台兼容 Gemma 4、cotomi、Qwen 3.7-Max、GLM 5.2 等 AI 大模型。由于企业内部的模型选型差异较大, 兼容多种模型与加速器架构, 有助于降低平台绑定带来的迁移顾虑。
🚀 行业观察: 私有云 AI 部署需求正在升温
对许多大型企业来说,AI 应用并不一定全部适合放在公有云中运行 。数据合规、权限隔离、成本可控和既有 IT 架构复用, 都会推动一部分 AI 工作负载回到私有云或混合云环境。
VMware AI 工厂的推出 , 反映出基础设施厂商正在把竞争重点从传统虚拟化和云平台, 延伸到 AI 生产环境的自动化管理。对于已经大量采用 VMware 技术栈的企业而言, 这类方案的吸引力在于: 不必完全重建基础设施, 就能把 GPU、模型、容器和虚拟机纳入相对统一的管理框架。
总体来看,VMware AI 工厂更像是一套面向企业 AI 生产化的基础设施组合方案。它能否真正缩短部署周期、提升 GPU 和 Token 利用率, 还需要在具体企业场景中验证, 但其方向已经很明确: 让私有云成为企业 AI 应用落地的重要承载平台。
