英伟达宣布将完整 NVIDIA Run:ai 平台以开源软件形式发布,并入 NVIDIA DSX AI Factory 平台。客户、开发者与生态伙伴将获得生产级的 AI 工作负载与 GPU 编排能力。
过去数年,Run:ai 帮助企业在大规模 Kubernetes 上运行 AI 工作负载,通过动态分配 GPU 资源、管理从数据处理、训练到推理的全生命周期工作负载,提升吞吐、改善 GPU 利用率。
此次开源包括完整平台,以及四个可独立采用的组件:KAI Scheduler(调度器)、GPU Fractioning Operator(GPU 切分算子)、KAI Resource Management(资源管理)、Workload Map(工作负载映射)。
平台团队与生态伙伴可以选择整体采用、基于它构建自有产品,或按需集成单个组件。英伟达希望借此让 DSX 生态中的每个 AI 云都能更高效地运营共享 AI 基础设施。
消息来源
本文根据公开报道整理。原始报道:NVIDIA Developer Blog

评论(0)
暂无评论