英伟达将 NVIDIA Run:ai 平台全面开源,作为 NVIDIA DSX 人工智能工厂平台的一部分。此举为客户、开发者和生态伙伴提供生产级人工智能工作负载和图形处理器编排能力。该平台包含四个模块组件,可独立采用:KAI Scheduler 用于图形处理器感知的 Kubernetes 调度、GPU Fractioning Operator 实现 CUDA 原生图形处理器共享、KAI Resource Management 处理组织配额与层级,以及 Workload Map 提供一致的工作负载管理契约。Crusoe、Mirantis 等八家 DSX 生态伙伴正将该开源平台集成到其产品中。Model Streamer 和 Grove 等相关开源项目将加速模型加载并编排多组件推理工作负载。
信源:https://developer.nvidia.com/blog/nvidia-runai-is-now-open-source-as-part-of-nvidia-dsx-ai-factory-platform/
