介绍

本网站介绍用于 ACP accelerator workloads 的 NVIDIA GPU vendor base path。它帮助用户准备 NVIDIA GPU nodes,安装和运维 GPU host software stack,并使 GPU 可供 Kubernetes workloads 使用。

Alauda GPU Management 是此 base path 中的核心产品。它通过单个 ClusterPolicy custom resource 在 ACP workload clusters 上安装和管理 NVIDIA GPU software stack:GPU driver、container runtime integration、NVIDIA device plugin、GPU Feature Discovery,以及 DCGM metrics。

当 ACP workloads 需要在 device plugin 报告了 NVIDIA GPU 的 nodes 上,将其作为 nvidia.com/gpu extended resource 进行请求时,请使用此产品。

Unified delivery

较早的版本将这些能力作为彼此独立的 cluster plugins 提供,每个插件都必须单独安装和升级——包括独立的 NVIDIA GPU Device Plugin、独立的 DCGM-Exporter,以及带外的 driver 和 container runtime setup。Alauda GPU Management 取代了这种模式:一个 OLM operator 和一个 ClusterPolicy 协同调和 driver、container-toolkit、device plugin、GPU Feature Discovery 和 DCGM-Exporter。

由于该产品现在跟踪的是上游 GPU Operator 版本线,而不是 device-plugin 版本线,因此版本提升为 v26.3.x。有关从之前的独立组件映射到统一 operator 的对应关系,请参见 Versions and Components。

何时使用

在以下情况下使用 Alauda GPU Management:

  • 你在 NVIDIA GPU nodes 上运行 container workloads,并希望通过 nvidia.com/gpu 进行调度;
  • 你希望将 GPU driver、container runtime integration、device plugin、feature discovery 和 DCGM metrics 作为一个 ACP 产品统一管理,而不是分别安装为独立插件;
  • 你的 GPU nodes 运行的是 immutable operating system(例如 SUSE Linux Micro),并且需要一个预编译 driver,以保持 host image 不变;
  • 你的 GPU nodes 已经有 host driver,而你只需要 operator 来管理面向 Kubernetes 的 GPU stack。

当任务起点是 GPU sharing、memory 或 compute partitioning,或者是在 NVIDIA GPUs 上的 HAMi scheduling behavior 时,请使用 HAMi 文档。在该组合路径中,本网站提供 NVIDIA GPU base——driver、runtime 和 node readiness——而 HAMi 文档负责 HAMi installation、device exposure、sharing semantics,以及其自身的 resource keys。

当你只需要在 GPU、NPU、HAMi、DRA 和 VM GPU passthrough 路径之间进行选择时,请使用 ACP accelerator 页面。对于 vendor hardware concepts、driver internals,以及不会影响 ACP operation 的 CUDA details,请使用 NVIDIA 自己的文档。

Product boundary

任务起点使用
在 NVIDIA nodes 上直接分配整个 GPU本网站(Alauda GPU Management)
GPU sharing、memory/compute partitioning、HAMi schedulingHAMi documentation
Ascend NPU allocationAscend NPU documentation
在 GPU / NPU / HAMi / DRA / VM passthrough 之间进行选择ACP accelerator pages

主要任务