架构

Alauda GPU Management 通过单个 ClusterPolicy 自定义资源管理 GPU 主机栈。安装 operator 后,你创建一个 ClusterPolicy;operator 会将受管组件协调部署到 GPU 节点上,并保持它们处于声明的状态。

operator 为你管理的内容

受管组件对用户的作用默认值
Driver根据所选 driver 模式,在每个 GPU 节点上提供 NVIDIA 内核模块和用户态 driver。已启用(precompiled),或在 preinstalled-driver 模式下禁用
Container toolkit配置 containerd runtime 和 CDI,使 GPU 工作负载能够通过 nvidia RuntimeClass 访问设备。已启用
Device plugin将 GPU 作为 nvidia.com/gpu 可调度资源向 Kubernetes 进行声明。已启用
GPU Feature Discovery使用 GPU 型号、driver 版本以及用于调度的相关信息为节点打标签。已启用
DCGM-Exporter为 ACP 监控和 dashboard 提供 GPU 指标。已启用
Driver manager协调 driver 发布、节点 drain 和升级顺序。随 driver 一起启用

你无需单独安装或升级这些组件。它们在一个 ClusterPolicy 中声明,并被一起协调,这与之前每个能力都是独立集群插件的模型不同。

driver-mode 分支

决定该栈如何部署的唯一选择是 driver mode。它决定 operator 是否交付 driver,以及 driver 的来源:

  • Precompiled driver(immutable OS) — operator 会暂存一个 precompiled driver 镜像,从而使 SUSE Linux Micro 这类 immutable host 保持不变。会为节点内核选择匹配的 driver 镜像。
  • Preinstalled host driver — driver 已经存在于 host 上;operator 设置 driver.enabled=false,仅管理 runtime 和面向 Kubernetes 的组件。
  • Upstream driver(mutable OS) — operator 拉取 NVIDIA driver 镜像并在节点上构建模块;此模式可配置,但依赖 NVIDIA 托管的镜像。

driver mode 在创建 ClusterPolicy 之前一次性选定。有关每种模式的具体机制,请参见 Configure the driver mode;有关决策表,请参见 Install。

本 operator 不管理的组件

某些能力与 GPU 相关,但不属于本产品的默认范围:

  • GPU sharing、memory/compute partitioning 和 HAMi scheduling 由 HAMi 提供。该 operator 提供 HAMi 所依赖的 driver 和 runtime 基础。请参见 HAMi documentation。
  • MIG partitioning 可在 operator 中使用,但默认关闭,并且依赖用户提供的 mig-manager 镜像以及支持 MIG 的硬件。请参见 MIG resources。
  • vGPU、KubeVirt GPU passthrough、confidential computing 和 GPUDirect Storage 属于功能开关控制范围内的特性,不是默认交付的一部分。其镜像不包含在产品包中。