资源键

工作负载通过 device plugin 广播的 Kubernetes 扩展资源名称请求 NVIDIA GPU。

nvidia.com/gpu

Key含义单位
nvidia.com/gpu分配给容器的一整块 NVIDIA GPUcount

将其设置为容器上的资源限制:

resources:
  limits:
    nvidia.com/gpu: 1

始终从实际运行的集群中确认该键,不要根据 GPU 型号进行假设:

kubectl get node ${nodeName} -o jsonpath='{.status.allocatable}'

MIG 资源键

当 MIG 使用 mixed 策略配置时,MIG 实例会以其自己的键进行广播,格式为 nvidia.com/mig-<slice_count>g.<memory_size>gb(例如 nvidia.com/mig-1g.5gb)。使用 single 策略时,MIG 实例会以 nvidia.com/gpu 进行广播。参见 MIG resources。

HAMi 资源键

通过 HAMi 进行 GPU 共享和切分时,使用的是 HAMi 特定的资源键,而不是 nvidia.com/gpu。这些键记录在 HAMi documentation 中。