资源键
工作负载通过 device plugin 广播的 Kubernetes 扩展资源名称请求 NVIDIA GPU。
nvidia.com/gpu
将其设置为容器上的资源限制:
始终从实际运行的集群中确认该键,不要根据 GPU 型号进行假设:
MIG 资源键
当 MIG 使用 mixed 策略配置时,MIG 实例会以其自己的键进行广播,格式为 nvidia.com/mig-<slice_count>g.<memory_size>gb(例如 nvidia.com/mig-1g.5gb)。使用 single 策略时,MIG 实例会以 nvidia.com/gpu 进行广播。参见 MIG resources。
HAMi 资源键
通过 HAMi 进行 GPU 共享和切分时,使用的是 HAMi 特定的资源键,而不是 nvidia.com/gpu。这些键记录在 HAMi documentation 中。