资源键

HAMi 资源键取决于后端。请使用已安装产品软件包提供并验证的键。

请先选择后端路径:

NVIDIA 后端

资源键含义单位
nvidia.com/gpualloc用作分配基准的物理 GPU 数量count
nvidia.com/gpucores每个物理 GPU 请求的计算比例percent
nvidia.com/gpumem每个物理 GPU 请求的内存量Mi
nvidia.com/gpumem-percentage每个物理 GPU 请求的内存比例percent

在容器中使用 nvidia.com/gpumem 或 nvidia.com/gpumem-percentage,不要同时使用两者。

有关 NVIDIA 后端工作负载注解和环境变量,请参阅工作负载控制。

相关 NVIDIA 键

某些环境中还可能包含其他 NVIDIA 共享技术的资源键,例如 MPS 或旧版 vCUDA 资源。除非产品文档明确支持组合使用,否则不要在同一工作负载中混用这些键和 HAMi 资源键。

节点标签

标签用途
gpu=on在常见的 NVIDIA 后端安装路径中,为 HAMi 组件选择节点。

如果要分配物理 NVIDIA GPU 且不使用 HAMi 共享语义,请使用 Alauda Build of NVIDIA GPU Device Plugin 和 nvidia.com/gpu 资源键。

Ascend 后端

Ascend NPU 和 Ascend vNPU 资源键因型号而异。它们可能使用与直接 Ascend NPU 路径相同的 huawei.com/Ascend* 命名空间,因此一组 Ascend 设备只能由一个 Device Plugin 管理。

HAMi v2.10.0 和 HAMi Ascend Device Plugin v1.4.1 对 Ascend 310P3 硬件使用以下资源系列:

资源键含义单位
huawei.com/Ascend310P用作分配基准的物理设备数量。整卡分配时仅请求此键。count
huawei.com/Ascend310P-memory硬切分或软切分时,每个虚拟设备请求的内存量。Mi
huawei.com/Ascend310P-core仅由 hami-core 软切分使用的计算份额。percent

Ascend 910 系列设备使用特定于型号的资源系列,例如 huawei.com/Ascend910A、huawei.com/Ascend910B3 和 huawei.com/Ascend910B4-1;相应的 -memory 和 -core 键由已安装的调度器配置定义。请从 hami-scheduler-device 获取确切的数量、内存、核心和分配注解名称。请使用节点可分配资源确认数量容量;仅供调度器使用的内存和核心键可能不会显示在其中。

vir01 等硬切分模板名称是运行时模板值,而不是 Kubernetes 资源键。可用模板和内存大小因型号而异。Ascend 310P3 示例请参阅运行硬切分工作负载。

节点标签

标签用途
ascend=on在常见的 Ascend NPU 和 Ascend vNPU 后端示例中,为 HAMi Ascend 组件选择节点。

不要假定芯片产品名称与 Kubernetes 资源键是同一个字符串。例如,根据已安装的软件包,Ascend 910 系列节点可能会公开 huawei.com/Ascend910A、huawei.com/Ascend910B3 或其他 huawei.com/Ascend* 键。

安装后,请检查调度器配置,并确认所选节点上的数量资源:

kubectl -n <hami-namespace> get configmap hami-scheduler-device -o yaml
kubectl get node <node-name> -o jsonpath='{.status.allocatable}'

仅使用与 hami-scheduler-device 中目标硬件映射相匹配的资源系列,并在创建工作负载前确认节点报告了预期的数量容量。

ACP 配额字段

如果 ACP 配额页面需要显示 HAMi 资源,请配置匹配的 ACP 资源元数据。使用用户将在工作负载中请求的相同键注册 ACP 配额元数据。请参阅 Accelerator Resource Quota。