HAMi on Ascend NPU(整卡)

当 Ascend 工作负载需要独占整卡分配,但仍应使用 HAMi 进行调度和资源管理时,请使用此场景。若要在不使用 HAMi 的情况下直接分配 Ascend,请使用 直接请求 Ascend NPU 资源。如需硬切分或软切分,请使用 HAMi on Ascend vNPU。

创建工作负载前

请确认:

  • 已安装 Alauda Build of HAMi,并启用了 Enable Ascend;
  • 已安装 Alauda Build of HAMi Ascend Device Plugin,并选择了目标节点,通常使用 ascend=on;
  • NPU Operator Driver、OCI Runtime 和 ascend RuntimeClass 仍然可用,但已为此节点池禁用其原生 Ascend Device Plugin。

检查公开的资源:

kubectl get node <node-name> \
  -o jsonpath='{.status.allocatable}'

节点必须报告特定型号的 Ascend 计数资源。仅请求计数资源时,无论节点采用何种部分内存模式,都会选择整卡分配。当工作负载需要硬切分或软切分时,请使用 HAMi on Ascend vNPU 和 Configure Ascend Slicing Mode。

RuntimeClass 注入

示例会显式设置 runtimeClassName: ascend。仅当 NPU Operator webhook 或 HAMi Ascend scheduler 配置为注入 ascend 时,才可以省略该设置;请使用其中一个注入器,并验证已准入的 Pod。

运行整卡工作负载

以下 Pod 清单以 Ascend 310P3 作为具体示例。此硬件型号通过 HAMi v2.10.0 和 HAMi Ascend Device Plugin v1.4.1 提供的 huawei.com/Ascend310P 资源键公开。请将镜像替换为包含 CANN 库以及测试应用所需 npu-smi 的 ARM64 Ascend 镜像。

apiVersion: v1
kind: Pod
metadata:
  name: hami-ascend310p-whole
spec:
  schedulerName: hami-scheduler
  runtimeClassName: ascend
  restartPolicy: Never
  containers:
    - name: npu-workload
      image: <your-ascend-image>
      command: ["/bin/sh", "-c"]
      args:
        - |
          npu-smi info
          sleep 3600
      resources:
        requests:
          huawei.com/Ascend310P: "1"
        limits:
          huawei.com/Ascend310P: "1"

请勿在此整卡请求中添加内存资源、核心资源或 huawei.com/vnpu-mode 注解。

创建并检查 Pod:

kubectl apply -f hami-ascend310p-whole.yaml
kubectl get pod hami-ascend310p-whole -o wide
kubectl get pod hami-ascend310p-whole \
  -o go-template='scheduler={{ .spec.schedulerName }}{{ "\n" }}runtimeClass={{ .spec.runtimeClassName }}{{ "\n" }}allocation={{ index .metadata.annotations "hami.io/Ascend310P-devices-allocated" }}{{ "\n" }}'
kubectl exec hami-ascend310p-whole -- /bin/sh -c '
  test -z "$ASCEND_VNPU_SPECS" &&
  test -z "$NPU_MEM_QUOTA" &&
  npu-smi info
'

请按以下方式解读结果:

  • scheduler=hami-scheduler 和 runtimeClass=ascend 确认预期的调度和 Ascend 运行时路径。
  • 非空的 hami.io/Ascend310P-devices-allocated 注解确认 HAMi 已分配设备。
  • ASCEND_VNPU_SPECS 和 NPU_MEM_QUOTA 均不存在,结合仅请求计数资源这一点,可确认工作负载未选择硬切分或软切分。
  • 成功执行 npu-smi info 确认基本的设备访问正常。请运行具有代表性的 CANN 或推理工作负载,进行端到端验证。

对于 Ascend 910 系列设备,请从 hami-scheduler-device 获取型号映射,在节点可分配资源中确认其计数资源,并将 huawei.com/Ascend310P 及分配注解后缀替换为对应值。

后续步骤