开始使用 NPU Operator

如果要安装 Ascend NPU 基础组件并运行工作负载,请使用本页面。这里介绍了最精简的受支持路径;驱动、运行时和故障排查的详细流程请参阅链接页面。

1. 安装 NPU Operator

首先参阅安装 NPU Operator。你需要对目标业务集群具有管理员访问权限,并且集群中已使用 Node Feature Discovery 组件。

2. 选择驱动管理方式

创建 NPUOperatorCtl 资源前,请选择一种驱动场景:

场景你需要提供的内容适用情况
Operator 管理物理主机可运行随附驱动安装程序的物理 OS主机可变更,且应由 Operator 管理主机驱动
Operator 管理不可变 OS匹配的预编译 Driver 镜像节点使用不可变 OS 或 Alauda OS
由 NPU Operator 以外的系统管理驱动每个选定节点上已安装且运行正常的 Host Driver由其他系统负责驱动安装和升级

具体设置请参阅驱动和运行时先决条件。对于不可变 OS,Operator 会将 Driver 树暂存到 /run/ascend/driver 下,运行时会在准备工作负载时使用该目录。

3. 使用 NPU Operator 默认配置

默认的直接分配路径适用于请求 NPU 后即可启动运行的工作负载,无需在其清单中添加驱动路径或运行时详细信息:

  • 已启用 Ascend Device Plugin;
  • 已启用 Ascend 运行时集成;
  • ascend RuntimeClass 可用;
  • Pod 请求 Ascend 资源时,准入 webhook 会添加 runtimeClassName: ascend;
  • 默认禁用 Volcano;
  • 工作负载镜像提供 CANN 和应用框架。

启用 webhook 和运行时集成时,普通的直接分配清单中不要添加 runtimeClassName、ASCEND_VISIBLE_DEVICES 或驱动 hostPath。

4. 请求一个完整 NPU

首先检查节点报告的资源键:

kubectl get node <node-name> -o jsonpath='{.status.allocatable}{"\n"}'

然后请求节点报告的确切键。常见的 310P 示例为:

resources:
  limits:
    huawei.com/Ascend310P: "1"

完整清单请参阅请求 NPU 资源。这是整卡分配。需要使用 HAMi 进行 HAMi 调度、共享或切分时,请使用 HAMi。

5. 验证工作负载是否可用

Pod 准入后,检查以下各项:

  1. Pod 具有 runtimeClassName: ascend;
  2. 节点设备可见,并且运行时已准备好 Driver 文件;
  3. ACL 探测可以初始化设备、分配和释放内存、重置设备,并成功完成最终处理;
  4. 小型应用操作可在 NPU 上运行并返回预期结果;
  5. 删除 Pod 后,设备会被释放,以供其他工作负载使用。

仅 Pod Running、设备节点或 npu-smi info 本身只能证明设备可访问。完整检查请参阅验证安装,检查失败时请参阅故障排除。

6. 决定是否使用 HAMi

当工作负载需要独占的整卡访问,且不需要 HAMi 调度或共享时,继续使用直接的 NPU Operator 路径。

当工作负载需要 HAMi 调度、整卡资源管理、硬切分或软切分时,请使用 HAMi。在安装 HAMi Ascend Device Plugin 之前:

  • 保留 NPU Operator Driver、运行时和 ascend RuntimeClass;
  • 切换 Device Plugin 所有者,确保只有一个 Device Plugin 暴露目标设备;
  • 选择一个 RuntimeClass 注入器。NPU Operator webhook 可以注入 ascend; HAMi 仅在其 Ascend 设备配置显式设置 runtimeClassName: ascend 时才能注入该 RuntimeClass。默认的 HAMi 安装会将该值留空。不要依赖两个注入器为同一工作负载执行注入;
  • 通过实际的 ACL 和应用检查验证所选所有者。

继续参阅 Ascend 上的 HAMi,了解 HAMi 安装、所有者切换、整卡分配和切分。