开始使用 NPU Operator
如果要安装 Ascend NPU 基础组件并运行工作负载,请使用本页面。这里介绍了最精简的受支持路径;驱动、运行时和故障排查的详细流程请参阅链接页面。
1. 安装 NPU Operator
首先参阅安装 NPU Operator。你需要对目标业务集群具有管理员访问权限,并且集群中已使用 Node Feature Discovery 组件。
2. 选择驱动管理方式
创建 NPUOperatorCtl 资源前,请选择一种驱动场景:
具体设置请参阅驱动和运行时先决条件。对于不可变 OS,Operator 会将 Driver 树暂存到 /run/ascend/driver 下,运行时会在准备工作负载时使用该目录。
3. 使用 NPU Operator 默认配置
默认的直接分配路径适用于请求 NPU 后即可启动运行的工作负载,无需在其清单中添加驱动路径或运行时详细信息:
- 已启用 Ascend Device Plugin;
- 已启用 Ascend 运行时集成;
ascendRuntimeClass 可用;- Pod 请求 Ascend 资源时,准入 webhook 会添加
runtimeClassName: ascend; - 默认禁用 Volcano;
- 工作负载镜像提供 CANN 和应用框架。
启用 webhook 和运行时集成时,普通的直接分配清单中不要添加 runtimeClassName、ASCEND_VISIBLE_DEVICES 或驱动 hostPath。
4. 请求一个完整 NPU
首先检查节点报告的资源键:
然后请求节点报告的确切键。常见的 310P 示例为:
完整清单请参阅请求 NPU 资源。这是整卡分配。需要使用 HAMi 进行 HAMi 调度、共享或切分时,请使用 HAMi。
5. 验证工作负载是否可用
Pod 准入后,检查以下各项:
- Pod 具有
runtimeClassName: ascend; - 节点设备可见,并且运行时已准备好 Driver 文件;
- ACL 探测可以初始化设备、分配和释放内存、重置设备,并成功完成最终处理;
- 小型应用操作可在 NPU 上运行并返回预期结果;
- 删除 Pod 后,设备会被释放,以供其他工作负载使用。
仅 Pod Running、设备节点或 npu-smi info 本身只能证明设备可访问。完整检查请参阅验证安装,检查失败时请参阅故障排除。
6. 决定是否使用 HAMi
当工作负载需要独占的整卡访问,且不需要 HAMi 调度或共享时,继续使用直接的 NPU Operator 路径。
当工作负载需要 HAMi 调度、整卡资源管理、硬切分或软切分时,请使用 HAMi。在安装 HAMi Ascend Device Plugin 之前:
- 保留 NPU Operator Driver、运行时和
ascendRuntimeClass; - 切换 Device Plugin 所有者,确保只有一个 Device Plugin 暴露目标设备;
- 选择一个 RuntimeClass 注入器。NPU Operator webhook 可以注入
ascend; HAMi 仅在其 Ascend 设备配置显式设置runtimeClassName: ascend时才能注入该 RuntimeClass。默认的 HAMi 安装会将该值留空。不要依赖两个注入器为同一工作负载执行注入; - 通过实际的 ACL 和应用检查验证所选所有者。
继续参阅 Ascend 上的 HAMi,了解 HAMi 安装、所有者切换、整卡分配和切分。