前提条件

在安装 Alauda Build of NPU Operator 之前,准备好集群和节点。

ACP 和集群访问权限

  • ACP v4.0-v4.4。
  • 具有目标业务集群的集群管理员访问权限,Alauda Build of NPU Operator 将安装在该集群中。
  • ACP 中提供 OperatorHub 和集群插件安装功能。
  • 可以从 customer portal 下载软件包,并在 ACP 中上架软件包。

节点和硬件

  • Ascend 910B 或 Ascend 310P 工作节点。
  • ARM 架构。
  • 目标业务集群中已安装 Alauda Build of Node Feature Discovery,因此在 NPU 组件进行调谐之前,共享的内核、操作系统、架构和硬件标签已可用。
  • 为 NPU 组件选择的节点允许 NPU Feature Discovery 运行。Driver、runtime、Device Plugin 和 Exporter 通过发现的 openfuyao.com/npu.present 标签选择 NPU 节点。可选的 Operator manager 和部分 MindCluster 组件还使用 masterselector=dls-master-node 或 workerselector=dls-worker-node;随附的 NPU Feature Discovery 运行时会维护这些角色标签。不要将它们作为正常安装步骤手动添加。
  • 对于 Ascend 910 系列节点,请在进行工作负载验证之前完成 HCCN 设备 IP 配置。v26.6.0 不会自动初始化 HCCN 设备 IP。

Driver 和 runtime

在创建 NPUOperatorCtl 实例之前,选择一种 Driver 管理场景:

场景使用时机
1. 不管理 DriverHost Driver 在 Alauda Build of NPU Operator 外部安装和升级。设置 driver.enabled=false、driver.installMode=host 和 driver.usePrecompiled=false。
2.1. Operator 管理物理主机物理主机操作系统可以运行随附的 Driver 安装程序。设置 driver.enabled=true、driver.installMode=host 和 driver.usePrecompiled=false。
2.2. Operator 管理不可变操作系统节点运行不可变操作系统或 Alauda OS,必须使用预编译的 Driver 树。设置 driver.enabled=true、driver.installMode=containerized 和 driver.usePrecompiled=true。

在场景 1 中,在启用依赖 Driver 的 NPU 组件之前,确认每个选定的 NPU 节点上都存在 /usr/local/Ascend/driver。

对于场景 2.2,请独立于产品软件包导入匹配的 ARM64 Driver 镜像。将完整的源镜像引用映射到目标业务集群注册表,并在集群强制执行镜像策略时,确保准入的镜像被 ImageWhiteList 允许。

设备暴露模型

使用选择 Ascend NPU 分配模式评估性能、设备利用率、共享需求和运维复杂性。然后,为每个 NPUOperatorCtl 实例管理的完整范围选择一个 Ascend 设备暴露负责人:

模型Device Plugin使用时机
NPU Operator 管理的直接 NPU 分配NPU Operator Ascend Device Plugin当 Alauda Build of NPU Operator 负责节点生命周期管理且工作负载直接请求 NPU 时使用。
手动管理的直接 NPU 分配Huawei Ascend Device Plugin当不使用 NPU Operator 进行完整生命周期管理,但工作负载仍直接请求 NPU 时使用。将 Huawei MindCluster 文档作为上游参考。
HAMi 管理的分配或 vNPU 行为HAMi Ascend Device Plugin当工作负载需要在 Ascend 设备上使用 HAMi 调度、虚拟化或切分行为时使用。

除非当前产品版本明确记录并验证了互斥的 Device Plugin 放置方式,否则不要在同一个管理范围内为相同的 Ascend 设备运行多个设备暴露负责人。

可选组件

  • 仅当计划启用 ClusterD 时安装 Volcano。
  • 仅当计划在离线或受控网络环境中启用 MindIO TFT 或 MindIO ACP 时,才在每个目标 NPU 节点上预置 MindIO SDK zip 文件。

ACP 交叉引用