安装 HAMi Ascend Device Plugin

当必须通过 HAMi 管理的整卡分配、硬切分或软切分公开 Ascend 设备时,请安装 Alauda Build of HAMi Ascend Device Plugin。它以 Operator Bundle 的形式交付,并通过 HAMiAscendDevicePlugin 自定义资源进行管理。请勿使用独立的 DaemonSet 安装替代此由 ACP 管理的组件。

WARNING

使用前请查看 v1.4.1 release notes,其中包括仅适用于 Ascend 310P 的验证范围和已知硬件限制。

开始之前

  • 安装 Alauda Build of HAMi,并在其集群插件形式中启用 Enable Ascend。
  • 安装受支持的 Alauda Build of NPU Operator 软件包,并通过 Ascend NPU 供应商基础文档 准备 Ascend Driver、OCI Runtime、ascend RuntimeClass 以及节点健康状态。安装前,请确认目标 ACP 版本对应的 NPU Operator 和 Driver 组合。
  • 在 Versions and Components 中确认受支持的 HAMi 与 HAMi Ascend Device Plugin 组合。
  • 为每个目标节点添加 ascend=on 标签,除非已安装的产品配置使用其他值。
  • 完成 Switch the Ascend Device Plugin Owner,并确认 native Ascend Device Plugin 已停止,然后再创建 HAMiAscendDevicePlugin 实例。请勿编辑生成的 NPUClusterPolicy 或 DaemonSet。
  • 确认 ascend RuntimeClass 存在。已准入的 HAMi 工作负载必须具有 runtimeClassName: ascend;除非 NPU Operator webhook 或 HAMi scheduler 配置为自动注入,否则请在清单中设置该值。只能使用一个 RuntimeClass 注入器。

当默认节点标签与已安装的产品配置匹配时,应用该标签:

kubectl label node <ascend-node> ascend=on --overwrite

对于 HAMi 管理的 Ascend 分配,NPU Operator 仍需保持安装状态。请保持其 Driver、OCI Runtime、ascend RuntimeClass 以及任何必需的 Exporter 组件运行;只能通过所有者切换操作步骤禁用其 native Device Plugin。

安装 Operator Bundle

  1. 从 Customer Portal 获取 Alauda Build of HAMi Ascend Device Plugin,并将 Operator Bundle 上传到 ACP。

  2. 在 ACP 中,打开 Administrator -> Marketplace -> OperatorHub,切换到目标集群,然后安装 Alauda Build of HAMi Ascend Device Plugin。

  3. 检查 OLM 资源。如果 Subscription 使用手动审批,请检查并批准生成的 InstallPlan。

    kubectl get subscription,csv,installplan -A \
      | grep hami-ascend-device-plugin

    继续操作前,ClusterServiceVersion 必须达到 Succeeded。

  4. 从产品表单创建 HAMiAscendDevicePlugin 实例。创建前,请填写 Namespace 以及 配置实例 中所述的其他必需设置。然后,在所选命名空间中验证该实例:

    kubectl -n <hami-namespace> get \
      hamiascenddeviceplugin.hami.io hami-ascend-device-plugin -o yaml

配置实例

创建实例前,请检查以下设置。仅当默认值与目标节点和现有的平台管理资源相匹配时,才保留默认值。

WARNING

请在 kube-system 中创建 HAMiAscendDevicePlugin 实例,默认 HAMi 安装会在此处创建 hami-scheduler-device。HAMi Operator 和 Hami 自定义资源通常使用 hami-system;请勿将该命名空间用于 ADP 实例或共享设备 ConfigMap。

字段默认值用途
Namespacekube-systemHAMiAscendDevicePlugin operand 和 HAMi 管理的 hami-scheduler-device ConfigMap 所在的命名空间。HAMi Operator 和 Hami 自定义资源通常使用 hami-system。
Existing Device ConfigMaphami-scheduler-device重用由 Alauda Build of HAMi 创建的全局设备配置。
Ascend Node Label Valueon选择带有 ascend=<value> 标签的节点。
Create RuntimeClassfalse防止 operator 重复创建已由平台或其他产品管理的 RuntimeClass。
RuntimeClass NameascendHAMi 管理的 Ascend 工作负载所使用的 RuntimeClass。
RuntimeClass Handlerascend仅当此 operator 创建 RuntimeClass 时使用的容器运行时处理程序。
Enable hami-vnpu-corefalse仅当此实例创建自己的设备 ConfigMap 时,才设置全局软切分值。v1.4.1 Alauda 交付通常会重用 HAMi 管理的 hami-scheduler-device ConfigMap,因此仅更改此字段不会改变生效的节点模式。
Ascend Driver Host Path/run/ascend/driver驱动程序目录在主机上的源路径,该目录会挂载到设备插件容器内的 /usr/local/Ascend/driver。请使用 Ascend 基础产品准备的路径。
HAMi Shared Region Host Path/var/lib/hami/hami-shared-regionHAMi vNPU 运行时协调所使用的可写主机目录。
HAMi vNPU Core Host Path/var/lib/hami/hami-vnpu-corehami-vnpu-core 使用的可写主机目录。
Node ConfigMap Namehami-device-node-config由 operator 管理的逐节点 HAMi vNPU 配置。
Node ConfigurationEmpty软切分、虚拟设备数量以及从 HAMi 管理中排除的设备的可选逐节点设置。
Enable ServiceMonitortrue当 ServiceMonitor API 可用时,将内置软切分指标发布到 ACP 监控。

根据驱动程序部署方式设置 Ascend Driver Host Path:

  • Host Driver:/usr/local/Ascend/driver
  • Alauda OS Runtime Driver:/run/ascend/driver

创建实例前,请确定每个目标节点将用于整卡工作负载、硬切分还是软切分。整卡请求不依赖部分内存节点模式。对于 v1.4.1 Alauda 交付中的硬切分或软切分,请通过结构化的 spec.nodeConfig 对象设置预期的逐节点值;当实例重用 HAMi 管理的 ConfigMap 时,请勿仅依赖 spec.hamiVnpuCore.enabled。

有关完整的模式映射、YAML 更新、vDeviceCount 指南、滚动更新命令和结果解读,请参阅配置 Ascend 切分模式。有关工作负载请求,请参阅整卡或硬切分和软切分页面。

验证安装

  1. 分别检查两个命名空间。默认 HAMi Operator 和 Hami 资源位于 hami-system;scheduler、hami-scheduler-device 和 HAMiAscendDevicePlugin operand 位于 kube-system。在以下检查中,将 <hami-namespace> 替换为 kube-system:

    kubectl -n <hami-namespace> get configmap hami-scheduler-device
    kubectl -n <hami-namespace> get hamiadp hami-ascend-device-plugin -o yaml
  2. 检查 operator 和 DaemonSet:

    kubectl get csv -A | grep hami-ascend-device-plugin
    kubectl -n <hami-namespace> get ds hami-ascend-device-plugin -o wide
    kubectl -n <hami-namespace> get pods -o wide | grep hami-ascend-device-plugin
  3. 确认目标节点上只有选定的 device-plugin owner 处于 Ready 状态:

    kubectl get ds -A -o wide \
      | grep -E 'ascend-device-plugin|hami-ascend-device-plugin'
  4. 确认已安装软件包公开的实际资源名称:

    kubectl get node <ascend-node> -o jsonpath='{.status.allocatable}'

仅当节点报告预期的 HAMi 管理的 Ascend 资源时,才继续操作。

对于用于软切分的安装,请在配置 Ascend 切分模式中运行生效模式和 scheduler 配置检查。仅当目标节点报告 hami-vnpu-core=true,且已安装的配置包含特定于模型的数量和内存映射时,才继续操作。仅当该模型声明了 resourceCoreName 时,才使用可选的 core 键。

  1. 对于每个代表性工作负载,验证运行时和设备访问:

    kubectl -n <namespace> get pod <pod-name> \
      -o jsonpath='{.spec.runtimeClassName}{"\n"}'

    RuntimeClass 必须为 ascend。运行 npu-smi info 和设备内存或推理工作负载,以确认 Pod 可以使用分配的设备。使用整卡清单或硬切分和软切分清单执行此检查。

后续步骤