安装 Alauda AI Infrastructure Accelerator Virtualization
本页面介绍如何在 ACP 中安装 v2.10.0 HAMi Operator。HAMi-WebUI 和 HAMi Ascend Device Plugin 是单独打包的组件,具有各自的兼容性和安装要求。
开始之前
- 具有目标 ACP 集群的集群管理员访问权限。
- 目标 ACP 和 Kubernetes 版本支持的 v2.10.0 Operator 软件包。请参阅版本和组件。
- 确认没有更早的 HAMi 集群插件占用 scheduler、webhook、RuntimeClass 或集群 RBAC 资源。请勿在同一集群中同时安装这两种软件包形式。
- 加速器节点已通过相应的 NVIDIA GPU 厂商基础文档 或 Ascend NPU 厂商基础文档 完成所需的厂商驱动、运行时和节点就绪检查。
- 目标后端受当前 HAMi 软件包和 ACP 版本支持。
选择部署场景
安装 HAMi 之前,请使用选择 HAMi 部署场景确定所需的产品、HAMi 设置、安装顺序和设备公开所有者。选择场景后返回此页面。
为目标集群选择一个厂商后端。本操作步骤不涵盖在同一集群中启用 NVIDIA GPU 和 Ascend NPU 后端。
准备 Operator 软件包
从 Alauda Cloud 获取 v2.10.0 的 Alauda AI Infrastructure Accelerator Virtualization,并使 Operator 软件包在 ACP 中可用。如需获取软件包,请联系 Consumer Support。有关标准上架操作步骤,请参阅 上架软件包。
安装 Alauda AI Infrastructure Accelerator Virtualization
-
为应运行 HAMi 组件的节点添加标签。使用所选后端和
Hami自定义资源所需的节点选择器。常见 NVIDIA 后端示例:
常见 Ascend 后端示例:
WARNING对于相同的物理设备,请保留一个设备公开和资源分配所有者。
如果 HAMi 在某个节点上公开设备,请勿同时让厂商设备插件或 DRA 驱动程序在该节点上公开相同的设备。对于 Ascend,请使用切换 Ascend Device Plugin 所有者执行维护操作。
-
在 ACP 中,转到
Administrator->Marketplace->OperatorHub,切换到目标集群,然后在hami-system中安装Alauda AI Infrastructure Accelerator Virtualization。如果 Subscription 使用手动批准,请批准 InstallPlan。等待hami-operator.v2.10.0达到Succeeded,并等待 Operator Deployment 变为 Ready。 -
在
hami-system中创建一个名为hami的Hami自定义资源。根据所选后端和运行时配置其值。Operator 从此资源管理 HAMi Helm release;请勿为同一 release 单独运行helm install。NOTE在不可变 OS 节点上,使主机和容器 hook 路径与目标运行时保持一致。安装后验证 GPU 工作负载的实际内存限制;仅 device-plugin Pod 处于 Ready 状态并不能证明内存拦截正常工作。
有关超额分配行为,请参阅配置超额分配比例。有关 CDI 准备和驱动程序路径,请继续参阅 NVIDIA GPU 厂商基础文档。
-
确认
Hami自定义资源报告Deployed,然后验证 HAMi scheduler 正在运行:对于 NVIDIA 场景,还要验证内置 NVIDIA device plugin:
-
对于 NVIDIA 场景,确认节点公开了预期的 HAMi NVIDIA 资源键:
对于 Ascend 场景,在检查节点可分配资源之前安装
Alauda Build of HAMi Ascend Device Plugin。核心 HAMi 安装本身不会公开 Ascend 设备。 -
对于 NVIDIA 场景,为用户将请求的 HAMi 资源名称注册 ACP 配额元数据。对于 Ascend 场景,完成 HAMi Ascend Device Plugin 的安装,并在注册元数据之前确认其资源名称。有关 ACP 所有的资源元数据操作步骤,请参阅 加速器资源配额。
继续安装特定后端组件
- 对于由 HAMi 管理的 Ascend 分配或 vNPU,请继续执行安装 HAMi Ascend Device Plugin。
- 对于可选的 HAMi 资源 WebUI,请继续执行安装 Alauda AI Infrastructure Accelerator Virtualization Console。
不使用 HAMi 调度直接分配 Ascend NPU 不属于此 HAMi 管理的安装路径。对于此工作负载模型,请继续参阅 直接请求 Ascend NPU 资源。