安装 Alauda AI Infrastructure Accelerator Virtualization

本页面介绍如何在 ACP 中安装 v2.10.0 HAMi Operator。HAMi-WebUI 和 HAMi Ascend Device Plugin 是单独打包的组件,具有各自的兼容性和安装要求。

开始之前

  • 具有目标 ACP 集群的集群管理员访问权限。
  • 目标 ACP 和 Kubernetes 版本支持的 v2.10.0 Operator 软件包。请参阅版本和组件。
  • 确认没有更早的 HAMi 集群插件占用 scheduler、webhook、RuntimeClass 或集群 RBAC 资源。请勿在同一集群中同时安装这两种软件包形式。
  • 加速器节点已通过相应的 NVIDIA GPU 厂商基础文档 或 Ascend NPU 厂商基础文档 完成所需的厂商驱动、运行时和节点就绪检查。
  • 目标后端受当前 HAMi 软件包和 ACP 版本支持。

选择部署场景

安装 HAMi 之前,请使用选择 HAMi 部署场景确定所需的产品、HAMi 设置、安装顺序和设备公开所有者。选择场景后返回此页面。

为目标集群选择一个厂商后端。本操作步骤不涵盖在同一集群中启用 NVIDIA GPU 和 Ascend NPU 后端。

准备 Operator 软件包

从 Alauda Cloud 获取 v2.10.0 的 Alauda AI Infrastructure Accelerator Virtualization,并使 Operator 软件包在 ACP 中可用。如需获取软件包,请联系 Consumer Support。有关标准上架操作步骤,请参阅 上架软件包。

安装 Alauda AI Infrastructure Accelerator Virtualization

  1. 为应运行 HAMi 组件的节点添加标签。使用所选后端和 Hami 自定义资源所需的节点选择器。

    常见 NVIDIA 后端示例:

    kubectl label nodes <node-name> gpu=on

    常见 Ascend 后端示例:

    kubectl label nodes <node-name> ascend=on
    WARNING

    对于相同的物理设备,请保留一个设备公开和资源分配所有者。

    如果 HAMi 在某个节点上公开设备,请勿同时让厂商设备插件或 DRA 驱动程序在该节点上公开相同的设备。对于 Ascend,请使用切换 Ascend Device Plugin 所有者执行维护操作。

  2. 在 ACP 中,转到 Administrator -> Marketplace -> OperatorHub,切换到目标集群,然后在 hami-system 中安装 Alauda AI Infrastructure Accelerator Virtualization。如果 Subscription 使用手动批准,请批准 InstallPlan。等待 hami-operator.v2.10.0 达到 Succeeded,并等待 Operator Deployment 变为 Ready。

  3. 在 hami-system 中创建一个名为 hami 的 Hami 自定义资源。根据所选后端和运行时配置其值。Operator 从此资源管理 HAMi Helm release;请勿为同一 release 单独运行 helm install。

    Hami 设置确定方式
    spec.global.registry.address设置目标 ACP 节点可访问的镜像 registry。不要假设集群可以访问构建 registry。
    spec.devicePlugin.enabled仅当 HAMi 拥有所选 GPU 节点上的设备公开权时,才启用内置 NVIDIA device plugin。
    spec.devicePlugin.runtimeClassName与准备好的 NVIDIA RuntimeClass 保持一致,通常为 hami-nvidia。
    spec.devicePlugin.deviceListStrategy使用 envvar 注入 NVIDIA_VISIBLE_DEVICES。仅在 NVIDIA 基础路径已准备好 CDI 后使用 CDI。
    spec.devicePlugin.deviceSplitCount根据容量规划设置每个 GPU 上 HAMi 任务的最大并发数。
    spec.devicePlugin.deviceMemoryScaling 和 deviceCoreScaling除非已明确规划超额分配,否则保持为 1。
    spec.scheduler.defaultSchedulerPolicy为工作负载选择节点和 GPU binpack 或 spread 行为。
    spec.scheduler.kubeScheduler.customImage当目标集群需要覆盖 scheduler 时,设置完整的镜像引用。scheduler 镜像由目标平台提供,而不是由 HAMi 软件包提供。
    NOTE

    在不可变 OS 节点上,使主机和容器 hook 路径与目标运行时保持一致。安装后验证 GPU 工作负载的实际内存限制;仅 device-plugin Pod 处于 Ready 状态并不能证明内存拦截正常工作。

    有关超额分配行为,请参阅配置超额分配比例。有关 CDI 准备和驱动程序路径,请继续参阅 NVIDIA GPU 厂商基础文档。

  4. 确认 Hami 自定义资源报告 Deployed,然后验证 HAMi scheduler 正在运行:

    kubectl get pods -n kube-system | grep "hami-scheduler"

    对于 NVIDIA 场景,还要验证内置 NVIDIA device plugin:

    kubectl get pods -n kube-system | grep "hami-device-plugin"
  5. 对于 NVIDIA 场景,确认节点公开了预期的 HAMi NVIDIA 资源键:

    kubectl get node <node-name> -o jsonpath='{.status.allocatable}'

    对于 Ascend 场景,在检查节点可分配资源之前安装 Alauda Build of HAMi Ascend Device Plugin。核心 HAMi 安装本身不会公开 Ascend 设备。

  6. 对于 NVIDIA 场景,为用户将请求的 HAMi 资源名称注册 ACP 配额元数据。对于 Ascend 场景,完成 HAMi Ascend Device Plugin 的安装,并在注册元数据之前确认其资源名称。有关 ACP 所有的资源元数据操作步骤,请参阅 加速器资源配额。

继续安装特定后端组件

不使用 HAMi 调度直接分配 Ascend NPU 不属于此 HAMi 管理的安装路径。对于此工作负载模型,请继续参阅 直接请求 Ascend NPU 资源。

后续步骤