兼容性

使用此页面检查 Alauda AI Infrastructure Accelerator Virtualization 支持的后端范围。此页面并非完整的上游 HAMi 或硬件厂商硬件矩阵。

支持的后端范围

后端状态说明
NVIDIA GPU支持使用 HAMi 资源键,例如 nvidia.com/gpualloc、nvidia.com/gpucores 和 nvidia.com/gpumem。
Ascend NPU后端支持取决于产品包请参阅 HAMi on Ascend NPU,并查看目标 ACP release 对应的当前产品包或版本页面。
Ascend vNPU后端支持取决于产品包仅当已安装的产品包明确支持目标硬件和 ACP 版本时,才使用 HAMi on Ascend vNPU。
其他社区后端不在当前 Alauda 支持范围内上游后端或配置中的设备条目本身并不意味着该后端属于 Alauda 支持的产品组合。

ACP 兼容性

请查看 release package,确认支持的 ACP 版本、Kubernetes 版本、后端驱动程序版本、运行时集成和 exporter 版本。

下表仅包含产品支持的组合。有关更广泛的后端详情,请参阅上游 HAMi 或硬件厂商文档。

支持的组合

后端路径组件组合架构ACP 版本功能
NVIDIA GPU 虚拟化Alauda AI Infrastructure Accelerator Virtualization v2.10.0,以及目标集群提供的 NVIDIA 驱动程序和运行时AMD64、ARM64v4.1-v4.4HAMi GPU 分配、调度和虚拟 GPU 资源。请在目标环境中确认驱动程序、运行时、GPU 型号和工作负载映像的组合。
基于 NPU Operator 的 HAMi Ascend 分配Alauda AI Infrastructure Accelerator Virtualization v2.10.0、Alauda Build of HAMi Ascend Device Plugin v1.4.1,以及受支持的 Alauda Build of NPU Operator 产品包ARM64v4.1-v4.4通过特定型号的 huawei.com/Ascend* 资源键实现由 HAMi 管理的整卡分配、硬切分和软切分。NPU Operator 保留 Driver 和 Runtime,但会禁用其原生 Device Plugin。

上述 Ascend 组合属于当前 v2.10 交付线。请确保 HAMi Operator 与单独打包的 Ascend Device Plugin 均采用目标 ACP release 所列的产品包组合。

v1.4.1 产品包记录了 Ascend 310P 整卡、硬切分和软切分操作步骤。生产环境使用前,请确认具体硬件、Driver、CANN 映像和 ACP 组合。Ascend 910 需要单独确认兼容性。请参阅 v1.4.1 release notes。

已安装的调度器配置提供了 Ascend 310P3 和 Ascend 910 系列设备(包括 910A、910B2、910B3、910B4-1、910B4 和 910C)的特定型号映射。Kubernetes 资源键由此映射生成,而非直接取自硬件营销名称。请检查 hami-scheduler-device 和目标节点的可分配资源,以获取已安装组合对应的有效资源键。

Ascend Driver 和 CANN 兼容性

HAMi Ascend Device Plugin v1.4.1 要求 Ascend Driver 版本为 25.5 或更高。Driver 版本只是兼容性条件之一:工作负载映像中的 CANN 库也必须与已安装的 Driver 兼容;对于软切分,还必须与 HAMi 注入的 libvnpu.so 兼容。

对于 hami-core 软切分,工作负载映像中的 CANN runtime 必须提供注入的 libvnpu.so 所需的符号。不提供 rtStreamGetCaptureInfo 的工作负载映像无法使用此软切分路径。此限制仅适用于软切分的 runtime ABI,本身并不能决定同一映像是否可以使用整卡分配。

不要仅凭可变映像标签、调度成功或 Pod Running 推断兼容性。记录工作负载映像摘要,确认该映像推荐的 Driver 和 CANN 组合,并在接受环境前运行有代表性的 CANN 设备打开、内存分配或推理操作。

避免设备重复暴露

启用 HAMi 管理的 Ascend 分配前,将 NPUOperatorCtl.spec.devicePlugin.enabled 设置为 false,并等待原生 ascend-device-plugin 从目标节点上移除。保持 NPU Operator Driver、OCI Runtime、RuntimeClass 和其他必需的基础组件运行。有关场景矩阵,请参阅选择 HAMi 部署场景;有关维护操作步骤,请参阅切换 Ascend Device Plugin 的所有者。