选择 HAMi 部署场景
HAMi 为受支持的厂商加速器栈增加共享、虚拟化和调度能力。当工作负载需要由 HAMi 管理的设备分配时,请使用本页。
HAMi 具有以下能力和产品范围:
- HAMi Community 为 GPU、NPU 及其他厂商加速器提供可扩展的后端,包括来自多个国产厂商的加速器。
- 此处文档中的 Alauda 产品集成重点面向 NVIDIA GPU 和 Huawei Ascend NPU。
- 可用的加速器型号和分配模式取决于已安装的 Alauda 产品组合。请在 兼容性 中确认当前范围。
不使用 HAMi 的直接分配
如果目标节点池只需要独占整卡分配,而不需要 HAMi 调度、切分或资源管理,请改用厂商直分配路径。
对于 Ascend NPU,请为该节点池保持启用 NPU Operator 原生 Ascend Device Plugin,并且不要在同一设备上启用 HAMi Ascend Device Plugin。继续执行 直接请求 Ascend NPU 资源。
选择 HAMi 场景
请选择与加速器后端及工作负载所需分配行为相匹配的场景:
每个设备池仅允许一个 Device Plugin 所有者
在一个节点池中,只有一个 Device Plugin 可以公开并分配同一物理设备。
对于由 HAMi 管理的 Ascend 场景,请保留 NPU Operator Driver、OCI Runtime、ascend RuntimeClass 以及任何必需的 Exporter 组件,但禁用其原生 Ascend Device Plugin。HAMi Ascend Device Plugin 将成为整卡、硬切分和软切分工作负载的分配所有者。在创建由 HAMi 管理的工作负载之前,请先遵循 切换 Ascend Device Plugin 所有者。