工作负载控制
本页列出了通过 pod 注解或容器环境变量应用的 HAMi 工作负载侧控制。仅当后端和版本文档明确支持该控制时,才应使用它们。
NVIDIA 后端注解
WARNING
除非当前 Alauda Build of HAMi 包及 release notes 明确支持该行为,否则不要使用诸如 nvidia.com/vgpu-mode 之类的特定模式注解来启用实验性行为。
将工作负载固定到某个 GPU UUID 时,也会将该工作负载固定到承载该 GPU 的节点。仅当工作负载确实需要特定设备时才使用此功能。
下面的示例将 HAMi 工作负载限制为两种 NVIDIA GPU 型号中的一种,同时排除一个已知设备 UUID:
在选择多个 UUID 或型号名称时,请使用逗号分隔的值。型号字符串必须与已安装 NVIDIA 栈发现的值匹配。
仅当单个工作负载需要不同的放置策略时,才覆盖默认的节点和 GPU 策略:
Ascend 后端注解
HAMi 会根据已安装资源类型配置的 commonWord 生成 Ascend UUID 控制:
例如,将下面的占位符替换为已安装设备配置中的 commonWord 和资源键:
注解后缀必须与已安装设备配置匹配,资源键必须与节点可分配资源匹配。HAMi 会在诸如 hami.io/node-register-<commonWord> 之类的节点注解中发布已注册的设备标识符;不要假设它们与每个厂商工具显示的标识符完全相同。
NVIDIA 后端环境变量
仅在诊断时使用 CUDA_DISABLE_CONTROL。它会更改运行时强制执行行为,不应成为正常生产工作负载模板的一部分。