工作负载控制

本页列出了通过 pod 注解或容器环境变量应用的 HAMi 工作负载侧控制。仅当后端和版本文档明确支持该控制时,才应使用它们。

NVIDIA 后端注解

注解作用示例
nvidia.com/use-gpuuuid将调度限制为所列出的 GPU UUID。"GPU-AAA,GPU-BBB"
nvidia.com/nouse-gpuuuid将所列出的 GPU UUID 排除在调度之外。"GPU-AAA,GPU-BBB"
nvidia.com/use-gputype将调度限制为所列出的 GPU 型号名称。"A100,V100"
nvidia.com/nouse-gputype将所列出的 GPU 型号名称排除在调度之外。"1080,2080"
hami.io/node-scheduler-policy选择 GPU 节点调度策略。支持的值通常为 binpack 和 spread。"binpack"
hami.io/gpu-scheduler-policy选择所选节点上的 GPU 设备调度策略。支持的值通常为 binpack 和 spread。"spread"
nvidia.com/vgpu-mode当已安装包文档说明支持多种模式时,选择 NVIDIA HAMi 设备模式。"hami-core"
WARNING

除非当前 Alauda Build of HAMi 包及 release notes 明确支持该行为,否则不要使用诸如 nvidia.com/vgpu-mode 之类的特定模式注解来启用实验性行为。

将工作负载固定到某个 GPU UUID 时,也会将该工作负载固定到承载该 GPU 的节点。仅当工作负载确实需要特定设备时才使用此功能。

下面的示例将 HAMi 工作负载限制为两种 NVIDIA GPU 型号中的一种,同时排除一个已知设备 UUID:

metadata:
  annotations:
    nvidia.com/use-gputype: "A100,V100"
    nvidia.com/nouse-gpuuuid: "GPU-EXCLUDED"
spec:
  containers:
    - name: workload
      image: <your-gpu-image>
      resources:
        limits:
          nvidia.com/gpualloc: 1
          nvidia.com/gpucores: 50

在选择多个 UUID 或型号名称时,请使用逗号分隔的值。型号字符串必须与已安装 NVIDIA 栈发现的值匹配。

仅当单个工作负载需要不同的放置策略时,才覆盖默认的节点和 GPU 策略:

metadata:
  annotations:
    hami.io/node-scheduler-policy: "spread"
    hami.io/gpu-scheduler-policy: "binpack"

Ascend 后端注解

HAMi 会根据已安装资源类型配置的 commonWord 生成 Ascend UUID 控制:

注解模式作用
hami.io/use-<commonWord>-uuid将分配限制为所列出的 Ascend 设备 UUID。
hami.io/no-use-<commonWord>-uuid将所列出的 Ascend 设备 UUID 排除在外。

例如,将下面的占位符替换为已安装设备配置中的 commonWord 和资源键:

metadata:
  annotations:
    "hami.io/use-<common-word>-uuid": "<device-uuid>"
spec:
  containers:
    - name: workload
      image: <your-ascend-image>
      resources:
        limits:
          "<ascend-resource-key>": 1

注解后缀必须与已安装设备配置匹配,资源键必须与节点可分配资源匹配。HAMi 会在诸如 hami.io/node-register-<commonWord> 之类的节点注解中发布已注册的设备标识符;不要假设它们与每个厂商工具显示的标识符完全相同。

NVIDIA 后端环境变量

环境变量作用默认值
GPU_CORE_UTILIZATION_POLICY控制 HAMi-Core 如何应用请求的 nvidia.com/gpucores 限制。常见值为 default、force 和 disable。default
CUDA_DISABLE_CONTROL用于调试时禁用容器内的 HAMi-Core 控制。启用后,HAMi-Core 不会执行资源隔离和限制。false

仅在诊断时使用 CUDA_DISABLE_CONTROL。它会更改运行时强制执行行为,不应成为正常生产工作负载模板的一部分。

相关页面