分配到特定设备类型

分配到特定设备类型

有时任务需要在某种特定类型的 GPU 上运行。为此,请在 pod annotations 中设置 nvidia.com/use-gputype 字段。随后,HAMi scheduler 会检查 nvidia-smi -L 返回的设备类型是否与该注解值匹配。

例如,带有以下注解的任务将被分配到 A100 或 V100 GPU:

metadata:
  annotations:
    nvidia.com/use-gputype: "A100,V100" # Specify the card type for this job, use comma to separate, will not launch job on non-specified card

任务还可以使用 nvidia.com/nouse-gputype 来避开某些 GPU 类型。在下面的示例中,job 将不会被分配到 1080(包括 1080Ti)或 2080(包括 2080Ti)卡。

metadata:
  annotations:
    nvidia.com/nouse-gputype: "1080,2080" # Specify the blacklist card type for this job, use comma to separate, will not launch job on specified card