介绍

什么是 HAMi?

Heterogeneous AI Computing Virtualization Middleware(HAMi),原名 k8s-vGPU-scheduler,是一个用于在 Kubernetes 集群中管理异构 AI 计算设备的“一体化”chart。它支持在任务之间共享异构 AI 设备。

为什么选择 HAMi

设备共享

  • 支持多种异构 AI 计算设备
  • 支持多设备容器的设备共享

设备内存控制

  • 容器内硬限制
  • 支持动态设备内存分配
  • 支持按 MB 或按百分比分配内存

设备规格指定

  • 支持为异构 AI 计算设备指定设备类型
  • 支持通过 UUID 选择特定的异构 AI 计算设备

易于试用

  • 对容器内任务透明
  • 可通过 Helm 安装/卸载——简单且干净

开放且中立

  • 由来自互联网、金融、制造和云服务提供商的贡献者共同发起
  • 以通过 CNCF 实现开放治理为目标