介绍
什么是 HAMi?
Heterogeneous AI Computing Virtualization Middleware(HAMi),原名 k8s-vGPU-scheduler,是一个用于在 Kubernetes 集群中管理异构 AI 计算设备的“一体化”chart。它支持在任务之间共享异构 AI 设备。
为什么选择 HAMi
设备共享
- 支持多种异构 AI 计算设备
- 支持多设备容器的设备共享
设备内存控制
- 容器内硬限制
- 支持动态设备内存分配
- 支持按 MB 或按百分比分配内存
设备规格指定
- 支持为异构 AI 计算设备指定设备类型
- 支持通过 UUID 选择特定的异构 AI 计算设备
易于试用
- 对容器内任务透明
- 可通过 Helm 安装/卸载——简单且干净
开放且中立
- 由来自互联网、金融、制造和云服务提供商的贡献者共同发起
- 以通过 CNCF 实现开放治理为目标