介绍

目录

什么是 HAMi?

Heterogeneous AI Computing Virtualization Middleware(HAMi),前称为 k8s-vGPU-scheduler,是一个用于管理 k8s 集群中异构 AI 计算设备的“一体化”chart。它能够实现异构 AI 设备在任务间的共享能力。

为什么选择 HAMi

设备共享

  • 支持多种异构 AI 计算设备
  • 支持多设备容器的设备共享

设备内存控制

  • 容器内硬限制
  • 支持动态设备内存分配
  • 支持按 MB 或百分比分配内存

设备规格

  • 支持指定某种类型的异构 AI 计算设备
  • 支持使用设备 UUID 指定特定异构 AI 计算设备

易于尝试

  • 对容器内任务透明
  • 通过 helm 安装/卸载,简单且绿色

开放与中立

  • 由互联网、金融、制造、云服务提供商等联合发起
  • 目标是与 CNCF 共同实现开放治理