RuntimeClass 和 CDI
RuntimeClass 和 Container Device Interface (CDI) 是运行时集成机制。它们决定在调度器选择节点和设备之后,如何将选定的设备以及所需的运行时文件暴露给容器。
这些机制与加速器用户相关,因为工作负载可能已成功调度,但如果设备运行时集成缺失或不兼容,仍可能在运行时失败。
它对工作负载的影响
- Device Plugin 和 DRA 决定如何对设备进行广告和分配。
- RuntimeClass 和 CDI 决定容器运行时如何注入设备文件、库和运行时配置。
- 产品文档会说明工作负载是否必须设置
runtimeClassName,是否需要 CDI,以及支持哪些容器运行时版本。
相关产品
- NVIDIA 产品可能依赖 NVIDIA Container Toolkit 和 CDI,或依赖 NVIDIA runtime handler,具体取决于所选的产品路径。
- Ascend NPU 产品可能使用 CDI 或厂商运行时组件来注入 Ascend 设备和库。
- HAMi 可能会根据设备类型和产品版本,以不同方式与运行时组件集成。