介绍

资源监控是 Alauda AI Platform 监控与运维模块的核心组件,专门用于跟踪和分析推理服务的资源利用率指标。作为全栈 MLOps 平台的一部分,它可实时查看基础设施资源消耗,帮助用户优化模型部署、防止资源瓶颈,并确保 AI 工作负载稳定运行。资源监控集成于 Alauda AI Platform 的统一监控生态系统中,无需使用分散的工具,即可直接在 MLOps 工作流中提供可执行的洞察。

使用限制

使用资源监控时,请注意以下限制:

  • 数据采集间隔

    • 最小指标抓取间隔:60 秒
    • 历史数据默认保留期限:7 天
  • 依赖要求

    • 目标集群中必须部署 Prometheus/VictoriaMetrics 监控栈
    • 所有工作节点上必须运行 node exporter
    • GPU 节点上必须运行 DCGM exporter
  • 版本要求

    • Hami 的 GPU 仪表板仅支持 Alauda AI 1.4 及更高版本