#Token 用量分摊计费

#添加采集配置

集群： Cost Management agent 集群——即运行 AI Gateway 且安装了 cost-agent 的集群。cost-agent 组件以 slark-agent 工作负载的形式部署，下面的重启命令会作用于该工作负载。

创建一个 ConfigMap，用于告诉 Cost Management agent 应评估哪个 Prometheus 查询，以及如何将其标签映射到 Cost Management 维度。agent 会发现位于 cpaas-system 中、带有 cpaas.io/slark.collection.config: "true" 标签的配置。

apiVersion: v1
kind: ConfigMap
metadata:
  name: slark-agent-aigateway-config
  namespace: cpaas-system
  labels:
    cpaas.io/slark.collection.config: "true"
data:
  config: |
    - kind: AIGateway
      category: AIGatewayToken
      item: AIGatewayTokenUsage
      period: Hourly
      usage:
        query: |
          sum by (user_namespace, "gen_ai.request.model") (
            increase({__name__="gen_ai.client.token.usage_token_sum"}[5m])
          )
        step: 5m
        mappers:
          name: gen_ai.request.model
          namespace: user_namespace
          cluster: ""
          project: user_namespace

字段说明：

• kind：Cost Management collector 的类型，同时也是 collector 的名称（在采集配置中必须保持唯一）。Pod 保留给 OpenCost 输出的 pod 指标，Project 保留给平台内置的 CPU/Memory/Storage 配额 collector。AI Gateway token 用量使用专用的自定义类型 AIGateway，与 vGPU/NPU/pGPU 自定义类型模式一致——这是在集群上验证、用于将 cost.usage 填充为 AIGatewayTokenUsage 行的值。应用此配置后，请先确认已出现对应行（参见 Troubleshooting 中的 cost.usage 检查），再继续下一步。
• category、item：用于将此采集配置与下一步中的展示/存储配置关联起来的标识符。两个值都必须与展示/存储配置中的相应字段一致。
• period：聚合周期。按小时计费请使用 Hourly。
• usage.query：agent 每个 step 执行一次的 PromQL 查询。平台会将该指标以保留点号的 OpenTelemetry UTF-8 名称存储，因此应使用 {__name__="gen_ai.client.token.usage_token_sum"} 选择它，并使用带引号的 UTF-8 语法引用带点的 gen_ai.request.model 标签。通过 header 映射得到的 user_namespace 标签是按命名空间计费的键。
• usage.step：查询的评估间隔。
• usage.mappers：将 PromQL 标签映射到 Cost Management 的标准维度（name、namespace、cluster、project）。将 cluster 设为空字符串，这样 agent 会自动填入自己的集群身份；如果将其设置为某个标签名（例如 cluster），则只有当源指标暴露了该标签时才会生效，否则每一行都会被丢弃且不会留下日志。

应用 YAML 后，重启 slark-agent 工作负载（即 cost-agent 组件）以重新加载配置：

kubectl -n cpaas-system delete pod \
  -l service_name=slark-agent --grace-period=0 --force
kubectl -n cpaas-system rollout status deploy/slark-agent
# if slark-agent is installed as a DaemonSet in your environment, use instead:
#   kubectl -n cpaas-system rollout status daemonset/slark-agent

#添加展示配置

集群： Cost Management server 集群——即安装了 cost-server 的集群（通常是全局控制平面）。cost-server 组件以 slark-server 工作负载的形式部署，下面的重启命令会作用于该工作负载。

创建一个 ConfigMap，在平台控制台中注册计费项及其计费方式。server 会发现位于 kube-public 中、带有 cpaas.io/slark.display.config: "true" 标签的配置。

apiVersion: v1
kind: ConfigMap
metadata:
  name: slark-display-config-for-aigateway
  namespace: kube-public
  labels:
    cpaas.io/slark.display.config: "true"
data:
  config: |
    - name: AIGatewayToken
      displayname:
        zh: "AI Token"
        en: "AI tokens"
      methods:
        - name: Usage
          displayname:
            zh: "使用量"
            en: "Token Usage"
          item: AIGatewayTokenUsage
          unit:
            zh: "tokens"
            en: "tokens"
          divisor: 1

字段说明：

• name：在成本模型表单中显示的计费项名称。必须与采集配置中的 category 值一致。
• methods[].name：计费方式，在添加价格时会显示在计费项下方。
• methods[].item：必须与采集配置中的 item 值一致，以便 server 能将按方式设置的单价与用量行关联起来。
• divisor：用于显示用量时的单位换算因子。token 没有单位，因此设置为 1；对于字节级项目，使用 1073741824 以显示为 Gi-hours。

下表总结了此配置注册的计费方式：

应用 YAML 后，重启 slark-server 工作负载（即 cost-server 组件）以重新加载配置：

kubectl -n cpaas-system delete pod \
  -l service_name=slark-server --grace-period=0 --force
kubectl -n cpaas-system rollout status deploy/slark-server

#向成本模型添加价格

集群： 任意集群——通过由 cost-api 提供服务的平台控制台进行操作。

在平台控制台中，进入 Administrator → Metering and Billing → Cost Model，然后创建或编辑一个成本模型。新注册的 AI tokens 计费项现在可以在价格表单中选择。

1. Cost Model Name：任意标识符，例如 aml-cost-model。
2. Linked Clusters：选择该模型应对其 AI Gateway 流量计费的集群。即使留空也能成功保存，但不会匹配任何用量数据，也不会生成账单。
3. Pricing rows：
   • Billing Item：AI tokens
   • Billing Method：Token Usage
   • Default Price：按 token 计费的价格，使用平台币种。
   • Price By Label（可选）：按模型覆盖价格，例如对 gen_ai.request.model="gpt-4o" 设置更高费率。
4. 保存。