性能指南

本指南描述了 Connectors 系统在负载下观察到的性能特征,并为高并发环境提供建议。

INFO

以下观察结果来自内部测试。实际性能可能会因集群资源和工作负载而异。

  • Connector 状态更新:同时管理 1,000 个 connector 时没有可观察到的延迟。
  • 正向代理(HTTPS):在 50 个并发请求时会引入少量额外延迟。随着并发度升高,延迟会逐渐增加。
  • 正向代理(HTTP):在 50 个并发请求时会引入少量额外延迟。随着并发度升高,延迟会缓慢增加。
  • 反向代理:在 50 个并发请求时会引入极少量额外延迟,并且在负载下缓慢增长。
  • 100 个并发请求下的所有代理模式:延迟会增加,但系统仍保持稳定,不会出现错误或崩溃。
  • OCI/Harbor 镜像 push/pull(HTTP 正向代理):在广泛的并发操作范围内未观察到明显的性能下降;已使用 Harbor 官方基准测试工具进行验证。

性能配置

如果在高负载下遇到代理请求缓慢或偶发失败,请应用以下配置以提高吞吐量。

  • 扩展副本数,适用于 connectors-proxy、connectors-controller-manager、connectors-api 和插件组件。
  • 增加 -kube-api-qps 和 -kube-api-burst,以提高对 Kubernetes API 的请求速率限制。

整个 Connectors 安装由单个 ConnectorsConfig 资源驱动(请参见安装指南)。要调整吞吐量,请编辑同一个 ConnectorsConfig,并在 spec.components.<name>.spec.workloads 下设置工作负载配置。

以下是一个调优 core 和 oci 组件的 ConnectorsConfig 示例:

apiVersion: operator.connectors.alauda.io/v1alpha1
kind: ConnectorsConfig
metadata:
  name: connectors-config
spec:
  components:
    core:
      spec:
        workloads:
          - name: connectors-proxy
            replicas: 2
            template:
              spec:
                containers:
                  - name: proxy
                    args:
                      - --metrics-bind-address=:8443
                      - -kube-api-qps=60
                      - -kube-api-burst=80
                    resources:
                      requests:
                        cpu: 100m
                        memory: 100Mi
                      limits:
                        cpu: 250m
                        memory: 250Mi
          - name: connectors-controller-manager
            replicas: 2
          - name: connectors-api
            replicas: 2
    oci:
      spec:
        workloads:
          - name: connectors-oci-plugin
            replicas: 2
            template:
              spec:
                containers:
                  - name: plugin
                    args:
                      - -metrics-bind-address=:8082
                      - -kube-api-qps=60
                      - -kube-api-burst=80