高可用部署

对于生产环境,建议以高可用(HA)配置部署 Connectors 系统,以确保服务连续性和容错能力。

整个 Connectors 安装由单个 ConnectorsConfig 资源驱动(请参阅 Installation Guide)。要以 HA 方式运行各组件,请编辑同一个 ConnectorsConfig,并在 spec.components.<name>.spec.workloads 下为每个组件设置工作负载配置。

关键步骤概览

在 ConnectorsConfig 上配置 HA 需要三个步骤:

  1. 将 replicas 设置为 ≥ 2 — 通过 spec.components.<name>.spec.workloads[] 为每个受管组件的工作负载指定 replicas。至少要配置 core(api、controller-manager、proxy)以及你使用的任何 plugin 组件。
  2. 依赖内置的反亲和性 — operator 会自动添加 preferredDuringSchedulingIgnoredDuringExecution pod 反亲和性规则,使 replicas 分布到不同的节点上,无需额外配置。
  3. 为多可用区集群自定义亲和性(可选) — 如有需要,可通过覆盖 spec.components.<name>.spec.workloads[].template.spec.affinity,使用 requiredDuringSchedulingIgnoredDuringExecution 强制按可用区分布。

下面将详细说明每一步。

配置 replicas

增加每个组件工作负载的 replicas 数量以实现高可用。对于生产环境,我们建议为每个工作负载至少配置 2 个 replicas,以确保在节点故障或滚动更新期间的服务连续性。

提供 Deployment 工作负载的组件,以及你在 ConnectorsConfig 中需要指定的工作负载名称如下:

组件工作负载
coreconnectors-api, connectors-controller-manager, connectors-proxy
gitconnectors-git-plugin
ociconnectors-oci-plugin
harborconnectors-harbor-plugin

其他 connector 组件没有 Deployment 工作负载,因此不需要配置 replicas。core 还管理的 connectors-csi DaemonSet 在每个节点上运行一个 pod,不在此列表中。

下面的 ConnectorsConfig 会在一个位置为所有 Deployment 工作负载设置 HA replicas:

apiVersion: operator.connectors.alauda.io/v1alpha1
kind: ConnectorsConfig
metadata:
  name: connectors-config
spec:
  components:
    core:
      spec:
        workloads:
          - name: connectors-api
            replicas: 2
          - name: connectors-controller-manager
            replicas: 2
          - name: connectors-proxy
            replicas: 2
    git:
      spec:
        workloads:
          - name: connectors-git-plugin
            replicas: 2
    oci:
      spec:
        workloads:
          - name: connectors-oci-plugin
            replicas: 2
    harbor:
      spec:
        workloads:
          - name: connectors-harbor-plugin
            replicas: 2

经过一段时间后,每个已配置的工作负载都会扩容到 2 个 replicas:

$ kubectl get pod -n connectors-system
NAME                                             READY   STATUS    RESTARTS   AGE
connectors-api-58fc8b45c4-9n8hc                  1/1     Running   0          67s
connectors-api-58fc8b45c4-12da7                  1/1     Running   0          67s
connectors-controller-manager-548659cdff-1d2dd   1/1     Running   0          35s
connectors-controller-manager-548659cdff-s7gnn   1/1     Running   0          35s
connectors-proxy-64bb994cd9-jbp2l                1/1     Running   0          61s
connectors-proxy-64bb994cd9-dfade                1/1     Running   0          61s
connectors-git-plugin-84985b9d7d-vllp6           1/1     Running   0          61s
connectors-git-plugin-84985b9d7d-abcde           1/1     Running   0          61s
connectors-oci-plugin-84985b9d7d-7k2qm           1/1     Running   0          61s
connectors-oci-plugin-84985b9d7d-h9x4n           1/1     Running   0          61s
connectors-harbor-plugin-84985b9d7d-b3p8r        1/1     Running   0          61s
connectors-harbor-plugin-84985b9d7d-z6t2v        1/1     Running   0          61s

内置 Pod 反亲和性

系统内置了 pod 反亲和性规则,以确保 replicas 分布在不同节点上。默认情况下,系统使用权重为 100 的 preferredDuringSchedulingIgnoredDuringExecution,这意味着调度器会尽可能将 pods 放置到不同节点上,但如果没有其他可用选项,仍会将它们调度到同一节点上。

此默认配置可确保:

  • pods 在可能的情况下分布到不同节点上
  • 即使集群节点数量有限,Deployment 仍然可以正常调度
  • 当某个节点不可用时,具备自动故障转移能力

自定义亲和性规则

如果默认亲和性规则不能满足你的需求,可以通过 ConnectorsConfig 上的 workloads 配置进行覆盖。template.spec.affinity 字段允许你指定自定义亲和性规则。

对于多可用区集群,你可以配置感知可用区的调度,将 pods 分散到各个可用区。下面的示例使用 requiredDuringSchedulingIgnoredDuringExecution 强制可用区级别分布,并结合 preferredDuringSchedulingIgnoredDuringExecution 优先在每个可用区内实现节点级别分布:

apiVersion: operator.connectors.alauda.io/v1alpha1
kind: ConnectorsConfig
metadata:
  name: connectors-config
spec:
  components:
    core:
      spec:
        workloads:
          - name: connectors-api
            replicas: 3
            template:
              spec:
                affinity:
                  podAntiAffinity:
                    # Hard requirement: pods must be distributed across different zones
                    requiredDuringSchedulingIgnoredDuringExecution:
                      - labelSelector:
                          matchLabels:
                            control-plane: api
                            app.kubernetes.io/name: connectors
                        topologyKey: topology.kubernetes.io/zone
                    # Soft requirement: prefer distributing pods across different nodes within the same zone
                    preferredDuringSchedulingIgnoredDuringExecution:
                      - weight: 100
                        podAffinityTerm:
                          labelSelector:
                            matchLabels:
                              control-plane: api
                              app.kubernetes.io/name: connectors
                          topologyKey: kubernetes.io/hostname

此配置可确保:

  • pods 严格分布在不同的可用区中(硬性要求)
  • 在同一可用区内,pods 优先调度到不同节点上(软性要求)
  • 同时具备对可用区级和节点级故障的弹性能力