高可用部署
对于生产环境,建议以高可用(HA)配置部署 Connectors 系统,以确保服务连续性和容错能力。
整个 Connectors 安装由单个 ConnectorsConfig 资源驱动(请参阅 Installation Guide)。要以 HA 方式运行各组件,请编辑同一个 ConnectorsConfig,并在 spec.components.<name>.spec.workloads 下为每个组件设置工作负载配置。
关键步骤概览
在 ConnectorsConfig 上配置 HA 需要三个步骤:
- 将 replicas 设置为 ≥ 2 — 通过
spec.components.<name>.spec.workloads[] 为每个受管组件的工作负载指定 replicas。至少要配置 core(api、controller-manager、proxy)以及你使用的任何 plugin 组件。
- 依赖内置的反亲和性 — operator 会自动添加
preferredDuringSchedulingIgnoredDuringExecution pod 反亲和性规则,使 replicas 分布到不同的节点上,无需额外配置。
- 为多可用区集群自定义亲和性(可选) — 如有需要,可通过覆盖
spec.components.<name>.spec.workloads[].template.spec.affinity,使用 requiredDuringSchedulingIgnoredDuringExecution 强制按可用区分布。
下面将详细说明每一步。
配置 replicas
增加每个组件工作负载的 replicas 数量以实现高可用。对于生产环境,我们建议为每个工作负载至少配置 2 个 replicas,以确保在节点故障或滚动更新期间的服务连续性。
提供 Deployment 工作负载的组件,以及你在 ConnectorsConfig 中需要指定的工作负载名称如下:
其他 connector 组件没有 Deployment 工作负载,因此不需要配置 replicas。core 还管理的 connectors-csi DaemonSet 在每个节点上运行一个 pod,不在此列表中。
下面的 ConnectorsConfig 会在一个位置为所有 Deployment 工作负载设置 HA replicas:
apiVersion: operator.connectors.alauda.io/v1alpha1
kind: ConnectorsConfig
metadata:
name: connectors-config
spec:
components:
core:
spec:
workloads:
- name: connectors-api
replicas: 2
- name: connectors-controller-manager
replicas: 2
- name: connectors-proxy
replicas: 2
git:
spec:
workloads:
- name: connectors-git-plugin
replicas: 2
oci:
spec:
workloads:
- name: connectors-oci-plugin
replicas: 2
harbor:
spec:
workloads:
- name: connectors-harbor-plugin
replicas: 2
经过一段时间后,每个已配置的工作负载都会扩容到 2 个 replicas:
$ kubectl get pod -n connectors-system
NAME READY STATUS RESTARTS AGE
connectors-api-58fc8b45c4-9n8hc 1/1 Running 0 67s
connectors-api-58fc8b45c4-12da7 1/1 Running 0 67s
connectors-controller-manager-548659cdff-1d2dd 1/1 Running 0 35s
connectors-controller-manager-548659cdff-s7gnn 1/1 Running 0 35s
connectors-proxy-64bb994cd9-jbp2l 1/1 Running 0 61s
connectors-proxy-64bb994cd9-dfade 1/1 Running 0 61s
connectors-git-plugin-84985b9d7d-vllp6 1/1 Running 0 61s
connectors-git-plugin-84985b9d7d-abcde 1/1 Running 0 61s
connectors-oci-plugin-84985b9d7d-7k2qm 1/1 Running 0 61s
connectors-oci-plugin-84985b9d7d-h9x4n 1/1 Running 0 61s
connectors-harbor-plugin-84985b9d7d-b3p8r 1/1 Running 0 61s
connectors-harbor-plugin-84985b9d7d-z6t2v 1/1 Running 0 61s
内置 Pod 反亲和性
系统内置了 pod 反亲和性规则,以确保 replicas 分布在不同节点上。默认情况下,系统使用权重为 100 的 preferredDuringSchedulingIgnoredDuringExecution,这意味着调度器会尽可能将 pods 放置到不同节点上,但如果没有其他可用选项,仍会将它们调度到同一节点上。
此默认配置可确保:
- pods 在可能的情况下分布到不同节点上
- 即使集群节点数量有限,Deployment 仍然可以正常调度
- 当某个节点不可用时,具备自动故障转移能力
自定义亲和性规则
如果默认亲和性规则不能满足你的需求,可以通过 ConnectorsConfig 上的 workloads 配置进行覆盖。template.spec.affinity 字段允许你指定自定义亲和性规则。
对于多可用区集群,你可以配置感知可用区的调度,将 pods 分散到各个可用区。下面的示例使用 requiredDuringSchedulingIgnoredDuringExecution 强制可用区级别分布,并结合 preferredDuringSchedulingIgnoredDuringExecution 优先在每个可用区内实现节点级别分布:
apiVersion: operator.connectors.alauda.io/v1alpha1
kind: ConnectorsConfig
metadata:
name: connectors-config
spec:
components:
core:
spec:
workloads:
- name: connectors-api
replicas: 3
template:
spec:
affinity:
podAntiAffinity:
# Hard requirement: pods must be distributed across different zones
requiredDuringSchedulingIgnoredDuringExecution:
- labelSelector:
matchLabels:
control-plane: api
app.kubernetes.io/name: connectors
topologyKey: topology.kubernetes.io/zone
# Soft requirement: prefer distributing pods across different nodes within the same zone
preferredDuringSchedulingIgnoredDuringExecution:
- weight: 100
podAffinityTerm:
labelSelector:
matchLabels:
control-plane: api
app.kubernetes.io/name: connectors
topologyKey: kubernetes.io/hostname
此配置可确保:
- pods 严格分布在不同的可用区中(硬性要求)
- 在同一可用区内,pods 优先调度到不同节点上(软性要求)
- 同时具备对可用区级和节点级故障的弹性能力