Ingress-Nginx 的任务
目录
前提条件最大连接数请求超时会话亲和性(粘性会话)请求头和响应头修改URL 重写HSTS(HTTP 严格传输安全)速率限制WAF转发请求头控制HTTPSTLS 重新加密并验证后端证书TLS 边缘终止透传默认证书在 IngressNginx 中添加 Pod 注解保留源 IP通过 HAProxy Proxy Protocol工作原理配置方法通过配置 externalTrafficPolicy=Local 的 MetalLB工作原理配置方法前提条件
最大连接数
请求超时
会话亲和性(粘性会话)
请求头和响应头修改
URL 重写
HSTS(HTTP 严格传输安全)
速率限制
WAF
转发请求头控制
HTTPS
TLS 重新加密并验证后端证书
TLS 边缘终止
透传
默认证书
使用以下 YAML 部署带有默认证书的 ingress-nginx
在 IngressNginx 中添加 Pod 注解
保留源 IP
当流量经过负载均衡器或代理时,原始客户端 IP 地址可能会因 NAT(网络地址转换)而丢失。保留源 IP 对以下方面很重要:
- 访问控制和安全策略
- 准确的日志记录和分析
- 按客户端进行速率限制
- 基于地理位置的路由
通过 HAProxy Proxy Protocol
工作原理
PROXY protocol 是一种在代理 TCP 连接时保留客户端连接信息的网络协议。它通过在 TCP 连接前添加一个包含原始源 IP 和端口的标头来实现此功能。
流量流向:
- 客户端连接到 HAProxy 负载均衡器
- HAProxy 在连接前添加包含原始客户端 IP 的 PROXY protocol 标头
- Ingress-Nginx 接收连接并解析 PROXY protocol 标头
- Ingress-Nginx 从标头中提取真实客户端 IP
- 后端应用在
X-Forwarded-For和X-Real-IP请求头中收到正确的客户端 IP
优点:
- 适用于任何支持 PROXY protocol 的负载均衡器(HAProxy、AWS NLB 等)
- 可在多个代理层之间保留源 IP
- 不影响路由或节点选择
注意事项:
- 负载均衡器和 Ingress-Nginx 都必须配置为使用 PROXY protocol
- 启用后,所有发往 Ingress-Nginx 的流量都必须使用 PROXY protocol(混用 PROXY 和非 PROXY 流量会导致连接失败)
配置方法
配置 HAProxy 负载均衡器以发送 PROXY protocol 标头,然后部署启用了 proxy-protocol 支持的 ingress-nginx:
有关详细信息,请参阅 PROXY protocol 文档。
注意:HAProxy 可以使用 TCP 模式转发流量,而无需处理 TLS 证书。由于 PROXY protocol 工作在 TCP 层,因此可以直接让 Ingress-Nginx 处理 HTTPS 终止和证书管理,无需在 HAProxy 中配置证书。
通过配置 externalTrafficPolicy=Local 的 MetalLB
工作原理
使用带有 type: LoadBalancer 的 Kubernetes Service 时,默认行为(externalTrafficPolicy: Cluster)会执行源 NAT,将客户端 IP 替换为节点 IP。设置 externalTrafficPolicy: Local 可通过以下方式保留源 IP:
- 直接路由:流量只会路由到接收流量的同一节点上的 Pod
- 不执行 SNAT:kube-proxy 不执行源 NAT,因此会保留原始客户端 IP
- 运行状况检查:只有具有正常本地 Pod 的节点才会加入负载均衡器池
流量流向:
- 客户端连接到 MetalLB 虚拟 IP
- MetalLB 将流量直接路由到运行 Ingress-Nginx Pod 的节点
- 流量不经 SNAT,直接发送到本地 Ingress-Nginx Pod
- Ingress-Nginx 可获取真实客户端 IP
- 后端应用在请求头中收到正确的客户端 IP
优点:
- 配置简单,无需额外协议
- Kubernetes 原生功能
- 延迟更低(没有额外的代理跳转)
注意事项:
- 负载分布不均:流量只能发送到具有本地 Pod 的节点,可能导致负载不均衡
- Pod 调度:Ingress-Nginx Pod 必须调度到 MetalLB 可以路由到的节点上(使用 nodeSelector 确保二者一致)
- 运行状况检查行为:如果所有本地 Pod 都不健康,该节点将完全从负载均衡中移除
- 带污点的节点:如果选定节点具有
NoSchedule污点,请为 Ingress-Nginx 和 MetalLB 配置匹配的容忍度
配置方法
部署带有 externalTrafficPolicy: Local 的 ingress-nginx,并确保 Pod 的部署位置与 MetalLB 配置一致:
重要说明:
nodeSelector必须与 MetalLBL2Advertisement选中的节点一致,以便将 Ingress-Nginx Pod 调度到能够接收 MetalLB 流量的节点上。- 在 MetalLB 自定义资源上配置相同的节点选择和容忍度:对 speaker 使用
spec.nodeSelector和spec.speakerTolerations,对 controller 使用spec.controllerNodeSelector和spec.controllerTolerations。默认情况下,MetalLB 不容忍任何额外污点。
有关详细信息,请参阅 externalTrafficPolicy 文档。