S3 存储配置

本文介绍如何为 Tekton Results 日志归档配置 S3 兼容存储(例如 Ceph)。

概述

Tekton Results 支持将归档日志存储在 Ceph、AWS S3、MinIO 等 S3 兼容对象存储系统中。这为长期日志保留提供了可扩展且持久的解决方案,取代基于 PVC 的存储等效率较低的存储机制。

主要优势

  • 可扩展性:对象存储可以水平扩展,不受块存储限制
  • 持久性:对象存储系统内置冗余和复制功能
  • 经济高效:与持久卷相比,存储成本更低
  • 长期保留:适用于合规性要求和历史故障排查

前提条件

存储系统要求

  • S3 兼容对象存储服务(Ceph、AWS S3、MinIO 等)
  • 创建 bucket 和管理凭证的权限
  • Kubernetes 集群到 S3 endpoint 的网络连接

权限

  • 创建 bucket 的能力
  • 对指定日志 bucket 的读/写/删除权限
  • 已配置适当的 IAM policy 或访问控制

配置概述

Tekton Results 的 S3 存储配置包含两个主要组件:

  1. S3 凭证和连接参数存储在 Kubernetes Secret 中
  2. 在 TektonConfig 自定义资源的 spec.result 下启用 S3 配置

配置参数参考

字段描述默认值必需
logs_api启用日志存储服务false是(S3 存储需设置为 true)
logs_type日志存储后端类型File是(S3 存储需设置为 S3)
secret_name包含 S3 凭证的 Secret 名称空是

Secret 中的 S3 特定参数

字段描述示例值必需备注
S3_BUCKET_NAME用于存储日志的 S3 bucket 名称tekton-logs是bucket 必须存在且可访问
S3_ENDPOINTS3 服务 endpoint URLhttps://s3.example.com否(AWS S3)非 AWS S3 兼容服务必需
S3_REGIONS3 regionus-east-1是适用于 AWS S3 或具有 region 感知能力的 S3 兼容服务
S3_ACCESS_KEY_IDS3 access key IDAKIAIOSFODNN7EXAMPLE是用于 S3 身份验证的 access key
S3_SECRET_ACCESS_KEYS3 secret access keywJalrXUtnFEMI/K7MDENG/bPxRfiCYEXAMPLEKEY是用于 S3 身份验证的 secret key
S3_HOSTNAME_IMMUTABLES3 hostname 不可变标志false否如果 hostname 不应由 AWS SDK 修改,则设置为 true
S3_MULTI_PART_SIZES3 multipart upload 大小(字节)5242880否multipart upload 的大小阈值(默认为 5MB)

参数详情

  • S3_BUCKET_NAME:存储 Tekton 日志的 S3 bucket 名称。确保此 bucket 已存在并具有适当的权限。
  • S3_ENDPOINT:S3 服务 endpoint URL。对于 AWS S3,可以省略。对于 Ceph、MinIO 等 S3 兼容服务,此参数是必需的。
  • S3_REGION:S3 服务所在的 region。对于 AWS S3,请使用适当的 AWS region 标识符。对于 S3 兼容服务,请使用服务中配置的 region 标识符。
  • S3_ACCESS_KEY_ID 和 S3_SECRET_ACCESS_KEY:用于向 S3 服务进行身份验证的凭证。
  • S3_HOSTNAME_IMMUTABLE:用于需要 hostname 不可变性的某些 S3 兼容服务。
  • S3_MULTI_PART_SIZE:定义使用 multipart upload 的大小阈值。对于大型文件,较大的值可以提升性能。

基本配置

如需设置基本的 S3 存储,请按照以下步骤操作:

1. 准备 S3 存储

在配置 Tekton Results 之前,请确保已具备以下条件:

  • 已准备好兼容 S3 的存储系统(Ceph、AWS S3、MinIO 等)
  • 为 Tekton 日志准备专用 bucket
  • 具有适当权限(读取、写入、删除)的有效访问凭证
  • Kubernetes 集群能够连接到 S3 endpoint

2. 创建 S3 凭证 Secret

创建包含 S3 凭证和配置的 Kubernetes Secret:

apiVersion: v1
kind: Secret
type: Opaque
metadata:
  name: my-s3-secret
  namespace: tekton-pipelines
stringData:
  S3_BUCKET_NAME: tekton-logs
  S3_ENDPOINT: https://your-ceph-endpoint.example.com
  S3_HOSTNAME_IMMUTABLE: "false"
  S3_REGION: region-1
  S3_ACCESS_KEY_ID: your-access-key-id
  S3_SECRET_ACCESS_KEY: your-secret-access-key
  S3_MULTI_PART_SIZE: "5242880"

分步创建过程:

  1. 确定 S3 参数:

    • 用于存储日志的 bucket 名称
    • S3 endpoint URL(例如,Ceph 使用的 https://ceph.example.com)
    • 适当的 region 标识符
    • 具有读取/写入/删除权限的访问凭证
  2. 使用 kubectl 创建 Secret:

    kubectl create secret generic my-s3-secret \
      --namespace="tekton-pipelines" \
      --from-literal=S3_BUCKET_NAME=tekton-logs \
      --from-literal=S3_ENDPOINT=https://your-ceph-endpoint.example.com \
      --from-literal=S3_HOSTNAME_IMMUTABLE=false \
      --from-literal=S3_REGION=region-1 \
      --from-literal=S3_ACCESS_KEY_ID=your-access-key-id \
      --from-literal=S3_SECRET_ACCESS_KEY=your-secret-access-key \
      --from-literal=S3_MULTI_PART_SIZE=5242880

    示例输出:

    secret/my-s3-secret created
  3. 验证 Secret 是否已创建:

    kubectl get secret my-s3-secret -n tekton-pipelines

    示例输出:

    NAME           TYPE     DATA   AGE
    my-s3-secret   Opaque   7      5m

3. 配置 TektonConfig 资源

在 TektonConfig 配置中启用 S3 存储:

apiVersion: operator.tekton.dev/v1alpha1
kind: TektonConfig
metadata:
  name: config
spec:
  result:
    # Enable logs API and specify S3 as storage type
    logs_api: true
    logs_type: S3
    
    # Reference the S3 credentials secret
    secret_name: my-s3-secret
    
    # External database (required: the built-in PostgreSQL database is not supported)
    is_external_db: true
    db_host: your-postgres-host.example.com
    db_port: 5432
    db_name: tekton_results
    db_sslmode: require
    db_secret_name: tekton-results-postgres
TIP

此示例将 S3 存储配置与外部数据库配置结合使用,这是必需的,因为不支持内置 PostgreSQL 数据库。

4. 应用配置

  1. 应用 TektonConfig 配置:

    kubectl apply -f tekton-config-s3-config.yaml

    示例输出:

    tektonconfig.operator.tekton.dev/config configured
  2. 等待组件重启:

    kubectl rollout status -n tekton-pipelines deployment/tekton-results-api

    示例输出:

    deployment "tekton-results-api" successfully rolled out
    kubectl rollout status -n tekton-pipelines deployment/tekton-results-watcher

    示例输出:

    deployment "tekton-results-watcher" successfully rolled out
  3. 验证配置是否已生效:

    kubectl get pods -n tekton-pipelines

    示例输出:

    NAME                                          READY   STATUS    RESTARTS   AGE
    tekton-results-api-7d5b8c9c4-xl2v9            1/1     Running   0          10m
    tekton-results-watcher-6b4f7c8d5-z3n4p        1/1     Running   0          10m
    tekton-results-retention-policy-agent-5c9g2   1/1     Running   0          10m

高级配置

自定义 Multipart 大小

如需优化上传性能,可以调整 multipart 大小:

# In your S3 secret
stringData:
  S3_MULTI_PART_SIZE: "10485760"  # 10MB multipart size

Ceph 特定配置

使用 Ceph 作为兼容 S3 的存储时:

  • 如果 Ceph 配置有此要求,请将 S3_HOSTNAME_IMMUTABLE 设置为 "true"
  • 使用 Ceph 集群提供的正确 endpoint URL
  • 确保 Ceph RGW(RADOS Gateway)已正确配置为兼容 S3

完整生产配置示例

结合 S3 存储和外部数据库的完整配置,并附有详细说明:

---
# S3 credentials secret
apiVersion: v1
kind: Secret
type: Opaque
metadata:
  name: tekton-results-s3-credentials
  namespace: tekton-pipelines
stringData:
  # S3 Configuration
  S3_BUCKET_NAME: tekton-logs-prod
  S3_ENDPOINT: https://ceph-storage.company.com
  S3_HOSTNAME_IMMUTABLE: "false"
  S3_REGION: ceph-region
  S3_ACCESS_KEY_ID: your-ceph-access-key
  S3_SECRET_ACCESS_KEY: your-ceph-secret-key
  S3_MULTI_PART_SIZE: "5242880"  # 5MB multipart threshold
---
# TektonConfig configuration
apiVersion: operator.tekton.dev/v1alpha1
kind: TektonConfig
metadata:
  name: config
spec:
  result:
    # Enable S3-based log storage
    logs_api: true
    logs_type: S3
    
    # External database configuration
    is_external_db: true
    db_host: postgres.company.com
    db_port: 5432
    db_name: tekton_results
    db_sslmode: require
    db_secret_name: tekton-results-postgres  # Separate DB credentials
    secret_name: tekton-results-s3-credentials  # S3 credentials

MinIO 特定配置示例

MinIO 对象存储的配置示例:

---
apiVersion: v1
kind: Secret
type: Opaque
metadata:
  name: minio-s3-credentials
  namespace: tekton-pipelines
stringData:
  S3_BUCKET_NAME: tekton-logs
  S3_ENDPOINT: https://minio.company.com
  S3_HOSTNAME_IMMUTABLE: "false"
  S3_REGION: us-east-1
  S3_ACCESS_KEY_ID: MINIO_ACCESS_KEY
  S3_SECRET_ACCESS_KEY: MINIO_SECRET_KEY
  S3_MULTI_PART_SIZE: "5242880"
---
apiVersion: operator.tekton.dev/v1alpha1
kind: TektonConfig
metadata:
  name: config
spec:
  result:
    logs_api: true
    logs_type: S3
    secret_name: minio-s3-credentials
    # Required: the built-in PostgreSQL database is not supported
    is_external_db: true

最大日志大小配置

如需限制每个 TaskRun 存储的日志大小,可以使用 TektonConfig 中的 spec.result.options 字段配置 max-log-size 参数。重要:此功能需要先启用 MaxLogSize feature gate。 这是一个增强功能(基于补丁),目前在 Community Tekton Results 中不可用。

Feature Gate 配置

在配置最大日志大小之前,需要通过设置相应的 feature flags 来启用 MaxLogSize feature gate。

如需启用此 feature gate,可以将 FEATURE_GATES 环境变量设置为 MaxLogSize=true:

FEATURE_GATES='PartialResponse=true,MaxLogSize=true'

另一种方法是通过 TektonConfig 选项,直接在 tekton-results-api deployment 上配置 FEATURE_GATES 环境变量:

apiVersion: operator.tekton.dev/v1alpha1
kind: TektonConfig
metadata:
  name: config
spec:
  result:
    options:
      deployments:
        tekton-results-api:
          spec:
            template:
              spec:
                containers:
                - name: api  # This should match the container name in the original deployment
                  env:
                  - name: FEATURE_GATES
                    value: "PartialResponse=true,MaxLogSize=true"

注意:MaxLogSize feature flag 通常通过 Tekton feature flags 中的 MaxResultSize 配置实现(如 FeatureFlags 结构体中所示),该配置用于控制可以存储的结果的最大大小。

最大日志大小配置示例

启用 feature gate 后,可以配置最大日志大小参数:

apiVersion: operator.tekton.dev/v1alpha1
kind: TektonConfig
metadata:
  name: config
spec:
  result:
    logs_api: true
    logs_type: S3
    secret_name: my-s3-secret
    # Required: the built-in PostgreSQL database is not supported
    is_external_db: true
    
    # Optional: Configure max log size limit via options
    options:
      configMaps:
        tekton-results-api-config:  # This ConfigMap must exist
          data:
            max-log-size: "5242880"  # Size in bytes (5 MiB)

配置详情:

  • 用途:限制每个 TaskRun 日志的大小,防止存储无限增长,并确保查询性能稳定
  • 默认值:默认值为 5 MiB(5242880 字节)
  • 行为:当 TaskRun 日志超过配置的限制时,系统会保留日志的 开头 并丢弃末尾。将 max-log-size 设置为 "0" 可禁用此大小限制功能并上传完整的日志内容。
  • 注意:这是一个 增强功能(基于补丁),目前在上游 Tekton Results 中不可用
  • 前提条件:必须启用 MaxLogSize feature gate,此功能才能正常运行。
WARNING

重要警告

这是一个 alpha 阶段功能,后续发布的版本可能会更改其行为。

Operations

更新 S3 配置

修改 S3 配置后,需要重启 Tekton Results 组件才能使更改生效。

重启 API server:

kubectl delete pod -n tekton-pipelines -l app.kubernetes.io/name=tekton-results-api

示例输出:

pod "tekton-results-api-7d5b8c9c4-xl2v9" deleted

重启 watcher:

kubectl delete pod -n tekton-pipelines -l app.kubernetes.io/name=tekton-results-watcher

示例输出:

pod "tekton-results-watcher-6b4f7c8d5-z3n4p" deleted

验证命令

# Check TektonConfig status
kubectl get tektonconfig config -o yaml

示例输出:

apiVersion: operator.tekton.dev/v1alpha1
kind: TektonConfig
metadata:
  name: config
spec:
  result:
    logs_api: true
    logs_type: S3
    secret_name: my-s3-secret
    is_external_db: true
    db_host: postgres.company.com
status:
  conditions:
  - type: Ready
    status: "True"
    reason: InstallSucceeded
    message: "Install successful"
# Check pod logs for S3 connectivity
kubectl logs -n tekton-pipelines -l app.kubernetes.io/name=tekton-results-api

示例输出:

{"level":"info","ts":"2023-05-15T10:30:45.123Z","caller":"api/main.go:89","msg":"Starting Tekton Results API server"}
{"level":"info","ts":"2023-05-15T10:30:45.124Z","caller":"s3/client.go:45","msg":"Successfully connected to S3 storage"}
{"level":"info","ts":"2023-05-15T10:30:45.125Z","caller":"api/server.go:123","msg":"API server listening on :8080"}
# Verify Secret exists
kubectl get secret my-s3-secret -n tekton-pipelines
# Verify pods are running with S3 configuration
kubectl get pods -n tekton-pipelines -l app.kubernetes.io/name=tekton-results-api

示例输出:

NAME                                    READY   STATUS    RESTARTS   AGE
tekton-results-api-7d5b8c9c4-xl2v9       1/1     Running   0          10m
kubectl get pods -n tekton-pipelines -l app.kubernetes.io/name=tekton-results-watcher

示例输出:

NAME                                    READY   STATUS    RESTARTS   AGE
tekton-results-watcher-6b4f7c8d5-z3n4p    1/1     Running   0          10m

最佳实践

安全注意事项

  1. 使用专用凭证:为 Tekton Results 创建具有最小所需权限的专用 S3 凭证(对特定存储桶具有读取、写入和删除权限)
  2. 安全存储凭证:将凭证存储在 Kubernetes Secrets 中,而不是明文配置文件中
  3. 定期轮换凭证:建立定期轮换 S3 访问密钥的流程(例如每季度一次)
  4. 网络安全:确保集群与 S3 endpoint 之间的网络连接安全,最好使用私有网络或 VPN
  5. 最小权限原则:仅向 S3 凭证授予所需的最低权限
  6. 加密:确保你的 S3 兼容存储支持对存储的日志进行服务端加密

性能优化

  1. 合理设置分片大小:根据网络条件调整 S3_MULTI_PART_SIZE(默认值为 5MB,但对于高延迟网络,10–15MB 可能更合适)
  2. 存储桶位置:如果可能,将 S3 存储桶置于与集群相同的地域,以最大限度地降低延迟
  3. 监控:设置对 S3 存储使用情况、上传/下载性能和错误率的监控
  4. 连接池:Tekton Results 会自动管理与 S3 服务的连接池
  5. 带宽注意事项:确保集群与 S3 存储之间具有足够的网络带宽

存储管理

  1. 保留策略:为 S3 存储桶实施生命周期策略,以自动清理旧日志
  2. 存储类别:考虑针对不同的日志保留期限使用不同的 S3 存储类别
  3. 压缩:如果 S3 兼容存储支持,请启用压缩
  4. 对象标记:使用 S3 对象标记,按 namespace、pipeline 或其他条件组织日志

命名约定

  • 使用包含环境信息的描述性存储桶名称(例如 tekton-logs-prod、tekton-logs-staging)
  • 对 Secret 使用一致的命名方式(例如 tekton-results-s3-credentials)
  • 运行多个实例时,使用特定于环境的前缀
  • 为配置资源使用清晰、一致的命名方式

运维建议

  1. 健康监控:定期监控 Tekton Results 组件以及 S3 存储连接的运行状况
  2. 备份策略:虽然 S3 提供持久性,但仍应确保在系统故障时具备访问日志的流程
  3. 容量规划:根据典型的 PipelineRun/TaskRun 数量规划日志存储增长
  4. 测试:定期测试日志检索功能,确保 S3 连接持续正常运行
  5. 文档:维护最新的 S3 endpoint 详细信息和访问流程文档

S3 兼容存储专项建议

  • Ceph:确保 Ceph RGW 已正确配置,并已针对 S3 兼容性完成测试
  • MinIO:验证 MinIO server 设置,以便与 Tekton Results 实现最佳性能
  • AWS S3:检查 AWS IAM policy,并在适用时确保正确配置跨账户访问
  • 性能调优:不同的 S3 兼容存储系统可能需要不同的分片大小或连接设置

安全注意事项

凭证管理

  1. 安全存储:将 S3 凭证存储在 Kubernetes Secrets 中,切勿存储在明文配置文件中
  2. 访问控制:使用 RBAC 限制对包含 S3 凭证的 Secret 的访问
  3. 轮换流程:为 S3 访问凭证实施定期轮换计划
  4. 最小权限原则:仅授予所需的最低权限(对特定存储桶执行读取、写入和删除操作)

网络安全

  1. 加密连接:始终使用 HTTPS/SSL 连接到 S3 兼容存储
  2. 私有网络:在可行的情况下,使用私有网络或 VPN 连接到 S3 endpoint
  3. 防火墙规则:配置适当的防火墙规则,以限制对 S3 endpoint 的访问
  4. 证书验证:确保为 SSL 连接配置正确的证书验证

监控和审计

  1. 访问日志:在 S3 兼容存储上启用访问日志,以跟踪操作
  2. 异常检测:监控异常访问模式或失败的身份验证尝试
  3. 审计跟踪:保留凭证访问和配置更改的审计跟踪
  4. 安全告警:为安全相关事件设置告警

故障排除

常见问题

  1. S3 连接错误:

    • 验证 S3 endpoint URL 是否正确且可访问
    • 检查集群到 S3 endpoint 的网络连接
    • 如果使用 HTTPS,请验证 SSL 证书
    • 确认可从集群内部访问该 endpoint
  2. 身份验证失败:

    • 确认 access key 和 secret key 正确
    • 验证 IAM policy 是否授予所需权限
    • 检查地域配置是否与 S3 服务地域匹配
    • 确保凭证既未过期,也未被轮换
  3. 权限被拒绝:

    • 确保凭证对存储桶具有读取、写入和删除权限
    • 验证存储桶 policy 是否允许从集群访问
    • 检查存储桶是否存在,以及是否可使用提供的凭证访问
  4. 日志上传缓慢:

    • 调整分片大小以获得最佳性能
    • 检查集群与 S3 endpoint 之间的网络带宽
    • 验证 S3 服务性能
    • 监控网络拥塞或限流情况
  5. 缺少日志:

    • 验证 watcher 组件是否正确捕获日志
    • 检查日志是否已存储在 S3 中,但无法通过 API 访问
    • 确认保留 policy 不会过早删除日志
  6. 配置问题:

    • 确保正确指定所有必需的 S3 参数
    • 验证 TektonConfig 资源是否正确配置
    • 检查 Secret 的格式是否正确且可访问

安全相关问题

  1. 凭证泄露:

    • 检查 Secret 是否暴露在日志或错误消息中
    • 验证凭证是否未存储在配置文件中
    • 确保 RBAC policy 正确限制对敏感资源的访问
  2. 未经授权的访问:

    • 监控异常访问模式
    • 验证只有经过授权的服务才能访问 S3 存储
    • 检查是否正确强制执行身份验证

诊断命令

# Check TektonConfig resource status
kubectl get tektonconfig config -o yaml

示例输出:

apiVersion: operator.tekton.dev/v1alpha1
kind: TektonConfig
metadata:
  name: config
spec:
  result:
    logs_api: true
    logs_type: S3
    secret_name: my-s3-secret
    is_external_db: true
status:
  conditions:
  - type: Ready
    status: "True"
    reason: ReconcileSuccess
    message: "All components are reconciled successfully"
# View detailed status
kubectl describe tektonconfig config

示例输出:

Name:         config
Namespace:    
Labels:       operator.tekton.dev/release-version=v0.76.0-1070dfb
Annotations:  <none>
API Version:  operator.tekton.dev/v1alpha1
Kind:         TektonConfig
Metadata:
  Creation Timestamp:  2026-01-26T04:40:31Z
  Finalizers:
    tektonconfigs.operator.tekton.dev
  Generation:        16
  Resource Version:  2363257
  UID:               4ae317c9-7bb9-40b5-94fe-2c3cf708a21d
Spec:
    Result:
    auth_disable:              false
    db_enable_auto_migration:  true
    db_host:                   postgresql.example.svc.cluster.local
    db_name:                   tekton_results
    db_port:                   5432
    db_secret_name:            tekton-results-postgres
    db_sslmode:                verify-full
    db_sslrootcert:            /etc/tls/db/ca.crt
    Disabled:                  false
# .....
# Check all related pods
kubectl get pods -n tekton-pipelines | grep tekton-results

示例输出:

NAME                                          READY   STATUS    RESTARTS   AGE
tekton-results-api-7d5b8c9c4-xl2v9            1/1     Running   0          10m
tekton-results-watcher-6b4f7c8d5-z3n4p        1/1     Running   0          10m
tekton-results-retention-policy-agent-5c9g2   1/1     Running   0          10m
# View API server logs for S3-related messages
kubectl logs -n tekton-pipelines deployment/tekton-results-api | grep -i s3

示例输出:

{"level":"info","ts":"2023-05-15T10:30:45.123Z","caller":"s3/client.go:45","msg":"Successfully connected to S3 storage"}
{"level":"info","ts":"2023-05-15T10:30:45.124Z","caller":"api/server.go:123","msg":"S3 storage configured with bucket: tekton-logs"}
# View watcher logs for upload operations
kubectl logs -n tekton-pipelines deployment/tekton-results-watcher | grep -i upload

示例输出:

{"level":"info","ts":"2023-05-15T10:30:46.234Z","caller":"watcher/upload.go:67","msg":"Successfully uploaded log to S3: namespace/pipeline-run-name"}
{"level":"info","ts":"2023-05-15T10:30:47.345Z","caller":"watcher/upload.go:67","msg":"Log upload completed for task-run: namespace/task-run-name"}
# Verify secret contents (carefully!)
kubectl get secret my-s3-secret -n tekton-pipelines -o yaml

示例输出:

apiVersion: v1
kind: Secret
metadata:
  name: my-s3-secret
  namespace: tekton-pipelines
data:
  s3-secret-key: <s3 secret data>
  ......
type: Opaque
# Test S3 connectivity from within cluster
kubectl run s3-test --image=minio/mc --restart=Never -n tekton-pipelines --rm -it -- \
  mc alias set my-s3 https://your-endpoint your-access-key your-secret-key || echo "Connection failed"

示例输出:

s3-test
If you don't see a command prompt, try pressing enter.
Connection established. Waiting for command completion.
Pod s3-test terminated

验证步骤

  1. 验证组件是否正在运行:

    kubectl get pods -n tekton-pipelines
    # Look for tekton-results-api, tekton-results-watcher, and optionally tekton-results-retention-policy-agent

    示例输出:

    NAME                                          READY   STATUS    RESTARTS   AGE
    tekton-results-api-7d5b8c9c4-xl2v9            1/1     Running   0          10m
    tekton-results-watcher-6b4f7c8d5-z3n4p        1/1     Running   0          10m
    tekton-results-retention-policy-agent-5c9g2   1/1     Running   0          10m
  2. 创建用于上传日志的 PipelineRun:

    # Create a simple test pipelinerun
    kubectl get pods -n tekton-pipelines -l app.kubernetes.io/name=tekton-results-watcher

    示例输出:

    NAME                                     READY   STATUS    RESTARTS   AGE
    tekton-results-watcher-6b4f7c8d5-z3n4p   1/1     Running   0          10m
  3. 验证 S3 连接:

    • 检查日志是否显示在 S3 存储桶中
    • 验证日志结构是否符合预期
    • 确认保留 policy 是否按预期运行

日志分析

监控以下关键日志,以排查 S3 配置问题:

  • Tekton Results API 日志,用于查看 S3 上传/下载操作
  • Tekton Results Watcher 日志,用于查看初始日志捕获和转发
  • S3 服务日志(如可用),用于确认对象创建/删除
  • Kubernetes 事件日志,用于查看任何资源相关问题

查找以下特定错误模式:

  • 身份验证失败
  • 连接超时
  • 权限错误
  • 网络连接问题
  • SSL/TLS 握手失败

性能问题

如果遇到性能问题:

  1. 检查资源利用率:

    # kubectl top command requires metrics-server to be installed in the cluster
    kubectl top pods -n tekton-pipelines

    示例输出:

    NAME                                          CPU(cores)   MEMORY(bytes)
    tekton-results-api-7d5b8c9c4-xl2v9            15m          55Mi
    tekton-results-watcher-6b4f7c8d5-z3n4p        8m           32Mi
    tekton-results-retention-policy-agent-5c9g2   5m           28Mi
  2. 监控网络性能:

    • 检查集群与 S3 端点之间的带宽
    • 监控数据包丢失或高延迟情况
  3. 调整 multipart 设置:

    • 在高延迟网络上增大 S3_MULTI_PART_SIZE 以获得更好的性能
    • 如果处理大量日志,可考虑调整 worker pool 大小