介绍

Connections 允许你在项目级别为外部模型源和数据服务存储可复用的访问设置。在 Alauda AI 中,connection 会作为 Kubernetes Secret 存储在项目命名空间中,而 connection type 会作为 Kubernetes ConfigMap 存储在 kube-public 命名空间中。

核心概念

Connection

Connection 用于存储工作负载实际使用的访问参数,例如:

  • S3 access key、secret key、endpoint、region 和 bucket
  • OCI registry host 和 registry authentication
  • 直接的远程 URI

Connection Type

Connection type 定义了用户在创建或编辑 connection 时看到的表单。它控制以下内容:

  • 显示哪些字段
  • 哪些字段是必填项
  • 默认值和只读设置
  • 生成的 connection 是否与 URI、OCI 或 S3 model serving 兼容

支持的 Connection 类型

类型connection 存储的内容model deployment 如何使用它
URIURI 字段中的完整远程 URIdeployment 表单直接从 connection 中读取 URI
OCI-compliant registryregistry host、registry credentials 和访问模式deployment 表单将 connection secret 用作 image pull secret,并要求你提供相对 model path,例如 repository:tag
S3-compatible object storageaccess key、secret key、endpoint、可选的 region 和 bucketdeployment 表单使用 connection 中的 bucket,并要求你提供该 bucket 下的 object path

有关分步操作,请参见 Using Connections