使用连接
连接可让您在项目级别存储可重复使用的外部模型源和数据服务访问设置。
有关从 S3、PVC 或 OCI 源部署模型的直接 YAML 示例,请参阅模型存储。
注意:对于基于 OCI 的模型部署,只有其
ACCESS_TYPE包含Pull的连接可在模型部署表单中使用。
目录
前提条件创建连接内置字段集验证更新连接删除连接管理连接类型连接类型包含的内容内置模板支持的字段类型创建连接类型复制、编辑、启用和删除使用连接进行模型部署运行时行为资源模型连接 Secret 示例连接类型 ConfigMap 示例前提条件
- 您拥有目标项目命名空间的访问权限。
- 已存在合适的连接类型。
- 您拥有要使用的外部存储或注册表的凭据和端点信息。
创建连接
- 在用户视图中打开目标项目。
- 单击连接。
- 单击创建连接。
- 选择连接类型。
- 输入连接的 Kubernetes 资源名称。
- 可选:输入显示名称。
- 完成所选连接类型定义的字段。
- 单击创建。
内置字段集
- URI:在
URI字段中提供完整 URI。 - OCI 兼容注册表:提供
ACCESS_TYPE,上传或粘贴.dockerconfigjson,并输入OCI_HOST。 - S3 兼容对象存储:提供
AWS_ACCESS_KEY_ID、AWS_SECRET_ACCESS_KEY、AWS_S3_ENDPOINT,以及可选的AWS_DEFAULT_REGION和AWS_S3_BUCKET。
验证
- 新项目会显示在连接页面上。
- 表格会显示连接名称、连接类型、兼容性标签和创建者。
注意:创建连接后,无法更改连接资源名称和所选连接类型。
更新连接
- 在连接页面上,打开目标连接的操作菜单。
- 单击编辑。
- 更新显示名称或连接字段。
- 单击保存。
更新凭据或端点后,请重新部署或重启依赖工作负载,使其获取最新值。
删除连接
- 在连接页面上,打开目标连接的操作菜单。
- 单击删除。
- 确认操作。
删除连接只会移除项目 Secret。仍依赖该 Secret 的任何工作负载都必须单独更新。
管理连接类型
连接类型在集群范围内进行管理,并存储在 kube-public 命名空间中。
连接类型包含的内容
- 基本元数据:名称、显示名称、类别和启用状态
- 按顺序排列的分区标题和字段
- 可选的默认值和只读设置
- URI、OCI 或 S3 模型服务的兼容性标记
内置模板
连接类型编辑器可以追加以下预定义字段集:
- URI
- 符合 OCI 标准的注册表
- 兼容 S3 的对象存储
支持的字段类型
注意:当前 UI 中的文件类型字段支持粘贴内容或上传最大 1 MiB 的文件。
创建连接类型
- 打开目标集群,然后转到设置 > 连接类型。
- 单击创建连接类型。
- 输入连接类型名称。平台会为其添加
ct-前缀。 - 可选:输入显示名称。
- 选择一个或多个类别。
- 根据需要设置启用状态。
- 添加分区标题和字段,或应用与模型服务兼容的内置模板。
- 单击创建。
复制、编辑、启用和删除
- 如果要基于现有类型创建新的连接类型,请使用复制。
- 可以编辑或删除自定义连接类型。
- 可以复制预装的连接类型,但当前 UI 不允许直接编辑或删除它们。
- 列表页提供启用开关,用于将连接类型标记为启用或停用。
注意:编辑连接类型不会重写之前创建的现有连接 Secret。
使用连接进行模型部署
创建或更新推理服务时,可以将模型位置设置为连接。
- 打开推理服务创建或更新表单。
- 将模型位置设置为连接。
- 选择连接。
- 根据连接类型填写模型路径字段:
- URI:无需额外路径;平台会从连接中读取完整 URI。
- OCI:输入
oci://<OCI_HOST>/下的相对路径,例如my-model:latest。 - S3:输入
s3://<AWS_S3_BUCKET>/下的对象路径,例如llm/qwen2.5。
运行时行为
- 对于 OCI 连接,连接 Secret 会作为
imagePullSecret附加到工作负载。 - 对于 S3 连接,平台会创建专用的
ServiceAccount,用于引用连接 Secret。 - 推理服务元数据会在
aml-model-source-connection注解中存储所选连接名称。
资源模型
当前实现使用项目级 Secret 管理连接,并使用集群级 ConfigMap 管理连接类型。
连接 Secret 示例
连接类型 ConfigMap 示例
注意:与近期的 OpenShift AI 文档相比,当前 Alauda AI Platform 前端仍使用
cpaas.io/connection-type-ref将连接绑定到其模板,并且还会将模型服务兼容性写入cpaas.io/connection-type-protocol。