使用 Connections
Connections 可让你在项目级别存储可复用的外部模型源和数据服务访问设置。
有关从 S3、PVC 或 OCI 源进行模型部署的直接 YAML 示例,请参见 Model Storage。
注意: 对于基于 OCI 的模型部署,模型部署表单中仅提供
ACCESS_TYPE包含Pull的连接。
目录
前提条件创建连接内置字段集验证更新连接删除连接管理连接类型连接类型包含的内容内置模板支持的字段类型创建连接类型复制、编辑、启用和删除在模型部署中使用连接运行时行为资源模型连接 Secret 示例连接类型 ConfigMap 示例前提条件
- 你有权访问目标项目命名空间。
- 已存在合适的连接类型。
- 你拥有要使用的外部存储或 registry 的凭据和终端节点信息。
创建连接
- 在 User View 中,打开目标项目。
- 点击 Connections。
- 点击 Create connection。
- 选择一个连接类型。
- 输入该连接的 Kubernetes 资源名称。
- 可选:输入显示名称。
- 完成所选连接类型定义的字段。
- 点击 Create。
内置字段集
- URI:在
URI字段中提供完整 URI。 - OCI-compliant registry:提供
ACCESS_TYPE,上传或粘贴.dockerconfigjson,并输入OCI_HOST。 - S3-compatible object storage:提供
AWS_ACCESS_KEY_ID、AWS_SECRET_ACCESS_KEY、AWS_S3_ENDPOINT,并可选地提供AWS_DEFAULT_REGION和AWS_S3_BUCKET。
验证
- 新建项会出现在 Connections 页面上。
- 表格会显示连接名称、连接类型、兼容性标签和创建者。
注意: 连接资源名称和所选连接类型在创建后无法更改。
更新连接
- 在 Connections 页面上,打开目标连接的操作菜单。
- 点击 Edit。
- 更新显示名称或连接字段。
- 点击 Save。
在你更新凭据或终端节点后,请重新部署或重启依赖的工作负载,以便它们获取最新值。
删除连接
- 在 Connections 页面上,打开目标连接的操作菜单。
- 点击 Delete。
- 确认该操作。
删除连接只会移除项目 Secret。任何仍依赖该 Secret 的工作负载都必须单独更新。
管理连接类型
连接类型按集群范围进行管理,并存储在 kube-public 命名空间中。
连接类型包含的内容
- 基本元数据:名称、显示名称、类别和启用状态
- 按顺序排列的分区标题和字段
- 可选的默认值和只读设置
- 用于 URI、OCI 或 S3 模型服务的兼容性标记
内置模板
连接类型编辑器可追加以下预定义字段集:
- URI
- OCI compliant registry
- S3 compatible object storage
支持的字段类型
注意: 当前 UI 中的 File 类型字段支持粘贴内容或上传最大 1 MiB 的文件。
创建连接类型
- 打开目标集群,转到 Settings > Connection types。
- 点击 Create connection type。
- 输入连接类型名称。平台会自动为其添加
ct-前缀。 - 可选:输入显示名称。
- 选择一个或多个类别。
- 根据需要设置 Enabled。
- 添加分区标题和字段,或应用内置的模型服务兼容模板。
- 点击 Create。
复制、编辑、启用和删除
- 当你希望基于现有连接类型创建新的连接类型时,请使用 Duplicate。
- 自定义连接类型可以被编辑或删除。
- 预装连接类型可以复制,但当前 UI 不允许直接编辑或删除它们。
- 列表页提供 Enabled 开关,用于将连接类型标记为启用或禁用。
注意: 编辑连接类型不会重写之前创建的现有连接 Secret。
在模型部署中使用连接
当你创建或更新推理服务时,可以将 Model location 设置为 Connection。
- 打开推理服务创建或更新表单。
- 将 Model location 设置为 Connection。
- 选择该连接。
- 根据连接类型完成模型路径字段:
- URI:不需要额外路径;平台会从连接中读取完整 URI。
- OCI:输入
oci://<OCI_HOST>/下的相对路径,例如my-model:latest。 - S3:输入
s3://<AWS_S3_BUCKET>/下的对象路径,例如llm/qwen2.5。
运行时行为
- 对于 OCI 连接,连接 Secret 会作为
imagePullSecret挂载到工作负载。 - 对于 S3 连接,平台会创建一个专用的
ServiceAccount,并引用该连接 Secret。 - 推理服务元数据会将所选连接名称存储在
aml-model-source-connection注解中。
资源模型
当前实现对连接使用项目 Secret,对连接类型使用集群级别的 ConfigMap。
连接 Secret 示例
连接类型 ConfigMap 示例
注意: 与最近的 OpenShift AI 文档相比,当前 Alauda AI 前端仍通过
cpaas.io/connection-type-ref将连接绑定到其模板,并且还会将模型服务兼容性写入cpaas.io/connection-type-protocol。