共享模型
目录
概述通过 Model Catalog 共享模型配置 catalog 源浏览和使用 catalog 模型通过 Model Registry 共享模型授予 Model Registry 访问权限管理已注册模型归档和恢复推荐的共享模式概述
模型共享通过 Model Catalog 源和 Model Registry 权限实现。
当管理员希望让用户发现来自上游源的模型时,请使用 Model Catalog。当团队需要与其他用户或命名空间共享已注册的模型、版本、元数据和 artifact 位置时,请使用 Model Registry。
共享模型仍需要一个可访问的 artifact 位置。Model Catalog 或 Model Registry 存储模型元数据和 Model URI;模型文件本身仍保存在 S3、PVC 或 OCI registry 中。配置相应的 Connection、Secret 或 service account,以便推理服务访问 artifact。
通过 Model Catalog 共享模型
配置 catalog 源
管理员可以从 Admin View > Settings > Model Catalog Sources 添加源:
- 选择 Add Source。
- 使用小写字母、数字和下划线输入源名称。
- 选择源类型:
- Hugging Face:输入必需的 Organization,以及(如有要求)Access Token。
- YAML:输入 catalog YAML 内容。
- 可选设置 Display Name、Allowed Models、Excluded Models 和 Enabled。
- 选择 Add,等待源状态变为可用。
Allowed Models 和 Excluded Models 可以限制该源公开的模型。不要在 YAML 内容或模型元数据中包含凭据。不再需要某个源时,可从其行操作菜单编辑或删除该源。
浏览和使用 catalog 模型
用户可以打开 User View > AI Hub > Model Catalog,选择一个源,然后打开模型条目。详情页可以显示 provider、description、model card、task type、labels、framework、license、size 和 artifact URI。
在详情页中,用户可以:
- 选择 Create Inference API,直接部署 catalog artifact;或
- 选择 Register Model,选择一个可用的 Model Registry,并创建引用 catalog artifact 的本地已注册模型和版本。
Catalog 条目本身为只读。要编辑本地元数据或控制其生命周期,请注册模型并管理生成的 Model Registry 记录。
通过 Model Registry 共享模型
授予 Model Registry 访问权限
管理员可以从 Admin View > Settings > Model Registries 管理 registry 访问权限:
- 找到目标 registry。
- 打开其行操作菜单,然后选择 Manage permissions。
- 添加所需的用户、组或命名空间,并分配适当的权限。
- 保存权限更改。
添加命名空间后,该命名空间中的 service account 可以根据配置的权限访问 registry。仅授予团队或工作负载所需的访问权限。
管理已注册模型
具有所需 registry 权限的用户可以打开 User View > AI Hub > Model Registry,然后:
- 选择包含该模型的 Model Registry。
- 打开已注册模型,查看其 Overview 和 Versions 标签页。
- 根据需要更新 labels、descriptions 或 custom properties。
- 打开某个版本,检查其 Model URI、framework、state 和相关的推理服务。
- 对于 LIVE 版本,选择 Create Inference API 或 Deploy。
模型和版本元数据由 Model Registry 维护。它们独立于 catalog 源元数据。
归档和恢复
归档会将模型或版本从活动视图中移除,同时保留其元数据和 artifact 引用:
- 打开模型或版本操作菜单,然后选择 Archive。
- 在确认字段中输入准确的模型或版本名称。
- 选择 Archive。
- 使用已归档视图和 Restore 操作再次将其激活。
正在被推理服务使用的模型或版本无法归档。请先删除相关的推理服务。归档已注册模型也会归档其版本。在恢复之前,已归档条目不能用于新部署。