共享模型
目录
概述通过 Model Catalog 共享模型配置 catalog 源浏览和使用 catalog 模型通过 Model Registry 共享模型授予 Model Registry 访问权限管理已注册模型归档和恢复推荐的共享模式概述
模型共享通过 Model Catalog 源和 Model Registry 权限进行管理。
当管理员希望让用户发现来自上游源的模型时,请使用 Model Catalog。当团队需要与其他用户或命名空间共享已注册的模型、版本、元数据和构件位置时,请使用 Model Registry。
共享模型仍需要一个可访问的构件位置。Model Catalog 或 Model Registry 存储模型元数据和 Model URI;模型文件本身保留在 S3、PVC 或 OCI registry 中。配置相应的 Connection、Secret 或 service account,以便推理服务访问构件。
通过 Model Catalog 共享模型
配置 catalog 源
管理员可以从 Admin View > Settings > Model Catalog Sources 添加源:
- 选择 Add Source。
- 使用小写字母、数字和下划线输入源名称。
- 选择源类型:
- Hugging Face:输入必需的 Organization,以及(如有要求)Access Token。
- YAML:输入 catalog YAML 内容。
- 可选设置 Display Name、Allowed Models、Excluded Models 和 Enabled。
- 选择 Add,等待源状态变为可用。
Allowed Models 和 Excluded Models 可以限制该源公开的模型。请勿在 YAML 内容或模型元数据中包含凭据。不再需要某个源时,可从其行操作菜单编辑或删除该源。
浏览和使用 catalog 模型
用户可以打开 User View > AI Hub > Model Catalog,选择一个源,然后打开模型条目。详情页可以显示 provider、description、model card、task type、labels、framework、license、size 和 artifact URI。
在详情页中,用户可以:
- 选择 Create Inference API,直接部署 catalog 构件;或
- 选择 Register Model,选择可用的 Model Registry,并创建引用 catalog 构件的本地已注册模型和版本。
Catalog 条目本身为只读。要编辑本地元数据或控制其生命周期,请注册模型并管理生成的 Model Registry 记录。
通过 Model Registry 共享模型
授予 Model Registry 访问权限
管理员可以从 Admin View > Settings > Model Registries 管理 registry 访问权限:
- 找到目标 registry。
- 打开其行操作菜单并选择 Manage permissions。
- 添加所需的用户、组或命名空间,并分配相应权限。
- 保存权限更改。
添加命名空间后,该命名空间中的 service account 可以根据配置的权限访问 registry。仅授予团队或工作负载所需的访问权限。
管理已注册模型
具有所需 registry 权限的用户可以打开 User View > AI Hub > Model Registry,然后:
- 选择包含该模型的 Model Registry。
- 打开已注册模型,查看其 Overview 和 Versions 标签页。
- 根据需要更新 labels、descriptions 或 custom properties。
- 打开一个版本,检查其 Model URI、framework、state 以及相关的 inference services。
- 对于 LIVE 版本,选择 Create Inference API 或 Deploy。
模型和版本元数据由 Model Registry 维护。它们独立于 catalog 源元数据。
归档和恢复
归档会将模型或版本从活动视图中移除,同时保留其元数据和构件引用:
- 打开模型或版本操作菜单,然后选择 Archive。
- 在确认字段中输入准确的模型或版本名称。
- 选择 Archive。
- 使用已归档视图和 Restore 操作再次将其激活。
正在被推理服务使用的模型或版本无法归档。请先删除相关推理服务。归档已注册模型也会归档其版本。在恢复之前,已归档条目不能用于新的部署。