共享模型

概述

模型共享通过 Model Catalog 源和 Model Registry 权限进行管理。

当管理员希望让用户发现来自上游源的模型时,请使用 Model Catalog。当团队需要与其他用户或命名空间共享已注册的模型、版本、元数据和构件位置时,请使用 Model Registry。

共享模型仍需要一个可访问的构件位置。Model Catalog 或 Model Registry 存储模型元数据和 Model URI;模型文件本身保留在 S3、PVC 或 OCI registry 中。配置相应的 Connection、Secret 或 service account,以便推理服务访问构件。

通过 Model Catalog 共享模型

配置 catalog 源

管理员可以从 Admin View > Settings > Model Catalog Sources 添加源:

  1. 选择 Add Source。
  2. 使用小写字母、数字和下划线输入源名称。
  3. 选择源类型:
    • Hugging Face:输入必需的 Organization,以及(如有要求)Access Token。
    • YAML:输入 catalog YAML 内容。
  4. 可选设置 Display Name、Allowed Models、Excluded Models 和 Enabled。
  5. 选择 Add,等待源状态变为可用。

Allowed Models 和 Excluded Models 可以限制该源公开的模型。请勿在 YAML 内容或模型元数据中包含凭据。不再需要某个源时,可从其行操作菜单编辑或删除该源。

浏览和使用 catalog 模型

用户可以打开 User View > AI Hub > Model Catalog,选择一个源,然后打开模型条目。详情页可以显示 provider、description、model card、task type、labels、framework、license、size 和 artifact URI。

在详情页中,用户可以:

  • 选择 Create Inference API,直接部署 catalog 构件;或
  • 选择 Register Model,选择可用的 Model Registry,并创建引用 catalog 构件的本地已注册模型和版本。

Catalog 条目本身为只读。要编辑本地元数据或控制其生命周期,请注册模型并管理生成的 Model Registry 记录。

通过 Model Registry 共享模型

授予 Model Registry 访问权限

管理员可以从 Admin View > Settings > Model Registries 管理 registry 访问权限:

  1. 找到目标 registry。
  2. 打开其行操作菜单并选择 Manage permissions。
  3. 添加所需的用户、组或命名空间,并分配相应权限。
  4. 保存权限更改。

添加命名空间后,该命名空间中的 service account 可以根据配置的权限访问 registry。仅授予团队或工作负载所需的访问权限。

管理已注册模型

具有所需 registry 权限的用户可以打开 User View > AI Hub > Model Registry,然后:

  1. 选择包含该模型的 Model Registry。
  2. 打开已注册模型,查看其 Overview 和 Versions 标签页。
  3. 根据需要更新 labels、descriptions 或 custom properties。
  4. 打开一个版本,检查其 Model URI、framework、state 以及相关的 inference services。
  5. 对于 LIVE 版本,选择 Create Inference API 或 Deploy。

模型和版本元数据由 Model Registry 维护。它们独立于 catalog 源元数据。

归档和恢复

归档会将模型或版本从活动视图中移除,同时保留其元数据和构件引用:

  1. 打开模型或版本操作菜单,然后选择 Archive。
  2. 在确认字段中输入准确的模型或版本名称。
  3. 选择 Archive。
  4. 使用已归档视图和 Restore 操作再次将其激活。

正在被推理服务使用的模型或版本无法归档。请先删除相关推理服务。归档已注册模型也会归档其版本。在恢复之前,已归档条目不能用于新的部署。

推荐的共享模式

需求推荐方法
让用户发现经过批准的上游模型配置 Model Catalog Source
部署 catalog 模型而不管理本地副本直接从 Model Catalog 部署
跟踪团队拥有的版本和元数据在 Model Registry 中注册模型
与另一个命名空间共享已注册模型管理 Model Registry 权限并授予命名空间访问权限
让模型可供推理服务使用,但从活动选择中隐藏它仅在移除依赖的推理服务后归档模型/版本
与工作负载共享模型文件将构件保留在 S3、PVC 或 OCI 存储中,并配置访问凭据