Model Catalog 和 Model Registry

Alauda AI Platform 在 AI Hub 中提供两种模型管理体验:

功能用途管理位置
Model Catalog浏览由已配置的外部来源或平台来源提供的模型及其元数据。User View > AI Hub > Model Catalog
Model Registry注册模型、版本、元数据和工件位置,供命名空间使用。User View > AI Hub > Model Registry

模型通过 Model URI 引用,而元数据和生命周期状态则通过 catalog 或 registry API 管理。

Model Catalog

浏览 catalog 模型

  1. 切换到 User View 并选择一个命名空间。
  2. 在左侧导航中展开 AI Hub,然后选择 Model Catalog。
  3. 可选:选择一个 catalog Source,并按任务类型、提供方、框架或标签筛选。
  4. 选择模型卡片或模型名称,打开其详情页。
  5. 查看模型描述、模型卡片、任务类型、标签、框架、张量类型、大小、许可证和 Model URI。

在用户视图中,catalog 条目为只读。该条目是外部引用,因此无法对其执行本地文件上传或删除操作。

部署或注册 catalog 模型

在 catalog 模型的详情页中:

  • 选择 Create Inference API,打开已预选 catalog 工件的推理服务表单;或
  • 选择 Register Model,将 catalog 模型复制到 Model Registry。选择一个 registry,查看模型名称和描述,接受或修改建议的版本名称,并确认工件 URI。任务和框架等 catalog 元数据可能会复制到已注册的模型或版本中。

注册 catalog 模型会在所选 registry 中创建一个已注册模型、一个模型版本和一个模型工件。工件仍通过其 URI 进行寻址。

配置 catalog 来源(管理员)

管理员可以在 Admin View > Settings > Model Catalog Sources 中配置来源。

  1. 选择 Add Source。
  2. 输入来源名称。使用小写字母、数字和下划线;不要使用连字符。
  3. 选择来源类型:
    • Hugging Face:提供必需的 Organization,并在需要时提供 Access Token。
    • YAML:提供 YAML catalog 内容。
  4. 可选设置 Display Name、Allowed Models、Excluded Models 和 Enabled。
  5. 选择 Add。来源状态会显示其是否可用、已禁用或存在错误。
  6. 需要时,可通过来源行的操作菜单编辑或删除来源。

来源配置决定 Model Catalog 中显示的内容。它不会创建私有注册模型,也不会上传模型文件。

Model Registry

创建 registry(管理员)

用户注册模型之前,管理员必须在 Admin View > Settings > Model Registries 中创建后端:

  1. 选择 Create Model Registry。
  2. 输入 registry 名称,也可以输入显示名称。
  3. 选择 Storage Class。
  4. 选择 Access Mode(默认值通常为 ReadWriteOnce)。
  5. 设置元数据存储空间大小(GiB)。
  6. 选择 Create。

registry 列表会显示 registry 状态、Storage Class、存储空间大小和创建时间。创建操作会配置 registry 底层部署和持久化存储,因此其状态最初可能显示为 Deploying 或暂时不可用。行操作菜单还提供 Manage permissions、Edit 和 Delete。

注册模型和版本

  1. 切换到 User View,选择一个命名空间,然后打开 AI Hub > Model Registry。
  2. 选择 Register Model。
  3. 选择 Model Registry。如果表单已选中第一个可用的 registry,请确认它是所需的 registry。
  4. 输入模型 Name 和可选的 Description。
  5. 输入 Version 名称。如果模型名称已存在,控制台会建议下一个可用名称,例如 Version 2;提交前请检查该名称。
  6. 输入 Model URI。URI 必须包含方案,例如: s3://bucket/path、pvc://claim/path 或 oci://registry.example.com/project/model:tag。
  7. 选择 Register。

控制台会创建或复用已注册模型,并添加提交的版本和模型工件。模型详情页面包含 Overview 和 Versions 选项卡。Overview 会显示描述、所有者、ID、标签、自定义属性、最新版本和相关推理服务。版本详情页面会显示版本状态、工件 URI、框架、时间戳和相关推理服务。

添加版本

要为现有已注册模型添加新工件:

  1. 打开已注册模型的详情页面。
  2. 选择 Versions。
  3. 选择 Register New Version。
  4. 输入版本名称、可选描述、Model URI 和模型框架。
  5. 选择 Register New Version。

版本会一直处于 LIVE 状态,直到将其归档。需要再次使用已归档的版本时,可通过该版本的操作菜单恢复。

更新元数据

在已注册模型或版本的详情页面中,拥有编辑权限的用户可以更新标签、描述和自定义属性。元数据存储在 Model Registry 中,与任何上游 catalog 来源相互独立。已归档的模型和版本必须先恢复,才能进行编辑。

归档和恢复

归档是用于替代删除已注册模型或版本的生命周期操作:

  1. 打开模型或版本的操作菜单。
  2. 选择 Archive。
  3. 在确认字段中输入准确的模型或版本名称。
  4. 选择 Archive。
  5. 要再次使用,请切换到已归档视图并选择 Restore。

归档已注册模型也会归档其所有版本。已发布推理服务的模型或版本无法归档;请先删除相关推理服务。已归档条目仍保留在 registry 中,并且可以查看或恢复。

从模型管理部署

这两个模型管理视图都可以启动推理部署:

  • Model Catalog:打开一个 catalog 条目,然后选择 Create Inference API。
  • Model Registry:打开一个活动模型版本,然后选择 Create Inference API;或者在最新版本旁选择 Deploy。

控制台会将所选构件的 Model URI、模型名称、版本、任务和框架传递到推理服务表单。在该表单中选择适当的服务运行时和部署资源。有关存储 URI 格式和直接存储工作流,请参阅 Model Storage。