模型目录和模型注册表

Alauda AI 在 AI Hub 中提供两种模型管理体验:

功能用途管理位置
模型目录浏览由已配置的外部源或平台源提供的模型和元数据。User View > AI Hub > Model Catalog
模型注册表注册供命名空间使用的模型、版本、元数据和构件位置。User View > AI Hub > Model Registry

模型通过 Model URI 引用,而元数据和生命周期状态 由目录或注册表 API 管理。

模型目录

浏览目录模型

  1. 切换到 User View 并选择一个命名空间。
  2. 在左侧导航中展开 AI Hub,然后选择 Model Catalog。
  3. 可选:选择一个目录 Source,并按任务类型、提供商、 框架或标签进行筛选。
  4. 选择模型卡片或模型名称以打开其详细信息。
  5. 查看模型描述、模型卡片、任务类型、标签、框架、 张量类型、大小、许可证和 Model URI。

用户视图中的目录条目为只读。它是外部引用,因此 不能为该条目上传本地文件或执行删除操作。

部署或注册目录模型

在目录模型的详细信息页面上:

  • 选择 Create Inference API,打开推理服务表单,其中会预先选择 目录构件;或者
  • 选择 Register Model,将目录模型复制到模型注册表中。 选择一个注册表,查看模型名称和描述,接受或编辑建议的版本名称, 并确认构件 URI。目录元数据(例如任务和框架)可能会复制到已注册模型或版本。

注册目录模型会在所选注册表中创建一个已注册模型、一个模型版本和一个 模型构件。该构件仍通过其 URI 寻址。

配置目录源(管理员)

管理员可以在 Admin View > Settings > Model Catalog Sources 中配置源。

  1. 选择 Add Source。
  2. 输入源名称。使用小写字母、数字和下划线;不要使用连字符。
  3. 选择源类型:
    • Hugging Face:提供必需的 Organization,以及在需要时提供 Access Token。
    • YAML:提供 YAML 目录内容。
  4. 可选:设置 Display Name、Allowed Models、Excluded Models 和 Enabled。
  5. 选择 Add。源状态会指示其是否可用、已禁用或存在错误。
  6. 需要时,从源所在行的操作菜单中编辑或删除源。

源配置控制 Model Catalog 中显示的内容。它不会 创建私有已注册模型或上传模型文件。

模型注册表

创建注册表(管理员)

用户注册模型前,管理员必须在 Admin View > Settings > Model Registries 中创建后端:

  1. 选择 Create Model Registry。
  2. 输入注册表名称,以及可选的显示名称。
  3. 选择 Storage Class。
  4. 选择 Access Mode(默认通常为 ReadWriteOnce)。
  5. 设置元数据存储大小(GiB)。
  6. 选择 Create。

注册表列表显示注册表状态、Storage Class、存储大小和 创建时间。创建操作会配置注册表底层的部署和持久化存储,因此状态 最初可能为 Deploying 或尚不可用。行操作菜单还提供 Manage permissions、Edit 和 Delete。

注册模型和版本

  1. 切换到 User View,选择一个命名空间,然后打开 AI Hub > Model Registry。
  2. 选择 Register Model。
  3. 选择一个 Model Registry。如果表单已选择第一个可用注册表, 请确认它是预期的注册表。
  4. 输入模型 Name 和可选的 Description。
  5. 输入 Version 名称。如果模型名称已存在,控制台会建议下一个可用名称, 例如 Version 2;提交前请检查该名称。
  6. 输入 Model URI。URI 必须包含 scheme,例如: s3://bucket/path、pvc://claim/path 或 oci://registry.example.com/project/model:tag。
  7. 选择 Register。

控制台会创建或复用已注册模型,并添加提交的版本和模型构件。模型详细信息页面 包含 Overview 和 Versions 标签页。Overview 显示描述、所有者、ID、标签、 自定义属性、最新版本和相关推理服务。版本详细信息页面显示版本状态、构件 URI、 框架、时间戳和相关推理服务。

添加版本

要向现有已注册模型添加新构件:

  1. 打开已注册模型的详细信息页面。
  2. 选择 Versions。
  3. 选择 Register New Version。
  4. 输入版本名称、可选描述、Model URI 和模型框架。
  5. 选择 Register New Version。

版本在归档前保持 LIVE 状态。需要再次使用已归档版本时, 使用版本的操作菜单将其恢复。

更新元数据

在已注册模型或版本的详细信息页面上,拥有编辑权限的用户可以 更新标签、描述和自定义属性。元数据存储在 Model Registry 中, 与任何上游目录源相互独立。已归档的模型和版本在恢复前无法编辑。

归档和恢复

归档是用于替代删除已注册模型或版本的生命周期操作:

  1. 打开模型或版本的操作菜单。
  2. 选择 Archive。
  3. 在确认字段中输入准确的模型或版本名称。
  4. 选择 Archive。
  5. 要再次使用它,切换到已归档视图并选择 Restore。

归档已注册模型也会归档其所有版本。已发布推理服务的模型或版本无法归档; 请先删除相关推理服务。已归档条目仍保留在注册表中,可以查看或恢复。

从模型管理进行部署

两种模型管理视图都可以启动推理部署:

  • Model Catalog:打开目录条目并选择 Create Inference API。
  • Model Registry:打开活动模型版本并选择 Create Inference API,或在最新版本旁选择 Deploy。

控制台会将所选构件的 Model URI、模型名称、版本、任务 和框架传递到推理服务表单。在其中选择合适的服务运行时和部署资源。 有关存储 URI 格式和直接存储工作流,请参阅 Model Storage。