Model Catalog 和 Model Registry
Alauda AI Platform 在 AI Hub 中提供两种模型管理体验:
模型通过 Model URI 引用,而元数据和生命周期状态则通过 catalog 或 registry API 管理。
目录
Model Catalog浏览 catalog 模型部署或注册 catalog 模型配置 catalog 来源(管理员)Model Registry创建 registry(管理员)注册模型和版本添加版本更新元数据归档和恢复从模型管理部署Model Catalog
浏览 catalog 模型
- 切换到 User View 并选择一个命名空间。
- 在左侧导航中展开 AI Hub,然后选择 Model Catalog。
- 可选:选择一个 catalog Source,并按任务类型、提供方、框架或标签筛选。
- 选择模型卡片或模型名称,打开其详情页。
- 查看模型描述、模型卡片、任务类型、标签、框架、张量类型、大小、许可证和 Model URI。
在用户视图中,catalog 条目为只读。该条目是外部引用,因此无法对其执行本地文件上传或删除操作。
部署或注册 catalog 模型
在 catalog 模型的详情页中:
- 选择 Create Inference API,打开已预选 catalog 工件的推理服务表单;或
- 选择 Register Model,将 catalog 模型复制到 Model Registry。选择一个 registry,查看模型名称和描述,接受或修改建议的版本名称,并确认工件 URI。任务和框架等 catalog 元数据可能会复制到已注册的模型或版本中。
注册 catalog 模型会在所选 registry 中创建一个已注册模型、一个模型版本和一个模型工件。工件仍通过其 URI 进行寻址。
配置 catalog 来源(管理员)
管理员可以在 Admin View > Settings > Model Catalog Sources 中配置来源。
- 选择 Add Source。
- 输入来源名称。使用小写字母、数字和下划线;不要使用连字符。
- 选择来源类型:
- Hugging Face:提供必需的 Organization,并在需要时提供 Access Token。
- YAML:提供 YAML catalog 内容。
- 可选设置 Display Name、Allowed Models、Excluded Models 和 Enabled。
- 选择 Add。来源状态会显示其是否可用、已禁用或存在错误。
- 需要时,可通过来源行的操作菜单编辑或删除来源。
来源配置决定 Model Catalog 中显示的内容。它不会创建私有注册模型,也不会上传模型文件。
Model Registry
创建 registry(管理员)
用户注册模型之前,管理员必须在 Admin View > Settings > Model Registries 中创建后端:
- 选择 Create Model Registry。
- 输入 registry 名称,也可以输入显示名称。
- 选择 Storage Class。
- 选择 Access Mode(默认值通常为
ReadWriteOnce)。 - 设置元数据存储空间大小(GiB)。
- 选择 Create。
registry 列表会显示 registry 状态、Storage Class、存储空间大小和创建时间。创建操作会配置 registry 底层部署和持久化存储,因此其状态最初可能显示为 Deploying 或暂时不可用。行操作菜单还提供 Manage permissions、Edit 和 Delete。
注册模型和版本
- 切换到 User View,选择一个命名空间,然后打开 AI Hub > Model Registry。
- 选择 Register Model。
- 选择 Model Registry。如果表单已选中第一个可用的 registry,请确认它是所需的 registry。
- 输入模型 Name 和可选的 Description。
- 输入 Version 名称。如果模型名称已存在,控制台会建议下一个可用名称,例如
Version 2;提交前请检查该名称。 - 输入 Model URI。URI 必须包含方案,例如:
s3://bucket/path、pvc://claim/path或oci://registry.example.com/project/model:tag。 - 选择 Register。
控制台会创建或复用已注册模型,并添加提交的版本和模型工件。模型详情页面包含 Overview 和 Versions 选项卡。Overview 会显示描述、所有者、ID、标签、自定义属性、最新版本和相关推理服务。版本详情页面会显示版本状态、工件 URI、框架、时间戳和相关推理服务。
添加版本
要为现有已注册模型添加新工件:
- 打开已注册模型的详情页面。
- 选择 Versions。
- 选择 Register New Version。
- 输入版本名称、可选描述、Model URI 和模型框架。
- 选择 Register New Version。
版本会一直处于 LIVE 状态,直到将其归档。需要再次使用已归档的版本时,可通过该版本的操作菜单恢复。
更新元数据
在已注册模型或版本的详情页面中,拥有编辑权限的用户可以更新标签、描述和自定义属性。元数据存储在 Model Registry 中,与任何上游 catalog 来源相互独立。已归档的模型和版本必须先恢复,才能进行编辑。
归档和恢复
归档是用于替代删除已注册模型或版本的生命周期操作:
- 打开模型或版本的操作菜单。
- 选择 Archive。
- 在确认字段中输入准确的模型或版本名称。
- 选择 Archive。
- 要再次使用,请切换到已归档视图并选择 Restore。
归档已注册模型也会归档其所有版本。已发布推理服务的模型或版本无法归档;请先删除相关推理服务。已归档条目仍保留在 registry 中,并且可以查看或恢复。
从模型管理部署
这两个模型管理视图都可以启动推理部署:
- Model Catalog:打开一个 catalog 条目,然后选择 Create Inference API。
- Model Registry:打开一个活动模型版本,然后选择 Create Inference API;或者在最新版本旁选择 Deploy。
控制台会将所选构件的 Model URI、模型名称、版本、任务和框架传递到推理服务表单。在该表单中选择适当的服务运行时和部署资源。有关存储 URI 格式和直接存储工作流,请参阅 Model Storage。