模型目录和模型注册表
Alauda AI 在 AI Hub 中提供两种模型管理体验:
模型通过 Model URI 引用,而元数据和生命周期状态 由目录或注册表 API 管理。
模型目录
浏览目录模型
- 切换到 User View 并选择一个命名空间。
- 在左侧导航中展开 AI Hub,然后选择 Model Catalog。
- 可选:选择一个目录 Source,并按任务类型、提供商、 框架或标签进行筛选。
- 选择模型卡片或模型名称以打开其详细信息。
- 查看模型描述、模型卡片、任务类型、标签、框架、 张量类型、大小、许可证和 Model URI。
用户视图中的目录条目为只读。它是外部引用,因此 不能为该条目上传本地文件或执行删除操作。
部署或注册目录模型
在目录模型的详细信息页面上:
- 选择 Create Inference API,打开推理服务表单,其中会预先选择 目录构件;或者
- 选择 Register Model,将目录模型复制到模型注册表中。 选择一个注册表,查看模型名称和描述,接受或编辑建议的版本名称, 并确认构件 URI。目录元数据(例如任务和框架)可能会复制到已注册模型或版本。
注册目录模型会在所选注册表中创建一个已注册模型、一个模型版本和一个 模型构件。该构件仍通过其 URI 寻址。
配置目录源(管理员)
管理员可以在 Admin View > Settings > Model Catalog Sources 中配置源。
- 选择 Add Source。
- 输入源名称。使用小写字母、数字和下划线;不要使用连字符。
- 选择源类型:
- Hugging Face:提供必需的 Organization,以及在需要时提供 Access Token。
- YAML:提供 YAML 目录内容。
- 可选:设置 Display Name、Allowed Models、Excluded Models 和 Enabled。
- 选择 Add。源状态会指示其是否可用、已禁用或存在错误。
- 需要时,从源所在行的操作菜单中编辑或删除源。
源配置控制 Model Catalog 中显示的内容。它不会 创建私有已注册模型或上传模型文件。
模型注册表
创建注册表(管理员)
用户注册模型前,管理员必须在 Admin View > Settings > Model Registries 中创建后端:
- 选择 Create Model Registry。
- 输入注册表名称,以及可选的显示名称。
- 选择 Storage Class。
- 选择 Access Mode(默认通常为
ReadWriteOnce)。 - 设置元数据存储大小(GiB)。
- 选择 Create。
注册表列表显示注册表状态、Storage Class、存储大小和 创建时间。创建操作会配置注册表底层的部署和持久化存储,因此状态 最初可能为 Deploying 或尚不可用。行操作菜单还提供 Manage permissions、Edit 和 Delete。
注册模型和版本
- 切换到 User View,选择一个命名空间,然后打开 AI Hub > Model Registry。
- 选择 Register Model。
- 选择一个 Model Registry。如果表单已选择第一个可用注册表, 请确认它是预期的注册表。
- 输入模型 Name 和可选的 Description。
- 输入 Version 名称。如果模型名称已存在,控制台会建议下一个可用名称,
例如
Version 2;提交前请检查该名称。 - 输入 Model URI。URI 必须包含 scheme,例如:
s3://bucket/path、pvc://claim/path或oci://registry.example.com/project/model:tag。 - 选择 Register。
控制台会创建或复用已注册模型,并添加提交的版本和模型构件。模型详细信息页面 包含 Overview 和 Versions 标签页。Overview 显示描述、所有者、ID、标签、 自定义属性、最新版本和相关推理服务。版本详细信息页面显示版本状态、构件 URI、 框架、时间戳和相关推理服务。
添加版本
要向现有已注册模型添加新构件:
- 打开已注册模型的详细信息页面。
- 选择 Versions。
- 选择 Register New Version。
- 输入版本名称、可选描述、Model URI 和模型框架。
- 选择 Register New Version。
版本在归档前保持 LIVE 状态。需要再次使用已归档版本时, 使用版本的操作菜单将其恢复。
更新元数据
在已注册模型或版本的详细信息页面上,拥有编辑权限的用户可以 更新标签、描述和自定义属性。元数据存储在 Model Registry 中, 与任何上游目录源相互独立。已归档的模型和版本在恢复前无法编辑。
归档和恢复
归档是用于替代删除已注册模型或版本的生命周期操作:
- 打开模型或版本的操作菜单。
- 选择 Archive。
- 在确认字段中输入准确的模型或版本名称。
- 选择 Archive。
- 要再次使用它,切换到已归档视图并选择 Restore。
归档已注册模型也会归档其所有版本。已发布推理服务的模型或版本无法归档; 请先删除相关推理服务。已归档条目仍保留在注册表中,可以查看或恢复。
从模型管理进行部署
两种模型管理视图都可以启动推理部署:
- Model Catalog:打开目录条目并选择 Create Inference API。
- Model Registry:打开活动模型版本并选择 Create Inference API,或在最新版本旁选择 Deploy。
控制台会将所选构件的 Model URI、模型名称、版本、任务 和框架传递到推理服务表单。在其中选择合适的服务运行时和部署资源。 有关存储 URI 格式和直接存储工作流,请参阅 Model Storage。