介绍

Alauda AI 通过两项互补的能力管理模型:Model Catalog 和 Model Registry。两者用途不同,不应混淆。

Model Catalog

Model Catalog 是由已配置目录源提供的模型可搜索清单。目录源可以是 Hugging Face 组织、YAML 目录或平台提供的 OCI 模型目录。目录条目是外部引用;目录存储其描述性信息和 artifact URI,但不会自行存储模型文件。

从 User View > AI Hub > Model Catalog 中,您可以:

  • 以网格或列表视图浏览模型;
  • 按源、提供商、任务类型、框架和标签筛选模型;
  • 打开模型详细信息,包括其描述、模型卡片、许可证和 artifact URI;
  • 直接从目录 artifact 创建推理服务;或
  • 将目录模型及其某个 artifact 注册到 Model Registry 中。

管理员在 Admin View > Settings > Model Catalog Sources 中配置源。对于用户,目录列表为只读:对目录模型的更改应在上游源中进行,或通过将模型注册到 Model Registry 中进行。

Model Registry

Model Registry 是用于管理团队在命名空间中注册和使用的模型生命周期的系统。它存储模型元数据、已注册模型、模型版本和模型 artifact。模型 artifact 由 Model URI 标识(例如 S3 URI、PVC URI 或 OCI image URI);注册表存储元数据和 artifact 引用,而不是模型文件工作树。

从 User View > AI Hub > Model Registry 中,您可以:

  • 注册模型及其第一个版本;
  • 向现有注册模型添加其他版本;
  • 编辑标签、描述和自定义属性;
  • 查看某个版本的 artifact URI 和模型框架;
  • 从活动版本创建推理服务;以及
  • 归档或恢复模型和版本。

管理员在 Admin View > Settings > Model Registries 中创建注册表后端。注册表使用选定的 Storage Class 和存储大小来运行其元数据服务。在底层部署和存储就绪之前,注册表可能会一直处于 provisioning 状态。

推荐工作流

  1. 在受支持的存储位置准备模型,例如 S3、PVC 或 OCI registry。请参阅 Model Storage。
  2. 如果模型来自已配置的源,请在 Model Catalog 中找到它并查看其详细信息。否则,打开 Model Registry 并直接注册模型。
  3. 选择一个 Model Registry,输入模型名称和版本,并提供 Model URI。
  4. 验证模型元数据和活动版本。
  5. 从目录或活动的 Model Registry 版本部署模型。
  6. 归档不再使用的版本。带有已发布推理服务的版本必须先完成清理,然后才能归档。

以下页面将详细介绍目录、注册表、存储、上传和共享工作流。