介绍

Alauda AI Platform 通过两项互补的功能管理模型:模型目录和模型注册表。它们用途不同,不应混淆。

模型目录

模型目录是由已配置目录源提供的可搜索模型清单。目录源可以是 Hugging Face 组织、YAML 目录或平台提供的 OCI 模型目录。目录条目是外部引用;目录存储其描述信息和工件 URI,但不会存储模型文件本身。

从用户视图 > AI Hub > 模型目录中,您可以:

  • 以网格视图或列表视图浏览模型;
  • 按来源、提供商、任务类型、框架和标签筛选模型;
  • 打开模型详情,包括其描述、模型卡片、许可证和工件 URI;
  • 直接从目录工件创建推理服务;或
  • 在模型注册表中注册目录模型及其某个工件。

管理员在管理视图 > 设置 > 模型目录源中配置目录源。目录列表对用户是只读的:对目录模型的更改需要在上游源中进行,或通过在模型注册表中注册该模型来完成。

模型注册表

模型注册表是用于管理团队在命名空间中注册和使用的模型的生命周期系统。它存储模型元数据、已注册模型、模型版本和模型工件。模型工件通过模型 URI标识(例如 S3 URI、PVC URI 或 OCI 镜像 URI);注册表存储元数据和工件引用,而不是模型文件工作树。

从用户视图 > AI Hub > 模型注册表中,您可以:

  • 注册模型及其第一个版本;
  • 向现有已注册模型添加其他版本;
  • 编辑标签、描述和自定义属性;
  • 查看某个版本的工件 URI 和模型框架;
  • 从活动版本创建推理服务;以及
  • 归档或恢复模型和版本。

管理员在管理视图 > 设置 > 模型注册表中创建注册表后端。注册表使用选定的 Storage Class 和存储大小来运行其元数据服务。在底层部署和存储就绪之前,注册表可能会一直处于配置状态。

推荐工作流

  1. 在受支持的存储位置准备模型,例如 S3、PVC 或 OCI 注册表。请参阅模型存储。
  2. 如果模型来自已配置的源,请在模型目录中找到它并查看其详细信息。否则,打开模型注册表并直接注册模型。
  3. 选择一个模型注册表,输入模型名称和版本,并提供 模型 URI。
  4. 验证模型元数据和活动版本。
  5. 从目录或活动模型注册表版本部署模型。
  6. 归档不再使用的版本。已发布推理服务的版本必须先清理,才能归档。

以下页面将详细介绍目录、注册表、存储、上传和共享工作流。