安装前配置

部署 Service Mesh

由于 Alauda AI 利用 Service Mesh 能力来提供模型推理服务,因此在部署 Alauda AI 之前,必须先在集群中部署 Service Mesh。有关详细的部署步骤,请参阅 创建 Service Mesh v1

INFO

完成 Create Service Mesh 页面上的 Prerequisites 后,继续前往 Creating a Service Mesh 页面,并按照屏幕上的说明完成 Service Mesh 的部署。

准备 GitLab 服务

在 Alauda AI 中,GitLab 是 Model Management 的核心组件。在部署 Alauda AI 之前,您必须准备一个 GitLab 服务。

部署选项

1. GitLab 服务要求

无论采用哪种部署方式,所有 GitLab 实例都必须满足以下要求:

  • Version:必须为 v15 或更高版本
  • Protocol:必须使用 HTTPS。有关设置说明,请参阅 配置 HTTPS
  • Git LFS:必须启用。有关设置说明,请参阅 使用 LFS 管理大文件
  • Hosting:必须为自托管(不支持公有云托管的 GitLab 服务)。
  • Access Tokens禁用访问令牌的过期日期。

2. 使用平台提供的插件

使用 'Alauda Build of GitLab' 插件部署新的 GitLab 服务。 有关说明,请参阅:部署 Alauda Build of GitLab

3. 使用您自己的 GitLab 服务

或者,您也可以使用自主管理的 GitLab 实例,但它必须满足上述 GitLab 服务要求

GitLab 配置

在部署 Alauda AI 之前,请在获取服务后执行以下 GitLab 配置步骤。

1. 禁用访问令牌的过期日期

如果 GitLab 运行的是 v17.0 或更高版本,我们需要禁用访问令牌的过期日期。

WARNING

如果访问令牌的过期日期始终保持启用状态,我们必须至少每年手动刷新一次管理员令牌,否则 Alauda AI 可能无法正常工作。

要为新的访问令牌禁用过期日期:

  1. 在左侧边栏底部,选择 Admin
  2. 选择 Settings > General
  3. 展开 Account and limit
  4. 取消勾选 Personal / Project / Group access token expiration 复选框。
  5. 选择 Save changes

2. 生成新令牌

为管理员生成 impersonation token:

  1. 在左侧边栏底部,选择 Admin
  2. 选择 Overview > Users
  3. 选择管理员用户(例如 Administrator)。
  4. 在顶部导航栏中,选择 Impersonation Tokens
  5. 选择 Add new token
  6. 在弹出的表单中:
    1. 为 Alauda AI 输入一个 Token name(例如 aml-root)。
    2. 删除 Expiration Date(选择 “x” 图标以移除过期日期)。
    3. Select scopes 中勾选 ALL scopes(尤其是 api scope)。
  7. 选择 Create impersonation token
  8. 将新生成的令牌保存到 Your new impersonation token 下,我们稍后需要使用它。
WARNING

请务必保存新生成的令牌——之后将无法再次访问。

3. 为管理员令牌创建 Kubernetes secret

然后,我们在 cpaas-system 命名空间下创建名为 aml-gitlab-admin-token 的 gitlab admin token secret:

# Please replace ${TOKEN} with real token saved previously
kubectl create secret generic aml-gitlab-admin-token \
  --from-literal="password=${TOKEN}" \
  -n cpaas-system
  1. 创建一个名为 aml-gitlab-admin-token 的 gitlab admin token secret
  2. 令牌保存在 password 键下,请将 ${TOKEN} 替换为之前保存的真实令牌。
  3. 该 secret 创建在 cpaas-system 命名空间下。