安装前配置
目录
部署 Service Mesh
由于 Alauda AI 利用 Service Mesh 功能来支持模型推理服务,因此在部署 Alauda AI 之前,必须先在集群中部署 Service Mesh。详细的部署流程请参见 。
INFO
完成 Create Service Mesh 页面上的 Prerequisites 后,继续进入 Creating a Service Mesh 页面,按照页面提示完成 Service Mesh 的部署。
准备 GitLab 服务
在 Alauda AI 中,GitLab 是 模型管理 的核心组件。在部署 Alauda AI 之前,您 必须准备 一个 GitLab 服务。
部署选项
1. GitLab 服务要求
无论采用何种部署方式,所有 GitLab 实例必须满足以下条件:
- 版本:必须是 v15 或更高版本。
- 协议:必须使用 HTTPS。配置说明请参见 。
- Git LFS:必须 启用。配置说明请参见 。
- 托管方式:必须是 自托管(不支持公有云托管的 GitLab 服务)。
- 访问令牌:禁用访问令牌的过期时间。
2. 使用平台提供的插件
使用 “Alauda Build of GitLab” 插件部署新的 GitLab 服务。 操作说明请参见:。
3. 使用自有 GitLab 服务
也可以使用 自管理的 GitLab 实例,但必须满足上述 GitLab 服务要求。
GitLab 配置
在部署 Alauda AI 之前,获取服务后需完成以下 GitLab 配置步骤。
1. 禁用访问令牌的过期时间
如果 GitLab 版本为 v17.0 或更高版本,需要 禁用 访问令牌的过期时间。
WARNING
如果访问令牌的过期时间保持启用,管理员令牌需要至少每年手动刷新一次,否则 Alauda AI 可能会停止工作。
禁用新访问令牌过期时间的步骤:
- 在左侧边栏底部选择 Admin。
- 选择 Settings > General。
- 展开 Account and limit。
- 取消勾选 Personal / Project / Group access token expiration 复选框。
- 点击 Save changes。
2. 生成新令牌
生成管理员的模拟令牌步骤:
- 在左侧边栏底部选择 Admin。
- 选择 Overview > Users。
- 选择管理员用户(例如 Administrator)。
- 在顶部导航栏选择 Impersonation Tokens。
- 点击 Add new token。
- 在弹出表单中:
- 输入 Alauda AI 的 Token name(例如
aml-root)。 - 移除 Expiration Date(点击“x”图标移除过期时间)。
- 勾选 ALL 权限范围(尤其是 api 权限)。
- 输入 Alauda AI 的 Token name(例如
- 点击 Create impersonation token。
- 保存 弹窗中显示的令牌,我们后续需要使用。
WARNING
请务必保存新生成的令牌——之后无法再次查看。
3. 为管理员令牌创建 kubernetes secret
接着,在 cpaas-system 命名空间下创建名为 aml-gitlab-admin-token 的 gitlab 管理员令牌 secret:
- 创建名为 aml-gitlab-admin-token 的 gitlab 管理员令牌 secret
- 令牌保存在 password 键中,请将
${TOKEN}替换为之前保存的真实令牌 - secret 创建在 cpaas-system 命名空间下