#安装 Alauda AI

#下载 violet 工具

首先，如果机器上没有 violet 工具，需要先下载。

登录 Web Console 并切换到 Administrator 视图：

1. 点击 Marketplace / Upload Packages。
2. 点击 Download Packaging and Listing Tool。
3. 在 Execution Environment 下找到对应的操作系统 / CPU 架构。
4. 点击 Download 下载 violet 工具。
5. 运行 chmod +x ${PATH_TO_THE_VIOLET_TOOL} 使工具可执行。

#上传软件包

先将以下脚本保存为 uploading-ai-cluster-packages.sh，然后根据注释更新脚本中的环境变量配置。

#!/usr/bin/env bash
export PLATFORM_ADDRESS=https://platform-address  
export PLATFORM_ADMIN_USER=<admin>
export PLATFORM_ADMIN_PASSWORD=<admin-password>
export CLUSTER=<cluster-name>

export AI_CLUSTER_OPERATOR_NAME=<path-to-aml-operator-tarball>
export KSERVELESS_OPERATOR_PKG_NAME=<path-to-kserveless-operator-tarball>

VIOLET_EXTRA_ARGS=()
IS_EXTERNAL_REGISTRY=

# 如果目标集群的镜像仓库类型不是平台内置（外部私有或公共仓库），
# 需要额外配置（取消以下行注释）：
# IS_EXTERNAL_REGISTRY=true
if [[ "${IS_EXTERNAL_REGISTRY}" == "true" ]]; then
    REGISTRY_ADDRESS=<external-registry-url>
    REGISTRY_USERNAME=<registry-username>
    REGISTRY_PASSWORD=<registry-password>

    VIOLET_EXTRA_ARGS+=(
        --dst-repo "${REGISTRY_ADDRESS}"
        --username "${REGISTRY_USERNAME}"
        --password "${REGISTRY_PASSWORD}"
    )
fi

# 推送 **Alauda AI Cluster** Operator 包到目标集群
violet push \
    ${AI_CLUSTER_OPERATOR_NAME} \
    --platform-address=${PLATFORM_ADDRESS} \
    --platform-username=${PLATFORM_ADMIN_USER} \
    --platform-password=${PLATFORM_ADMIN_PASSWORD} \
    --clusters=${CLUSTER} \
    ${VIOLET_EXTRA_ARGS[@]}

# 推送 **KServeless** Operator 包到目标集群
violet push \
    ${KSERVELESS_OPERATOR_PKG_NAME} \
    --platform-address=${PLATFORM_ADDRESS} \
    --platform-username=${PLATFORM_ADMIN_USER} \
    --platform-password=${PLATFORM_ADMIN_PASSWORD} \
    --clusters=${CLUSTER} \
    ${VIOLET_EXTRA_ARGS[@]}

配置完成后，执行 bash ./uploading-ai-cluster-packages.sh 脚本上传 Alauda AI 和 Alauda AI Model Serving Operator。

#操作步骤

在 Administrator 视图：

1. 点击 Marketplace / OperatorHub。

2. 在控制台顶部的 Cluster 下拉列表中，选择要安装 Alauda AI 的目标集群。

3. 选择 Alauda AI，然后点击 Install。

   会弹出 Install Alauda AI 窗口。

4. 在 Install Alauda AI 窗口中：

5. 保持 Channel 不变。

6. 检查 Version 是否与您要安装的 Alauda AI 版本匹配。

7. 保持 Installation Location 不变，默认应为 aml-operator。

8. 选择 Manual 作为 Upgrade Strategy。

9. 点击 Install。

#验证

确认 Alauda AI 图块显示以下状态之一：

• Installing：安装进行中，等待状态变为 Installed。
• Installed：安装完成。

#操作步骤

在 Administrator 视图：

1. 点击 Marketplace / OperatorHub。

2. 在控制台顶部的 Cluster 下拉列表中，选择要安装 Alauda AI Operator 的目标集群。

3. 选择 Alauda AI，然后点击。

4. 在 Alauda AI 页面，点击标签页中的 All Instances。

5. 点击 Create。

   会弹出 Select Instance Type 窗口。

6. 在 Select Instance Type 窗口中找到 AmlCluster 图块，点击 Create。

   会显示 Create AmlCluster 表单。

7. Name 保持为 default。

8. 从下拉列表中选择 Deploy Flavor：

   1. single-node 用于非 HA 部署。
   2. ha-cluster 用于 HA 集群部署（生产环境推荐）。

9. 将 KServe Mode 设置为 Managed。

10. 在 Domain 字段输入有效域名。

    INFO

    该域名用于 ingress gateway 暴露模型服务接口。 通常建议使用通配符域名，如 *.example.com。

    通过更新 Domain Certificate Type 字段，可以指定以下证书类型：

    • Provided
    • SelfSigned
    • ACPDefaultIngress

    默认配置使用 SelfSigned 证书类型保护集群的 ingress 流量，证书存储在 Domain Certificate Secret 字段指定的 knative-serving-cert Secret 中。

    若要使用自有证书，请将证书 Secret 存储在 istio-system 命名空间，更新 Domain Certificate Secret 字段值，并将 Domain Certificate Type 字段改为 Provided。

11. 在 Serverless Configuration 部分，将 Knative Serving Provider 设置为 Operator，其余参数保持为空。

12. 在 Gitlab 部分：

    1. 在 Base URL 输入自托管 Gitlab 的 URL。
    2. 在 Admin Token Secret Namespace 输入 cpaas-system。
    3. 在 Admin Token Secret Name 输入 aml-gitlab-admin-token。

13. 检查以上配置无误后，点击 Create。

#验证

通过以下命令检查名为 default 的 AmlCluster 资源状态：

kubectl get amlcluster default

应返回 Ready 状态：

NAME      READY   REASON
default   True    Succeeded

#前提条件

Serverless 功能依赖于 Istio 的 Gateway 进行网络通信。请先按照文档安装 Service Mesh。

#操作步骤

在 Administrator 视图：

1. 点击 Marketplace / OperatorHub。

2. 在控制台顶部的 Cluster 下拉列表中，选择要安装的目标集群。

3. 选择 Alauda AI Model Serving，然后点击 Install。

   会弹出 Install Alauda AI Model Serving 窗口。

4. 在 Install Alauda AI Model Serving 窗口中：

5. 保持 Channel 不变。

6. 检查 Version 是否与您要安装的 Alauda AI Model Serving 版本匹配。

7. 保持 Installation Location 不变，默认应为 kserveless-operator。

8. 选择 Manual 作为 Upgrade Strategy。

9. 点击 Install。

#验证

确认 Alauda AI Model Serving 图块显示以下状态之一：

• Installing：安装进行中，等待状态变为 Installed。
• Installed：安装完成。

在 Administrator 视图：

1. 点击 Marketplace / OperatorHub。

2. 在控制台顶部的 Cluster 下拉列表中，选择之前安装了 AmlCluster 的目标集群。

3. 选择 Alauda AI，然后点击。

4. 在 Alauda AI 页面，点击标签页中的 All Instances。

5. 点击名称为 default 的实例。

6. 找到 Actions 下拉列表，选择更新。

   会弹出 update default 表单。

7. 在 Serverless Configuration 部分：

   1. 将 Knative Serving Provider 设置为 Legacy。
   2. 将 BuiltIn Knative Serving 设置为 Managed。

8. 其余参数保持不变，点击 Update。

在 Administrator 视图：

1. 点击 Marketplace / OperatorHub。

2. 在控制台顶部的 Cluster 下拉列表中，选择要安装的目标集群。

3. 选择 Alauda AI Model Serving，然后点击。

4. 在 Alauda AI Model Serving 页面，点击标签页中的 All Instances。

5. 点击 Create。

   会弹出 Select Instance Type 窗口。

6. 在 Select Instance Type 窗口中找到 KnativeServing 图块，点击 Create。

   会显示 Create KnativeServing 表单。

7. Name 保持为 default-knative-serving。

8. Knative Serving Namespace 保持为 knative-serving。

9. 在 Ingress Gateway 部分，配置以下内容：

   1. 将 Ingress Gateway Istio Revision 设置为对应您 Istio 版本的值（例如 1-22）。
   2. 为 Domain 字段设置有效域名。
   3. 设置合适的 Domain Certificate Type。
   INFO

   有关域名和证书类型配置详情，请参见相关章节。

10. 在 Values 部分，配置以下内容：

    1. 从下拉列表选择 Deploy Flavor：

       1. single-node 用于非 HA 部署。
       2. ha-cluster 用于 HA 集群部署（生产环境推荐）。

    2. 将 Global Registry Address 设置为匹配您的集群。

       您可以通过以下步骤查找集群的私有镜像仓库地址：

       1. 在 Web Console 中，进入 Administrator / Clusters。
       2. 选择目标 cluster。
       3. 在 Overview 标签页的 Basic Info 部分找到 Private Registry address。

在 AmlCluster 实例更新窗口，您需要在 Serverless Configuration 部分填写以下必填参数。

• APIVersion：components.aml.dev/v1alpha1
• Kind：KnativeServing
• Name：default-knative-serving
• Namespace 保持为空。