#升级 Alauda AI

#安装 Alauda AI 集群组件

请访问 Alauda AI Cluster 了解：

1. 为 Alauda AI 和 Knative Operator Downloading operator bundle packages（可选）。
2. 为 Alauda Build of KServe Downloading operator bundle packages。
3. 将 operator bundle packages Uploading 到目标集群。
4. 按照下面描述的流程进行升级。

#升级前操作

#为已停止的 Inference Services 添加注解

从版本 2.3 开始，平台采用 KServe 提供的社区原生停止能力。为确保升级平稳进行，所有当前处于已停止状态的 inference services 在升级前都必须显式添加注解。

1. 列出所有当前已停止的 inference services：

   kubectl get inferenceservices --all-namespaces

2. 为每个已停止的 inference service 添加以下注解：

   kubectl annotate inferenceservice <name> -n <namespace> serving.kserve.io/stop='true'

   你也可以直接编辑资源，并在 metadata.annotations 下添加该注解：

   apiVersion: serving.kserve.io/v1beta1
   kind: InferenceService
   metadata:
     name: <name>
     annotations:
       serving.kserve.io/stop: 'true'

3. 对所有命名空间中的所有已停止 inference services 重复此步骤。

#升级

以下操作步骤描述了如何将 Alauda AI 从 1.5 升级到 2.3。

#升级 Alauda AI Essentials

在 global 集群的 Functional Components 选项卡中升级 Alauda AI Essentials。

在 Administrator 视图中，导航到左侧导航栏的 Clusters / Cluster，在右侧图表中找到 global 集群，然后在 Functional Components 选项卡页面上单击 Upgrade 按钮以触发升级。

升级完成后，请确认列表中 Alauda AI Essentials 的状态为 Running，版本为 v2.3.x。

#升级 Alauda AI Operators

升级 operator 的操作步骤几乎相同，唯一不同的是目标组件。

#安装 Alauda Build of KServe Operator

从版本 2.3 开始，Alauda Build of KServe 作为一个独立的 operator 插件提供，以提供更专用且更灵活的模型服务能力。在完成核心 AI operator 升级后，你必须安装 KServe operator 以启用模型服务功能。

有关详细的安装和配置步骤，请参阅 Alauda Build of KServe Installation Guide。

#升级集群插件

升级集群插件的操作涉及上传新版本软件包，然后从 Web Console 中进行升级。以下插件需要升级：

• Alauda AI Workbench
• MLflow
• Volcano

#上传集群插件

将新的集群插件软件包上传到 global 集群。有关如何上传集群插件的详细说明，请参阅 Uploading Cluster Plugins。

对你已部署的每个插件重复上传过程。

#验证新版本

导航到 Administrator > Marketplace > Upload Packages，并切换到 Cluster Plugin 选项卡。找到每个已上传的插件，确认显示了新版本。

#故障排查

#上传后新版本不可见（ACP 4.0.x）

在 Alauda Container Platform (ACP) 4.0.x 上，即使上传成功，Web Console 也可能无法显示新上传的集群插件版本。这是已知的 ACP 限制；在较新的 ACP 版本中已得到解决。

如果等待同步后新版本仍未出现，可以使用以下变通方法，将目标版本设置到相应的 ModuleInfo 上，并直接触发插件升级。

以下 kubectl 命令必须在 global 集群上运行。

1. 解析 ModuleInfo 资源名称。将 <Cluster Name> 替换为目标集群名称。对于 <Plugin Identifier>，请使用上表中 插件标识符 列的值：

   kubectl get moduleinfoes \
     -l cpaas.io/cluster-name=<Cluster Name>,cpaas.io/module-name=<Plugin Identifier> \
     -o jsonpath='{.items[*].metadata.name}'

2. 从 ModulePlugin 状态中获取 <New Version>，并在此步骤中使用与步骤 1 相同的 <Plugin Identifier> 值（见上表）：

   kubectl get moduleplugins <Plugin Identifier> -o jsonpath='{.status.latestVersion}'

3. patch ModuleInfo。将 <ModuleInfo Name> 替换为步骤 1 中获取的名称，并将 <New Version> 替换为步骤 2 中的值：

   kubectl patch moduleinfoes <ModuleInfo Name> --type merge -p '{"spec":{"version":"<New Version>"}}'
   WARNING

   该 patch 会立即生效，并且直接触发集群插件升级到 <New Version>，绕过 Web Console 的升级操作。运行命令前请务必确认版本字符串。

#从 Web Console 升级

1. 导航到 Administrator > Clusters > Clusters。
2. 单击已部署插件的集群。
3. 在集群详情页面切换到 Functional Components 选项卡。
4. 找到具有可用升级的集群插件——其旁边会显示升级图标。
5. 单击要升级的插件的 Upgrade 按钮。
6. 在弹出窗口中查看升级信息，确认要升级的插件版本，然后单击 Upgrade 按钮开始升级过程。

对你已部署的每个插件重复此过程。

#升级后操作

#更新现有 Inference Services

由于 KServe 的 product mode 定义以及版本 2.3 中引入的 InferenceService 资源存在破坏性变更，所有在升级前已存在的 inference services 都必须手动更新。

对于每个现有 inference service，执行以下步骤：

1. 导航到 inference service 详情页面。

2. 单击 Update Inference Service。

3. 在更新页面中，单击右上角的 YAML 切换按钮，切换到 YAML 视图。

4. 找到 spec.predictor.model.name 字段。

5. 完全删除 name 字段及其值。

   例如，如果 YAML 包含：

   spec:
     predictor:
       model:
         name: kserve-container
         modelFormat:
           name: sklearn

   删除后应如下所示：

   spec:
     predictor:
       model:
         modelFormat:
           name: sklearn

6. 单击 Save 以应用更改。

7. 对所有在升级前已存在的 inference services 重复此过程。

#验证

kubectl get amlcluster default

NAME      READY   REASON
default   True    Succeeded

kubectl get kserve default-kserve -n kserve-operator

NAME             DEPLOYED   REASON
default-kserve   True       UpgradeSuccessful

#弃用 Alauda AI Model Serving

从 Alauda AI 2.x 系列开始，旧版 Alauda AI Model Serving operator 已弃用。我们强烈建议需要 serverless inference 能力的用户尽快切换到 Knative Operator，以确保长期支持并获取最新功能。

有关如何将你的 serverless 工作负载迁移到新 operator 的指导，请参阅 Migrating to Knative Operator 说明。