安装 TrustyAI

本文档介绍如何安装 TrustyAI operator。

上传 Operator

下载 TrustyAI operator 安装文件(例如,trustyai-service-operator.alpha.ALL.xxxx.tgz)。

使用 violet 命令发布到平台仓库:

violet push --platform-address=platform-access-address --platform-username=platform-admin --platform-password=platform-admin-password trustyai-service-operator.alpha.ALL.xxxx.tgz

安装 Operator

  1. 进入 Alauda Container Platform 的 Administrator 视图。

  2. 在左侧导航中选择 Marketplace / Operator Hub

  3. 在右侧面板中找到 Alauda Build of TrustyAI 并点击 Install

  4. 保持所有参数为默认,完成安装。

后续步骤

operator 安装完成后,用户可以使用诸如 LMEvalJobGuardrailsOrchestrator 等 CRD 来管理模型评估任务和 AI guardrails 编排。

详情请参见 Evaluate LLMAI Guardrails for LLM safety 部分。