安装 TrustyAI
本文档介绍如何安装 TrustyAI operator。
上传 Operator
下载 TrustyAI operator 安装文件(例如,trustyai-service-operator.alpha.ALL.xxxx.tgz)。
使用 violet 命令发布到平台仓库:
安装 Operator
-
进入 Alauda Container Platform 的
Administrator视图。 -
在左侧导航中选择
Marketplace/Operator Hub。 -
在右侧面板中找到
Alauda Build of TrustyAI并点击Install。 -
保持所有参数为默认,完成安装。
后续步骤
operator 安装完成后,用户可以使用诸如 LMEvalJob 和 GuardrailsOrchestrator 等 CRD 来管理模型评估任务和 AI guardrails 编排。
详情请参见 Evaluate LLM 和 AI Guardrails for LLM safety 部分。