Alauda AI
  • 简体中文

    • 安装 TrustyAI

    本文档介绍如何安装 TrustyAI operator。

    目录

    上传 Operator安装 Operator后续步骤

    上传 Operator

    下载 TrustyAI operator 安装文件（例如，trustyai-service-operator.alpha.ALL.xxxx.tgz）。

    使用 violet 命令发布到平台仓库：

    violet push --platform-address=platform-access-address --platform-username=platform-admin --platform-password=platform-admin-password trustyai-service-operator.alpha.ALL.xxxx.tgz

    安装 Operator

    1. 进入 Alauda Container Platform 的 Administrator 视图。

    2. 在左侧导航中选择 Marketplace / Operator Hub。

    3. 在右侧面板中找到 Alauda Build of TrustyAI 并点击 Install。

    4. 保持所有参数为默认，完成安装。

    后续步骤

    Operator 安装完成后，用户可以使用诸如 TrustyAIService、LMEvalJob、GuardrailsOrchestrator 和 NemoGuardrails 等 CRD 来部署推理监控（TrustyAI Service）、运行模型评估任务，以及管理 AI guardrails 编排（包括 FMS Guardrails 和 NeMo Guardrails）。

    详情请参见 TrustyAI Service (TAS)、Evaluate LLM、AI Guardrails for LLM safety 和 NeMo Guardrails。