logo
Alauda AI
  • 简体中文
    • English
    • 简体中文
    • Alauda AI
    • 升级
    导航
    概览
    架构
    介绍
    快速开始
    发版日志
    安装
    安装前配置
    安装 Workbench
    配置 Alauda AI 入口和品牌
    安装 Alauda AI
    Tools 菜单配置
    升级
    升级 Alauda AI
    迁移到 Knative Operator
    卸载
    卸载
    基础设施管理
    硬件配置
    介绍
    操作指南
    硬件配置文件管理
    实用指南
    使用 CLI 创建 Hardware Profile
    将工作负载调度到特定的 GPU 节点
    创建纯 CPU 与 GPU 加速的硬件配置文件
    设备管理
    关于 Alauda Build of Hami
    关于 Alauda Build 的 NVIDIA GPU 设备插件
    多租户
    指南
    Namespace Management
    工作台
    概览
    介绍
    升级
    实用指南
    创建 Workbench
    使用 Elyra 从 JupyterLab 运行 Kubeflow Pipelines
    连接
    概览
    介绍
    实用指南
    使用连接
    模型部署与推理
    概览
    介绍
    特性
    推理服务
    介绍
    实用指南
    使用 CLI 创建推理服务
    扩展 Inference Runtimes
    使用 KServe Modelcar 进行模型存储
    为 vLLM 推理服务启用 Expert Parallel
    配置推理服务外部访问
    面向 vLLM 推理服务的 Speculative Decoding
    配置推理服务自动扩缩容
    基于 CUDA 版本调度推理服务
    Set Up Autoscaling for Inference Services with KEDA
    故障排查
    使用 MLServer Runtime 体验推理服务超时
    推理服务无法进入运行状态
    指导手册
    推理服务
    模型管理
    介绍
    功能指南
    模型仓库
    模型存储
    实用指南
    使用 Notebook 上传模型
    模型共享
    训练指南
    Kubeflow Trainer 快速入门
    使用 Kubeflow Trainer v2 进行微调
    使用 Kueue、Checkpointing 和 Inference 共存的可抢占 TrainJob
    训练运行时镜像
    使用 Training Hub 对 LLM 进行微调
    使用 Workbench 对 LLM 进行 Fine-tuning
    在 Ascend NPU 上微调和预训练 LLM
    监控与运维
    概览
    介绍
    特性概述
    日志与追踪
    介绍
    功能指南
    日志
    资源监控
    介绍
    实用指南
    添加监控面板
    故障排除
    监控面板卡在加载中
    功能指南
    资源监控
    Label Studio
    概览
    介绍
    主要功能
    安装 Label Studio
    快速入门
    Dify
    概览
    介绍
    主要功能
    安装 Dify
    LLM Compressor
    介绍
    实用指南
    适用于 Alauda AI 的 LLM Compressor
    Alauda 版 KubeRay Operator
    介绍
    安装
    实用指南
    CodeFlare SDK 教程
    Alauda 构建的 Node Feature Discovery
    介绍
    安装 Node Feature Discovery
    Alauda 版 Kueue
    介绍
    安装 Kueue
    实用指南
    设置 RBAC
    配置配额
    监控待处理的工作负载
    使用 cohorts
    配置公平共享
    Gang scheduling
    与 Alauda DevOps Pipelines 集成
    与 InferenceService 集成
    使用 Kueue 管理 Ascend NPU 配额
    Alauda 对 Volcano 的支持
    介绍
    安装 Volcano
    Alauda 版 KServe
    介绍
    安装 KServe
    Alauda 版 Llama Stack
    概览
    介绍
    主要特性
    安装 Llama Stack
    快速入门
    agentic_mlops
    将编码智能体与本地部署的推理服务结合使用
    使用编码智能体与本地部署 LLM 开展 MLOps
    Alauda 的 LeaderWorkerSet 构建
    介绍
    安装 LeaderWorkerSet
    使用 Ragas 评估 RAG
    Alauda Build 的 JobSet
    介绍
    安装 JobSet
    快速入门
    Alauda Build of TrustyAI
    介绍
    安装 TrustyAI
    评估 LLM
    面向 LLM 安全的 AI Guardrails
    NeMo Guardrails
    TrustyAI Service (TAS)
    Alauda Envoy AI Gateway 构建
    介绍
    安装 Envoy AI Gateway
    实用指南
    对消费者进行身份验证
    配置 Token 配额
    令牌用量计量
    路由到 LLM 提供商
    Token 使用量计费
    Feast 的 Alauda 构建
    介绍
    安装 Feast
    快速开始
    Alauda 对 Kubeflow 的支持
    介绍
    安装 Kubeflow Operators
    升级 Kubeflow Operators
    常见问题
    how_to
    使用 Kubeflow Notebooks
    使用 Kubeflow TensorBoard
    使用 Kubeflow 卷
    使用 Kubeflow Model Registry
    MLflow Tracking Server
    使用 Kubeflow Pipelines
    API 参考
    介绍
    Kubernetes APIs
    Inference Service APIs
    ClusterServingRuntime [serving.kserve.io/v1alpha1]
    推理服务 [serving.kserve.io/v1beta1]
    Workbench APIs
    Workspace Kind [kubeflow.org/v1beta1]
    Workspace [kubeflow.org/v1beta1]
    管理 API
    AmlNamespace [manage.aml.dev/v1alpha1]
    Operator APIs
    AmlCluster [amlclusters.aml.dev/v1alpha1]
    学习
    架构、版本和组件
    术语表

    #升级

    编辑此页面
    上一页Tools 菜单配置下一页升级 Alauda AI