logo
Alauda AI
  • 简体中文
    • English
    • 简体中文
    • Alauda AI
    • 工作台
    • 实用指南
    导航
    概览
    架构
    介绍
    快速开始
    发版日志
    安装
    安装前配置
    安装 Workbench
    配置 Alauda AI 入口和品牌
    安装 Alauda AI
    Tools 菜单配置
    升级
    升级 Alauda AI
    迁移到 Knative Operator
    卸载
    卸载
    基础设施管理
    硬件配置
    介绍
    操作指南
    硬件配置文件管理
    实用指南
    使用 CLI 创建 Hardware Profile
    将工作负载调度到特定的 GPU 节点
    创建纯 CPU 与 GPU 加速的硬件配置文件
    设备管理
    关于 Alauda Build of Hami
    关于 Alauda Build 的 NVIDIA GPU 设备插件
    多租户
    指南
    Namespace Management
    工作台
    概览
    介绍
    升级
    实用指南
    创建 Workbench
    使用 Elyra 从 JupyterLab 运行 Kubeflow Pipelines
    连接
    概览
    介绍
    实用指南
    使用 Connections
    模型部署与推理
    概览
    介绍
    特性
    推理服务
    介绍
    实用指南
    使用 CLI 创建推理服务
    扩展 Inference Runtimes
    使用 KServe Modelcar 进行模型存储
    为 vLLM 推理服务启用 Expert Parallel
    配置推理服务外部访问
    面向 vLLM 推理服务的 Speculative Decoding
    配置推理服务自动扩缩容
    按照 CUDA 版本调度推理服务
    Set Up Autoscaling for Inference Services with KEDA
    故障排查
    使用 MLServer Runtime 体验推理服务超时
    推理服务无法进入运行状态
    指导手册
    推理服务
    模型管理
    介绍
    功能指南
    模型仓库
    模型存储
    实用指南
    使用 Notebook 上传模型
    模型共享
    训练指南
    Kubeflow Trainer 快速入门
    使用 Kubeflow Trainer v2 进行微调
    使用 Kueue、Checkpointing 和 Inference 共存的可抢占 TrainJob
    使用 Dynamic Resource Allocation (DRA) 进行 GPU 切分
    训练运行时镜像
    使用 Training Hub 对 LLM 进行微调
    使用 MLflow Tracking 和 TrustyAI 评估的 Daily Fine-Tuning Pipeline
    使用 Workbench 微调 LLM
    在 Ascend NPU 上微调和预训练 LLM
    推理指南
    Qwen3-32B
    Qwen3.6-27B (W8A8)
    DeepSeek-V4-Flash (W4A8)
    DeepSeek-V4-Flash (W8A8)
    作为服务的模型(MaaS)
    介绍
    监控与运维
    概览
    介绍
    特性概述
    日志与追踪
    介绍
    功能指南
    日志
    资源监控
    介绍
    实用指南
    添加监控面板
    故障排除
    监控面板卡在加载中
    功能指南
    资源监控
    Label Studio
    概览
    介绍
    主要功能
    安装 Label Studio
    快速入门
    Dify
    概览
    介绍
    主要功能
    安装 Dify
    LLM Compressor
    介绍
    实用指南
    适用于 Alauda AI 的 LLM Compressor
    Alauda 版 KubeRay Operator
    介绍
    安装
    实用指南
    CodeFlare SDK 教程
    Alauda 构建的 Spark Operator
    介绍
    安装
    实用指南
    运行 Spark 应用
    Kagenti Operator
    介绍
    安装
    实用指南
    使用 Core Profile 快速入门
    安装 Secure Profile 依赖项
    启用安全配置文件
    使用 Secure Profile 的演示
    Demo 高级版:在 Tool 上使用 Token Exchange 的 AuthBridge
    安全架构
    Data Science Pipelines operator
    介绍
    安装
    实用指南
    创建 Data Science Pipelines Application
    MLflow
    介绍
    安装
    实用指南
    工作区和访问控制
    在启用身份验证和 RBAC 的情况下使用 MLflow Python SDK
    Kubeflow Pipeline + MLflow 集成
    Alauda 版 Kueue
    介绍
    安装 Kueue
    实用指南
    设置 RBAC
    配置配额
    监控待处理的工作负载
    使用 cohorts
    配置公平共享
    Gang scheduling
    与 Alauda DevOps Pipelines 集成
    与 InferenceService 集成
    使用 Kueue 管理 Ascend NPU 配额
    Alauda 对 Volcano 的支持
    介绍
    安装 Volcano
    Alauda 版 KServe
    介绍
    安装 KServe
    Alauda Build 版 InferNex Bridge
    介绍
    安装 InferNex Bridge
    Alauda 版 Llama Stack
    概览
    介绍
    主要特性
    安装 Llama Stack
    快速入门
    agentic_mlops
    将编码智能体与本地部署的推理服务结合使用
    使用编码智能体与本地部署 LLM 开展 MLOps
    Alauda 的 LeaderWorkerSet 构建
    介绍
    安装 LeaderWorkerSet
    Alauda Build 的 MCP Lifecycle Operator
    介绍
    安装
    快速开始
    使用 Ragas 评估 RAG
    Alauda Build 的 JobSet
    介绍
    安装 JobSet
    快速入门
    Alauda Build of TrustyAI
    介绍
    安装 TrustyAI
    评估 LLM
    面向 LLM 安全的 AI Guardrails
    NeMo Guardrails
    TrustyAI Service (TAS)
    Alauda Envoy AI Gateway 构建
    介绍
    安装 Envoy AI Gateway
    实用指南
    对消费者进行身份验证
    配置 Token 配额
    计量 Token 使用量
    路由到 LLM 提供商
    Token 使用量计费
    Feast 的 Alauda 构建
    介绍
    安装 Feast
    快速开始
    Alauda 对 Kubeflow 的支持
    介绍
    安装 Kubeflow Operators
    升级 Kubeflow Operators
    常见问题
    how_to
    使用 Kubeflow Notebooks
    使用 Kubeflow TensorBoard
    使用 Kubeflow 卷
    使用 Kubeflow Model Registry
    使用 Kubeflow Pipelines
    API 参考
    介绍
    Kubernetes APIs
    Inference Service APIs
    ClusterServingRuntime [serving.kserve.io/v1alpha1]
    推理服务 [serving.kserve.io/v1beta1]
    Workbench APIs
    Workspace Kind [kubeflow.org/v1beta1]
    Workspace [kubeflow.org/v1beta1]
    管理 API
    AmlNamespace [manage.aml.dev/v1alpha1]
    Operator APIs
    AmlCluster [amlclusters.aml.dev/v1alpha1]
    学习
    架构、版本和组件
    术语表

    #实用指南

    编辑此页面
    上一页升级下一页创建 Workbench