创建 Workbench

前提条件

  • 确保已配置 kubectl 并连接到集群。
  • 确保已创建 PVC。
CreatePVC
  1. 登录并进入 Alauda Container Platform 页面。
  2. 点击 Storage > PersistentVolumeClaims,进入 PVC 列表页面。
  3. 找到 Create PVC 按钮,点击 Create,然后填写信息。

使用 Web 控制台创建 Workbench

操作步骤

登录并进入 Alauda AI Platform 页面。

点击 Workbench,进入 Workbench 列表 页面。

找到 Create 按钮并点击 Create,进入创建表单。填写信息后即可创建 Workbench。

连接到 Workbench

创建 Workbench 实例后,点击左侧导航栏中的 Workbench;您的 Workbench 实例应显示在列表中。状态变为 Running 后,点击 Connect 按钮进入 Workbench。

在 JupyterLab 中上传文件

如果使用基于 JupyterLab 的 Workbench,可以在文件浏览器中使用 Upload Files 按钮从本地计算机上传文件。当 Workbench 无法访问公共互联网或 PyPI 镜像,而您需要从本地 wheel 文件安装 Python 软件包时,此功能非常有用。

离线安装 Python Wheel 文件

  1. 连接到 Workbench 并打开 JupyterLab。

  2. 在左侧文件浏览器中,点击 Upload Files 按钮,然后从本地计算机中选择一个或多个 .whl 文件。

  3. 在 JupyterLab 中打开终端,并进入包含已上传文件的目录。

  4. 安装软件包:

    pip install ./your_package-1.0.0-py3-none-any.whl

如果软件包依赖其他 wheel 文件,请将所有必需的 .whl 文件上传到同一目录,然后在不访问外部软件包索引的情况下安装:

pip install --no-index --find-links . your-package
INFO

直接安装到容器中的软件包适合临时使用或个人使用。如果重新创建 Workbench,仅安装在容器内部的软件包可能会丢失。对于可重复的环境,建议使用自定义 Workbench 镜像或存储在持久化存储上的虚拟环境。

可用的 Workbench 镜像

平台提供了一组开箱即用的 WorkspaceKind 镜像,这些镜像会直接显示在 Workbench 创建表单中。Docker Hub 上也发布了其他镜像,但默认不会同步到平台。

下表采用与 Red Hat OpenShift AI 文档相同的通用风格:介绍每个镜像的用途,并列出主要预装软件包以供快速参考。软件包列表仅供参考,并未列出所有软件包。版本取自构建仓库中对应的镜像目录及其锁定文件。

内置镜像

以下镜像开箱即用:

多架构镜像(x86_64 和 arm64)

镜像名称描述主要软件包
Minimal Python
alauda-workbench-jupyter-minimal-cpu-py312-ubi9
如果您需要轻量级 Jupyter Workbench,并计划自行安装项目专用的软件包,请使用此镜像。Python 3.12
JupyterLab 4.5.6
Jupyter Server 2.17.0
JupyterLab Git 0.52.0
nbdime 4.0.4
nbgitpuller 1.2.2
Standard Data Science
alauda-workbench-jupyter-datascience-cpu-py312-ubi9
对于不需要框架专用 GPU 镜像的一般数据科学工作,请使用此镜像。Python 3.12
JupyterLab 4.5.6
Jupyter Server 2.17.0
NumPy 2.4.3
pandas 2.3.3
SciPy 1.16.3
scikit-learn 1.8.0
Matplotlib 3.10.8
Plotly 6.5.2
KFP 2.15.2
Kubeflow Training 1.9.3
Feast 0.60.0
CodeFlare SDK 0.35.0
ODH Elyra 4.3.2
code-server
alauda-workbench-codeserver-datascience-cpu-py312-ubi9
如果您更喜欢类似 VS Code 的 IDE 来进行数据科学开发,请使用此镜像。此镜像不支持基于 Elyra 的流水线。Python 3.12
code-server 4.106.3
Python extension 2026.0.0
Jupyter extension 2025.9.1
ipykernel 7.2.0
debugpy 1.8.20
NumPy 2.4.3
pandas 2.3.3
scikit-learn 1.8.0
SciPy 1.16.3
KFP 2.15.2
Feast 0.60.0
virtualenv 21.1.0
ripgrep 15.0.0

其他镜像

Docker Hub 上提供了以下镜像,但默认未内置于平台中:

x86_64 镜像

这些镜像适用于支持 NVIDIA GPU 的 x86_64 节点。

镜像名称描述主要软件包
TensorFlow
alaudadockerhub/odh-workbench-jupyter-tensorflow-cuda-py312-ubi9
使用此镜像在 NVIDIA GPU 上进行 TensorFlow 模型开发和训练。Python 3.12
CUDA base image 12.9
TensorFlow 2.20.0+redhat
TensorBoard 2.20.0
JupyterLab 4.5.6
Jupyter Server 2.17.0
NumPy 2.4.3
pandas 2.3.3
PyTorch LLM Compressor
alaudadockerhub/odh-workbench-jupyter-pytorch-llmcompressor-cuda-py312-ubi9
使用此镜像在 NVIDIA GPU 上进行基于 PyTorch 的 LLM 压缩和优化。Python 3.12
CUDA base image 12.9
PyTorch 2.9.1
torchvision 0.24.1
TensorBoard 2.20.0
llmcompressor 0.9.0.2
transformers 4.57.3
datasets 4.4.1
accelerate 1.12.0
compressed-tensors 0.13.0
nvidia-ml-py 13.590.44
lm-eval 0.4.11
PyTorch
alaudadockerhub/odh-workbench-jupyter-pytorch-cuda-py312-ubi9
使用此镜像在 NVIDIA GPU 上进行 PyTorch 模型开发和训练。Python 3.12
CUDA base image 12.9
PyTorch 2.9.1
torchvision 0.24.1
TensorBoard 2.20.0
JupyterLab 4.5.6
Jupyter Server 2.17.0
onnxscript 0.6.2
CUDA Minimal Python
alaudadockerhub/odh-workbench-jupyter-minimal-cuda-py312-ubi9
如果您需要支持 NVIDIA CUDA 的轻量级 Jupyter 基础镜像,请使用此镜像。Python 3.12
CUDA base image 13.0
JupyterLab 4.5.6
Jupyter Server 2.17.0
JupyterLab Git 0.52.0
nbdime 4.0.4
nbgitpuller 1.2.2

arm64 镜像

这些镜像适用于支持 Ascend NPU 的 arm64 节点。

镜像名称描述主要软件包
CANN Minimal Python
alauda-workbench-jupyter-minimal-cann-py312-ubi9
如果您需要支持 Ascend CANN 的轻量级 Jupyter 基础镜像,请使用此镜像。Python 3.12
CANN 8.5.0
JupyterLab 4.5.6
Jupyter Server 2.17.0
JupyterLab Git 0.51.4
nbdime 4.0.4
nbgitpuller 1.2.2
PyTorch CANN
alauda-workbench-jupyter-pytorch-cann-py312-ubi9
使用此镜像在 Ascend NPU 上进行 PyTorch 模型开发和训练。Python 3.12
CANN 8.5.0
PyTorch 2.9.0
torch_npu 2.9.0(Ascend 版本 7.3.0)
JupyterLab 4.5.6
Jupyter Server 2.17.0
TensorBoard 2.20.0
Ray 2.54.0
onnxscript 0.6.2
NumPy 2.4.3
pandas 2.3.3
scikit-learn 1.8.0
SciPy 1.16.3
KFP 2.15.2
Feast 0.60.0
MindSpore CANN
docker.io/alaudadockerhub/alauda-workbench-jupyter-mindspore-cann-py312-ubi9:v0 .1.7
使用此镜像在 Ascend NPU 上进行 MindSpore 模型开发、检查点转换和训练。Python 3.12
CANN 8.5.0
MindSpore 2.8.0
JupyterLab 4.5.6
Jupyter Server 2.17.0
TensorBoard 2.20.0
ODH Elyra 4.3.2
onnxscript 0.6.2
KFP 2.15.2
Kubeflow Training 1.9.3
pandas 2.3.3
scikit-learn 1.8.0
SciPy 1.16.3
ModelSlim CANN
docker.io/alaudadockerhub/alauda-workbench-jupyter-modelslim-cann-py311-ubi9:v0 .1.7
使用此镜像进行基于 msmodelslim 的 Ascend NPU 模型压缩和量化工作流,包括官方的 Qwen3.5 验证流程。Python 3.11
CANN 8.5.0
PyTorch 2.9.0
torch_npu 2.9.0(Ascend 版本 7.3.0)
msmodelslim 26.0.0a2
transformers 5.2.0
huggingface-hub 1.10.2
torchvision 0.24.0
mistral-common 1.11.0
easydict 1.13
wcmatch 10.1
TensorBoard 2.20.0
JupyterLab 4.5.6
Jupyter Server 2.17.0

如需使用其他镜像,请先将其同步到您自己的镜像仓库。您可以使用 skopeo 等工具,也可以使用下一节中介绍的脚本。要构建新镜像并将其注册为 Workbench 选项,请参阅自带 Workbench 镜像。

使用 Qwen3.5 notebook 验证 ModelSlim 镜像

如果您使用 docker.io/alaudadockerhub/alauda-workbench-jupyter-modelslim-cann-py311-ubi9:v0.1.7,可以通过下载 qwen35_modelslim_quant_verify.ipynb来验证环境。

此 notebook 遵循 Ascend 官方 msmodelslim Qwen3.5 示例,旨在用作预检验证 notebook,而非完整的量化运行。默认情况下,它会:

  • 检查已验证技术栈所需的运行时导入项和固定的软件包版本,包括 msmodelslim 26.0.0a2 和 transformers 5.2.0
  • 验证 msmodelslim CLI,以及模型目录和输出目录的权限要求
  • 准备官方 msmodelslim quant --device npu ... 命令,并且仅在 RUN_QUANT = True 时运行量化

运行 notebook 之前,请先将基础模型上传到 Workbench,并检查第一个参数单元格中的 MODEL_PATH、SAVE_PATH、MODEL_TYPE 和 QUANT_TYPE。此镜像使用 Python 3.11,因为构建目标所使用的已验证公开 msmodelslim wheel 系列面向 CPython 3.11。上游 Qwen3.5 指南目前将 Atlas A2 和 Atlas A3 训练及推理产品列为此量化流程支持的设备系列。

Docker Hub 镜像同步脚本指南

sync-from-dockerhub.sh 是一个用于将选定的 Docker Hub 镜像(尤其是超大镜像)同步到 Harbor 等私有镜像仓库的自动化工具。 由于网络波动,大型镜像在直接传输过程中更容易遇到内存不足(OOM)或超时故障。为提高可靠性,该脚本采用中继工作流:本地拉取 → 导出为 tar 归档 → 将 tar 归档推送到目标仓库。任务完成或意外退出时,脚本还会自动清理临时文件。

脚本前提条件

运行此脚本之前,请确保已在执行机器上安装并可访问以下工具:

  • bash(执行环境)
  • nerdctl(用于拉取镜像并将层导出为 tar 归档)
  • skopeo(用于将 tar 镜像归档推送到目标私有仓库)

环境变量配置

脚本通过读取环境变量执行同步,无需修改代码即可灵活使用。

必需参数(目标私有仓库配置)

环境变量描述示例值
TARGET_REGISTRY目标私有镜像仓库的地址build-harbor.alauda.cn
TARGET_PROJECT用于存储镜像的目标仓库中的特定项目/命名空间mlops/workbench-images
TARGET_USER登录目标仓库的用户名admin
TARGET_PASSWORD登录目标仓库的密码YourSecretPassword

可选参数(源 DockerHub 配置)

为避免拉取大量镜像时触发 DockerHub 的速率限制,您可以提供 DockerHub 凭据,以便在拉取之前登录。如果不需要,请将其留空。

环境变量描述示例值
DOCKERHUB_USERDockerHub 账户用户名your_dockerhub_account
DOCKERHUB_PASSWORDDockerHub 密码或访问令牌dckr_pat_xxxxxx...

示例 1:基本用法(最常见)

如果您只需将脚本中定义的镜像同步到您的私有 Harbor:

# 1. Export environment variables for the target registry
export TARGET_REGISTRY="build-harbor.alauda.cn"
export TARGET_PROJECT="mlops/workbench-images"
export TARGET_USER="admin"
export TARGET_PASSWORD="YourHarborPassword"

# 2. Grant execution permissions to the script (if not already done)
chmod +x ./sync-from-dockerhub.sh

# 3. Execute the synchronization
./sync-from-dockerhub.sh

示例 2:单行命令执行(适用于 CI 环境)

您可以在同一行中声明环境变量并运行脚本。此方法可以避免污染当前 Shell 环境变量:

TARGET_REGISTRY="build-harbor.alauda.cn" \
TARGET_PROJECT="mlops/workbench-images" \
TARGET_USER="admin" \
TARGET_PASSWORD="YourHarborPassword" \
./sync-from-dockerhub.sh

示例 3:使用 DockerHub 身份验证完整执行(防止速率限制)

从同一台机器频繁拉取镜像时,DockerHub 可能会拒绝您的请求。在这种情况下,请包含您的 DockerHub 凭据:

export TARGET_REGISTRY="build-harbor.alauda.cn"
export TARGET_PROJECT="mlops/workbench-images"
export TARGET_USER="admin"
export TARGET_PASSWORD="YourHarborPassword"

export DOCKERHUB_USER="alaudadockerhub"
export DOCKERHUB_PASSWORD="dckr_pat_xxx_your_token_xxx"

./sync-from-dockerhub.sh

故障排除和注意事项

  1. 磁盘空间:由于脚本需要将超大镜像(例如 13GB)临时存储为 tar 归档,请确保系统的 /tmp 目录(或其所在的根分区)具有充足的可用空间(建议至少 30GB)。脚本的默认暂存目录为 /tmp/workbench-images-export-from-hub。
  2. 传输超时:当前脚本为大型文件推送设置了 120 分钟(SKOPEO_TIMEOUT="120m")的超时时间。如果由于网络速度极慢导致进程失败,您可以使用任意文本编辑器调整脚本顶部的此参数值。
  3. 修改镜像列表:如果您不再希望同步某些镜像,只需打开 sync-from-dockerhub.sh,并使用 # 将 WORKBENCH_IMAGES 数组中对应的行注释掉(类似于在 sync.sh 中筛选掉轻量级镜像)。

镜像在您的仓库中可用后,还需要将相应配置添加到计划使用的 WorkspaceKind 资源的 imageConfig 字段中。以下是一个向现有 WorkspaceKind 添加新镜像配置的补丁 YAML 示例:

add-llmcompressor-image-patch.json
[
  {
    "op": "add",
    "path": "/spec/podTemplate/options/imageConfig/values/-",
    "value": {
      "id": "jupyter-pytorch-llmcompressor-cuda-py312",
      "spawner": {
        "displayName": "Jupyter | PyTorch LLM Compressor | CUDA | Python 3.12",
        "description": "JupyterLab with PyTorch and LLM Compressor for CUDA",
        "labels": [
          {
            "key": "python_version",
            "value": "3.12"
          },
          {
            "key": "framework",
            "value": "pytorch"
          },
          {
            "key": "accelerator",
            "value": "cuda"
          }
        ]
      },
      "spec": {
        "image": "build-harbor.alauda.cn/mlops/workbench-images/odh-workbench-jupyter-pytorch-llmcompressor-cuda-py312-ubi9:3.4_ea1-v1.41",
        "imagePullPolicy": "IfNotPresent",
        "ports": [
          {
            "id": "jupyterlab",
            "displayName": "JupyterLab",
            "port": 8888,
            "protocol": "HTTP"
          }
        ]
      }
    }
  }
]

您可以使用类似以下命令,将补丁应用到正在使用的 WorkspaceKind:

kubectl patch workspacekind jupyterlab-internal-3-4-ea1-v1-41 \
  --type=json \
  --patch-file add-llmcompressor-image-patch.json \
  -o yaml

此命令会将 JSON 补丁文件应用到指定的 WorkspaceKind,并更新其 imageConfig,使新的 Workbench 镜像在 Workbench 创建 UI 中可用。

实际上,您可以根据所同步的镜像以及集群中使用的命名约定,调整 name、image 和 description 字段。

为 Ascend vNPU Workbench 配置附加组

如果您使用 huawei.com/Ascend910B4 等 Ascend vNPU 资源选项,请验证目标 WorkspaceKind pod 模板的 supplementalGroups 中包含 Ascend 设备组。某些 vNPU 设置会将 /dev/davinci* 设备文件挂载为组所有的字符设备,例如权限模式为 crw-rw---- 的 1000:1000。在这种情况下,仅设置 fsGroup 并不能授予对设备文件的访问权限,npu-smi info 等命令可能会因 dcmi module initialize failed. ret is -8005 而失败。

为提供 vNPU Workbench 选项的 WorkspaceKind 打补丁:

kubectl patch workspacekind jupyterlab-internal-3-4-ea1-v1-41 \
  --type=merge \
  -p '{"spec":{"podTemplate":{"securityContext":{"fsGroup":0,"supplementalGroups":[1000]}}}}'

使用集群中拥有 Ascend 设备文件的组 ID。根据此 WorkspaceKind 创建的新 Workbench pod 将继承更新后的安全上下文。必须重启现有 Workbench pod 才能应用更改。

INFO

我们还内置了一些资源选项,您可以在下拉菜单中查看这些选项。