创建 Workbench
目录
前提条件使用 Web 控制台创建 Workbench操作步骤连接到 Workbench在 JupyterLab 中上传文件离线安装 Python Wheel 文件可用的 Workbench 镜像内置镜像多架构镜像(x86_64 和 arm64)其他镜像x86_64 镜像arm64 镜像使用 Qwen3.5 notebook 验证 ModelSlim 镜像Docker Hub 镜像同步脚本指南脚本前提条件环境变量配置必需参数(目标私有仓库配置)可选参数(源 DockerHub 配置)示例 1:基本用法(最常见)示例 2:单行命令执行(适用于 CI 环境)示例 3:使用 DockerHub 身份验证完整执行(防止速率限制)故障排除和注意事项为 Ascend vNPU Workbench 配置附加组前提条件
- 确保已配置
kubectl并连接到集群。 - 确保已创建
PVC。
- 登录并进入 Alauda Container Platform 页面。
- 点击 Storage > PersistentVolumeClaims,进入 PVC 列表页面。
- 找到 Create PVC 按钮,点击 Create,然后填写信息。
使用 Web 控制台创建 Workbench
操作步骤
登录并进入 Alauda AI Platform 页面。
点击 Workbench,进入 Workbench 列表 页面。
找到 Create 按钮并点击 Create,进入创建表单。填写信息后即可创建 Workbench。
连接到 Workbench
创建 Workbench 实例后,点击左侧导航栏中的 Workbench;您的 Workbench 实例应显示在列表中。状态变为 Running 后,点击 Connect 按钮进入 Workbench。
在 JupyterLab 中上传文件
如果使用基于 JupyterLab 的 Workbench,可以在文件浏览器中使用 Upload Files 按钮从本地计算机上传文件。当 Workbench 无法访问公共互联网或 PyPI 镜像,而您需要从本地 wheel 文件安装 Python 软件包时,此功能非常有用。
离线安装 Python Wheel 文件
-
连接到 Workbench 并打开 JupyterLab。
-
在左侧文件浏览器中,点击 Upload Files 按钮,然后从本地计算机中选择一个或多个
.whl文件。 -
在 JupyterLab 中打开终端,并进入包含已上传文件的目录。
-
安装软件包:
如果软件包依赖其他 wheel 文件,请将所有必需的 .whl 文件上传到同一目录,然后在不访问外部软件包索引的情况下安装:
直接安装到容器中的软件包适合临时使用或个人使用。如果重新创建 Workbench,仅安装在容器内部的软件包可能会丢失。对于可重复的环境,建议使用自定义 Workbench 镜像或存储在持久化存储上的虚拟环境。
可用的 Workbench 镜像
平台提供了一组开箱即用的 WorkspaceKind 镜像,这些镜像会直接显示在 Workbench 创建表单中。Docker Hub 上也发布了其他镜像,但默认不会同步到平台。
下表采用与 Red Hat OpenShift AI 文档相同的通用风格:介绍每个镜像的用途,并列出主要预装软件包以供快速参考。软件包列表仅供参考,并未列出所有软件包。版本取自构建仓库中对应的镜像目录及其锁定文件。
内置镜像
以下镜像开箱即用:
多架构镜像(x86_64 和 arm64)
其他镜像
Docker Hub 上提供了以下镜像,但默认未内置于平台中:
x86_64 镜像
这些镜像适用于支持 NVIDIA GPU 的 x86_64 节点。
arm64 镜像
这些镜像适用于支持 Ascend NPU 的 arm64 节点。
如需使用其他镜像,请先将其同步到您自己的镜像仓库。您可以使用 skopeo 等工具,也可以使用下一节中介绍的脚本。要构建新镜像并将其注册为 Workbench 选项,请参阅自带 Workbench 镜像。
使用 Qwen3.5 notebook 验证 ModelSlim 镜像
如果您使用 docker.io/alaudadockerhub/alauda-workbench-jupyter-modelslim-cann-py311-ubi9:v0.1.7,可以通过下载 qwen35_modelslim_quant_verify.ipynb来验证环境。
此 notebook 遵循 Ascend 官方 msmodelslim Qwen3.5 示例,旨在用作预检验证 notebook,而非完整的量化运行。默认情况下,它会:
- 检查已验证技术栈所需的运行时导入项和固定的软件包版本,包括
msmodelslim 26.0.0a2和transformers 5.2.0 - 验证
msmodelslimCLI,以及模型目录和输出目录的权限要求 - 准备官方
msmodelslim quant --device npu ...命令,并且仅在RUN_QUANT = True时运行量化
运行 notebook 之前,请先将基础模型上传到 Workbench,并检查第一个参数单元格中的 MODEL_PATH、SAVE_PATH、MODEL_TYPE 和 QUANT_TYPE。此镜像使用 Python 3.11,因为构建目标所使用的已验证公开 msmodelslim wheel 系列面向 CPython 3.11。上游 Qwen3.5 指南目前将 Atlas A2 和 Atlas A3 训练及推理产品列为此量化流程支持的设备系列。
Docker Hub 镜像同步脚本指南
sync-from-dockerhub.sh 是一个用于将选定的 Docker Hub 镜像(尤其是超大镜像)同步到 Harbor 等私有镜像仓库的自动化工具。 由于网络波动,大型镜像在直接传输过程中更容易遇到内存不足(OOM)或超时故障。为提高可靠性,该脚本采用中继工作流:本地拉取 → 导出为 tar 归档 → 将 tar 归档推送到目标仓库。任务完成或意外退出时,脚本还会自动清理临时文件。
脚本前提条件
运行此脚本之前,请确保已在执行机器上安装并可访问以下工具:
bash(执行环境)nerdctl(用于拉取镜像并将层导出为 tar 归档)skopeo(用于将 tar 镜像归档推送到目标私有仓库)
环境变量配置
脚本通过读取环境变量执行同步,无需修改代码即可灵活使用。
必需参数(目标私有仓库配置)
可选参数(源 DockerHub 配置)
为避免拉取大量镜像时触发 DockerHub 的速率限制,您可以提供 DockerHub 凭据,以便在拉取之前登录。如果不需要,请将其留空。
示例 1:基本用法(最常见)
如果您只需将脚本中定义的镜像同步到您的私有 Harbor:
示例 2:单行命令执行(适用于 CI 环境)
您可以在同一行中声明环境变量并运行脚本。此方法可以避免污染当前 Shell 环境变量:
示例 3:使用 DockerHub 身份验证完整执行(防止速率限制)
从同一台机器频繁拉取镜像时,DockerHub 可能会拒绝您的请求。在这种情况下,请包含您的 DockerHub 凭据:
故障排除和注意事项
- 磁盘空间:由于脚本需要将超大镜像(例如 13GB)临时存储为
tar归档,请确保系统的/tmp目录(或其所在的根分区)具有充足的可用空间(建议至少 30GB)。脚本的默认暂存目录为/tmp/workbench-images-export-from-hub。 - 传输超时:当前脚本为大型文件推送设置了 120 分钟(
SKOPEO_TIMEOUT="120m")的超时时间。如果由于网络速度极慢导致进程失败,您可以使用任意文本编辑器调整脚本顶部的此参数值。 - 修改镜像列表:如果您不再希望同步某些镜像,只需打开
sync-from-dockerhub.sh,并使用#将WORKBENCH_IMAGES数组中对应的行注释掉(类似于在sync.sh中筛选掉轻量级镜像)。
镜像在您的仓库中可用后,还需要将相应配置添加到计划使用的 WorkspaceKind 资源的 imageConfig 字段中。以下是一个向现有 WorkspaceKind 添加新镜像配置的补丁 YAML 示例:
您可以使用类似以下命令,将补丁应用到正在使用的 WorkspaceKind:
此命令会将 JSON 补丁文件应用到指定的 WorkspaceKind,并更新其 imageConfig,使新的 Workbench 镜像在 Workbench 创建 UI 中可用。
实际上,您可以根据所同步的镜像以及集群中使用的命名约定,调整 name、image 和 description 字段。
为 Ascend vNPU Workbench 配置附加组
如果您使用 huawei.com/Ascend910B4 等 Ascend vNPU 资源选项,请验证目标 WorkspaceKind pod 模板的 supplementalGroups 中包含 Ascend 设备组。某些 vNPU 设置会将 /dev/davinci* 设备文件挂载为组所有的字符设备,例如权限模式为 crw-rw---- 的 1000:1000。在这种情况下,仅设置 fsGroup 并不能授予对设备文件的访问权限,npu-smi info 等命令可能会因 dcmi module initialize failed. ret is -8005 而失败。
为提供 vNPU Workbench 选项的 WorkspaceKind 打补丁:
使用集群中拥有 Ascend 设备文件的组 ID。根据此 WorkspaceKind 创建的新 Workbench pod 将继承更新后的安全上下文。必须重启现有 Workbench pod 才能应用更改。
我们还内置了一些资源选项,您可以在下拉菜单中查看这些选项。