#训练指南
在 Alauda AI 上对 LLMs 进行微调和预训练的端到端配方。
#选择路径
| 你想要的场景 | 使用 | 指南 |
|---|---|---|
| 可复用模板、可重复运行、可选的 Kueue 配额 | Kubeflow Trainer v2 + LlamaFactory | 使用 Kubeflow Trainer v2 进行微调 |
| 在崩溃、抢占或暂停后恢复，而不会损失数小时的训练时间 | Checkpoint PVC + resume_from_checkpoint + maxRestarts | 检查点保存与恢复 TrainJobs |
| 将训练与在线推理结合，在需要时归还 GPU | Kueue cohort + 抢占 + 检查点恢复 | 使用 Kueue 的可抢占 TrainJobs |
| 在 GPU 的一个 切片 上运行微调，而不是整卡 | Dynamic Resource Allocation (DRA) MIG slice + Trainer v2 | 使用 Dynamic Resource Allocation (DRA) 进行 GPU 切片 |
一组 Curated 的 TrainingRuntime 镜像（CUDA / CANN） | Trainer v2 runtime catalog | Training Runtime 镜像 |
| 在 Trainer v2 上一键快速开始分布式 PyTorch | ClusterTrainingRuntime + MNIST | Kubeflow Trainer 快速开始 |
| 具有自动内存管理的生产级 SFT / OSFT | training_hub | 使用 Training Hub 微调 LLMs |
| 交互式探索、自定义脚本、VolcanoJob 提交 | Workbench Notebook | 使用 Workbench 进行 LLMs 微调 |
| 在 Ascend NPU 上进行全参数 SFT / 预训练 | Workbench PyTorch CANN / MindSpore CANN | 在 Ascend NPU 上微调和预训练 |
| 在 MLflow 中跟踪 KFP 运行的参数和指标 | KFP component + MLflow SDK | Kubeflow Pipeline + MLflow 集成 |
| 使用可复用的 AutoGluon assets 训练表格或时间序列模型 | Managed KFP pipelines or composable components | 使用可复用的 Kubeflow Pipeline 组件 |
| 使用 KFP 缓存、并行循环和持久化的 typed artifacts | KFP 2.16.1 execution mechanisms | Kubeflow Pipelines 执行与存储行为 |
| 通过 MLflow + TrustyAI 实现每日微调 → 评估 → 比较循环 | KFP Recurring Run + MLflow Model Registry + LMEvalJob | 结合 MLflow 和 TrustyAI 的每日微调流水线 |