执行摘要
为 TorchTitan 引擎新增文档与 CI 测试
TorchTitan 引擎需要 nightly 版本的 PyTorch 和 TorchTitan 支持 spmd_types,缺乏 CI 覆盖和文档。本 PR 添加端到端 CI 和文档,确保引擎的可测试性和可维护性。
推荐阅读文档和 CI 配置以理解 TorchTitan 引擎的依赖和部署,CI 模板可用于其他引擎的测试集成。
除 CLA 自动检查外,无 reviewer 评论;PR 直接获得 wuxibin89 批准。
TorchTitan 引擎需要 nightly 版本的 PyTorch 和 TorchTitan 支持 spmd_types,缺乏 CI 覆盖和文档。本 PR 添加端到端 CI 和文档,确保引擎的可测试性和可维护性。
推荐阅读文档和 CI 配置以理解 TorchTitan 引擎的依赖和部署,CI 模板可用于其他引擎的测试集成。
除 CLA 自动检查外,无 reviewer 评论;PR 直接获得 wuxibin89 批准。
.github/workflows/e2e_ppo_trainer_torchtitan_vllm.yml):配置触发条件为推送或 PR 到主分支且路径匹配或排除,定义 job 步骤安装 nightly 依赖(torch, torchvision, vllm, torchtitan)并运行测试脚本。tests/special_e2e/run_ppo_trainer_torchtitan.sh):将默认激活检查点模式从 none 改为 selective(提升训练效率),将总训练步数从硬编码 100 改为环境变量 TOTAL_TRAIN_STEPS 并可配置(方便 CI 设置小步数),移除 wandb 日志(减少 CI 依赖)。docs/workers/torchtitan_workers.rst):详细说明 TorchTitan 引擎的需求(nightly 依赖、版本锁定关系)、安装步骤、支持的特性(N-D 并行、torch.compile、选择性激活检查点等)和限制(无流水线并行)。docs/index.rst):在入口中添加 TorchTitan 工作页面的链接,使其可被文档构建系统发现。| 文件 | 模块 | 状态 | 重要度 |
|---|---|---|---|
.github/workflows/e2e_ppo_trainer_torchtitan_vllm.yml |
CI 工作流 | added | 6.19 |
tests/special_e2e/run_ppo_trainer_torchtitan.sh |
测试脚本 | modified | 4.5 |
docs/workers/torchtitan_workers.rst |
文档说明 | added | 4.4 |
docs/index.rst |
文档索引 | modified | 1.3 |
tests/special_e2e/run_ppo_trainer_torchtitan.sh
test-coverage
修改后的测试脚本是 CI 的直接执行者,其配置变更影响 CI 效率和稳定性。
# 可配置参数
AC_MODE=${AC_MODE:-selective} # 默认使用 selective 激活检查点
TOTAL_TRAIN_STEPS=${TOTAL_TRAIN_STEPS:-100} # 可覆盖总训练步数
# 训练参数数组
common_params=(
model_engine=torchtitan
algorithm.adv_estimator=grpo
actor_rollout_ref.actor.torchtitan.activation_checkpoint="${AC_MODE}"
trainer.total_training_steps=${TOTAL_TRAIN_STEPS}
trainer.logger=['console','file'] # 移除 wandb,降低 CI 依赖
)
当前评论区没有形成足够清晰的争议点或结论,后续有更多讨论时会体现在这里。
Nightly 依赖版本可能在 2 个月后从索引中移除导致 404(PR 中已说明);CI 路径过滤较严格可能遗漏其余相关变更。
降低 TorchTitan 引擎的使用门槛;CI 保证核心变更不破坏 TorchTitan 训练;团队可从文档中快速了解并行配置。
当前没有检测到明确关联的 Issue 链接,后续同步到相关引用后会出现在这里。
参与讨论