verl-project/verl

修复vLLM 0.14/0.15版本中FP8工具与MoE模型的兼容性问题。

值得精读，尤其是学习如何使用`inspect`进行API版本兼容性处理的设计决策，对于处理外部库依赖变化的代码有参考价值。

修复trtllm多节点rollout中因VLM代码路径导致的hang问题。

该PR值得精读，特别是对于负责分布式训练和rollout的工程师，因为它展示了在数据并行（DP）场景中正确处理rank映射和广播机制的关键设计决策。关注flush函数中的VLM检测和dist.get_global_rank使用，以避免类似通信错误。

添加 vLLM-Omni 作为 rollout 后端，支持扩散模型在 verl 强化学习管道中运行。

该 PR 值得精读，尤其关注以下设计决策：基类提取如何提升代码复用性、LoRA 权重同步的补丁机制、以及扩散模型配置的统一方式。建议关注 log-prob 计算的设计选择及其对算法的影响，同时注意自定义管道的放置策略对未来维护的意义。

修复 Qwen3-235B 模型在 NPU 上的精度问题，并提供训练脚本。

对于在 NPU 上部署大模型的工程师，此 PR 值得精读，关注 `vllm_async_server.py` 中 sleep_level 的处理方式，它揭示了 NPU 与 GPU 在引擎休眠行为上的差异；同时，训练脚本可作为配置模板，但需注意 review 中提到的语法陷阱。

将 NPU CI 流水线机器从 A2-8 升级到 A2B3-8，并更新 Docker 镜像仓库。

该 PR 值得 CI 维护者或关注 NPU 测试环境的工程师精读，以了解环境升级的细节。对于大多数开发者，变更简单，可快速浏览文件列表确认影响范围。关注点包括机器类型升级的合理性（如性能提升）和镜像迁移的背景。

为 Megatron 模型引擎添加 MTP 支持，修复之前 break 并提升性能 23%。

建议技术管理者和工程师精读此 PR，重点关注 KV 缓存管理设计（在 `update_weights` 中整合 sleep/wake up 逻辑）和 MTP 前向传递的修改，以理解性能优化和内存管理权衡。同时，review 中提到的代码质量点值得后续改进。

新增Qwen3.5模型的Megatron训练示例和代码支持。

此PR值得工程师精读，以了解如何适配新模型架构到现有训练框架。关注设计决策：chat_template的异常处理机制、tool_parser的扩展性、以及Megatron配置中use_remove_padding参数的设计权衡。对于维护者，建议审查Exception捕获逻辑，并跟踪Megatron-LM对Qwen3.5 THD格式的支持进展。

升级NPU CI至vLLM 0.13.0，更新CANN版本为8.5.0并优化测试配置。

建议技术管理者快速浏览此PR以了解CI升级细节，工程师可关注Dockerfile重命名和测试配置变化，确保本地环境同步。PR包含有价值的CI维护经验，但无需深入代码逻辑。