执行摘要
本PR系统性修复了因transformers升级至5.3.0和vLLM升级至0.18.0引发的CI流水线错误，通过更新Docker镜像、调整模型兼容性代码和优化权重同步逻辑，确保了测试环境的稳定性和跨后端兼容性。
功能与动机
此次变更主要为了应对transformers 5.0版本后的API变更，特别是RoPE参数结构改动和MoE权重格式调整，这些变更导致多个CI作业（如e2e_fully_async_policy_megatron）失败。PR body中明确指出目标是“修复所有CIs”，并解决由历史PR引入的依赖循环问题。
实现拆解
- CI配置模块：更新了10个
.github/workflows/*.yml文件，统一将Docker镜像标签从vllm017.dev2升级为vllm018.dev1，移除对transformers版本的硬性限制（如transformers<5.0.0），并添加缺失依赖（如mbridge）。
- Docker构建模块：修改
docker/Dockerfile.stable.vllm，基础镜像升级至Ubuntu 24.04，优化pip安装参数以提升构建效率。
- 模型处理模块：
- 将
get_hf_rope_theta函数从verl/models/mcore/config_converter.py移至verl/utils/megatron_utils.py，解决循环依赖。
- 在
verl/models/transformers/下的GLM4V、Qwen2_VL等文件中，添加对rope_parameters字段的兼容性处理。
- 新增
unpack_visual_output函数（verl/utils/transformers_compat.py），处理transformers>=5.0.0中视觉编码器输出格式变化。
- 权重同步模块：重构
verl/workers/engine_workers.py中的update_weights方法，确保LoRA场景下先发送基础权重再发送适配器权重，并更新对应测试文件。
评论区精华
Review讨论聚焦于权重同步逻辑的正确性：
- HollowMan6提出：“If the base_sync_done is always set to True... we will always export lora weights instead of base weights”。
- cavities12确认：“This should stay as
self.base_sync_done and not hardcoded True”。
最终通过重构解决，HollowMan6总结：“I did the refactor... now we still hardcode base_sync_done=True for the initial call”，确保逻辑正确性。
风险与影响
- 技术风险：transformers和vLLM版本升级可能引入未测试的回归bug，尤其在MoE模型（如Qwen3.5-MoE）中，权重格式变更可能导致加载失败；Docker镜像更新可能影响构建稳定性。
- 影响评估：短期可能增加CI运行时间，但长期提升测试可靠性；模型兼容性增强支持新transformers特性，但对现有代码有轻微侵入性改动。
关联脉络
本PR是近期CI和依赖维护趋势的一部分：历史PR如5874（新增Megatron脚本）和5861（量化文档）显示团队在扩展功能同时注重基础设施稳定。关联PR 5717引入了megatron依赖循环，本PR直接响应修复；PR 5769涉及类似权重同步问题，表明该领域是持续优化重点。整体上，此次变更反映了系统化应对重大依赖升级的工程实践。
参与讨论