verl-project/verl · 标签视图

自动转换 vLLM 废弃的多模态预处理器缓存参数，确保 vLLM >= 0.13.0 的兼容性。

建议工程团队精读此 PR，特别是 `vllm_async_server.py` 中的版本适配逻辑，作为处理第三方库 API 变化的参考案例。关注参数转换的策略和冲突处理方式，以应用于类似兼容性修复场景。

升级vllm-omni至0.18.0官方版本，新增TP支持并同步上游代码模式。

建议开发者精读此PR以了解vllm-omni 0.18.0的集成方式，特别是TP支持的测试策略和代码简化模式。关注_create_tp_compatible_model函数的设计，适用于处理模型配置不兼容的测试场景，以及如何通过上下文管理器优雅管理临时资源。

为GB200（aarch64/Blackwell）添加Docker镜像和训练示例，扩展硬件支持并适配测试。

建议技术管理者和工程师精读此PR，重点关注Dockerfile多架构设计决策（如统一x86_64/aarch64支持）、测试动态适配策略（使用`torch.cuda.device_count()`）以及硬件特定配置（如Blackwell的FlashAttention限制）。讨论中的设计权衡，如Dockerfile合并过程和依赖版本管理，也值得借鉴。

修复vLLM权重重配中的冗余克隆和竞态条件，并启用编码器缓存重置。

建议精读`bucketed_weight_transfer.py`的变更，重点关注竞态条件修复的实现逻辑。对于涉及vLLM权重传输或colocate模式开发的工程师，此PR展示了缓冲区同步和版本条件处理的设计决策，值得学习。

新增针对 Ascend NPU 的 vLLM CI 测试工作流，提升 vLLM 在 NPU 环境的验证能力。

建议关注以下两点： 1. **对于 CI/基础设施开发者**：此 PR 新增的 `vllm_ascend.yml` 工作流设计值得精读，特别是其路径排除策略和 NPU 专用资源配置，可作为在 VERL 中新增硬件特定 CI 的参考模板。 2. **对于核心开发者**：`agent_utils.py` 的修改虽小，但引发的 `gemini-code-assist[bot]` 关于设备配置化的讨论具有普遍意义——在测试工具函数中，硬编码设备检测可能限制测试场景。虽未在本 PR 中实施，但未来类似改动可考虑采纳该建议以提升灵活性。

修复vLLM因SGLang优化跳过权重恢复导致的同步错误

该PR值得精读，尤其关注SGLang与vLLM在权重恢复机制上的差异，以及如何通过简化条件逻辑解决跨引擎兼容性问题。建议结合PR #5769理解上下文。

在 Ascend 950 设备上启用 MXFP8 量化 rollout 支持。

建议关注硬件特定的量化实现细节，如 `restore_mxfp8_weights_for_loading` 和 `apply_mxfp8_transformation_after_loading` 函数的逻辑，这些设计有助于处理权重加载后的转换。对于使用 Ascend 设备的开发者，此 PR 值得精读以了解 MXFP8 量化集成的完整流程。同时，留意 review 中解决的兼容性问题，可作为类似硬件适配的参考。

修复 vllm 0.13 中 qwen3-moe 模型的权重加载问题。

建议工程团队仔细审查此 PR，特别是权重转置的逻辑设计和版本检查的实现。对于负责 vllm 集成的开发者，这是一个有价值的修复案例，可以借鉴其错误处理和代码优化策略。