统一项目所有后端的 transformers 版本至 5.9.0,简化依赖管理。
这是一个重要的依赖维护 PR,虽然代码变更简单,但影响面较广。建议精读 `pyproject.toml` 中关于 `override-dependencies` 新策略的注释,理解其设计意图。对于所有使用者,需要在更新环境后运行测试套件,特别是与 `transformers` 交互紧密的功能,以确保升级无破坏性。该 PR 是项目依赖治理简化的积极一步,值得肯定。
verl: Volcano Engine Reinforcement Learning for LLMs
统一项目所有后端的 transformers 版本至 5.9.0,简化依赖管理。
这是一个重要的依赖维护 PR,虽然代码变更简单,但影响面较广。建议精读 `pyproject.toml` 中关于 `override-dependencies` 新策略的注释,理解其设计意图。对于所有使用者,需要在更新环境后运行测试套件,特别是与 `transformers` 交互紧密的功能,以确保升级无破坏性。该 PR 是项目依赖治理简化的积极一步,值得肯定。
原始 PR · 作者 Mengyuyang · 合并时间 2026-09-01 13:56
FSDP 引擎跳过温度为 1 时的全词表 logits 缩放,降低峰值内存。
建议精读。这是一个小范围但设计精良的性能优化 PR。它清晰地识别了一个可以安全跳过的计算(温度=1 时的恒等缩放),通过引入清晰的辅助函数和状态传递实现了优化,同时配套了完备的测试和容错处理。其“识别并跳过 no-op”的优化思路和“保持兼容性”的实现方式,对于处理类似场景具有参考价值。
原始 PR · 作者 pengnuoheng · 合并时间 2026-09-01 10:00
FSDP-Turbo e2e 测试从 GPU 迁移至 NPU,清理空梯度同步上下文
值得精读,尤其是想了解“如何将一个后端的 e2e 测试从 GPU 迁移到 NPU”以及“如何处置历史 workaround”的读者。关注点:删除 `_gradient_sync_context` 是否真的安全,建议在 PR 描述或后续提交中补充原因;同时留意是否有计划为 GPU 侧补充单元测试或恢复轻量 e2e,避免 fsdp_turbo 在 CUDA 上失去回归保护。
原始 PR · 作者 EricMarcus-ai · 合并时间 2026-08-31 22:28
修复 DP>1 权重同步 drain 的提交竞态超时
值得精读。该 PR 清晰展示了一个异步引擎边界上的竞态:vLLM 的 pause 是“停止调度但接受请求”,verl 必须自行在客户端侧收敛提交。值得关注的设计点包括:单事件循环上“无 await 的检查 + 计数”、barrier 超时降级而非死锁、resume 开门放在 node_rank 守卫之前。建议结合 vllm-project/vllm#51481/#51488 一起阅读,理解上游为何选择 EnginePausedError 语义。
原始 PR · 作者 ETOgaosion · 合并时间 2026-08-31 18:43
修复禁用 chunked prefill 时 vLLM 启动崩溃并清理旧配置
值得精读。核心价值不在 diff 规模,而在 `_validate_configs` 中如何用“warning + 自动提升”平衡 vLLM 约束与用户显式配置;同时展示了跨示例、CI、测试的连锁清理方法,以及测试在行为不确定性下如何改为观察式断言。建议重点关注 vllm_async_server.py 的安全网分支和 agent-loop 测试的改写思路。
新增 Qwen3.5-2B 对策略蒸馏 FSDP 双平台脚本
值得精读的人群是需要在 GPU/NPU 双平台跑通 on-policy distillation 的用户,可将其作为 OPD 示例模板;关注 `DEVICE` 自动探测、NPU 环境变量分支和 uv gate 的组合方式。核心代码无改动,评审价值主要体现在示例脚本的可维护性与仓库惯例一致性上。
原始 PR · 作者 ruiling-smartbear · 合并时间 2026-08-31 15:11
修复 DeepSeek 连续 token 构建器工具追加 TypeError
值得精读,尤其是维护自定义 tokenizer 模板或连续 token 增量路径的开发者。本 PR 展示了模板拼接契约与合成占位消息之间的类型冲突如何用最小覆盖解决,并提供了完整的真实 tokenizer 验证矩阵方法论。源码部分很小,重点看 continuous_token.py 的家族子类划分,以及测试文件中边界 tokenizer 的设计方式。
原始 PR · 作者 Josephasafg · 合并时间 2026-08-31 14:45
修复 FSDP 合并器误拼接 replicated buffer 崩溃与 shape 损坏
值得精读。这是一个小而完整的数据契约修复:核心决策是识别 FSDP 下“非 DTensor 即完整复制”的语义,并用 fail-fast 替代静默损坏。可借鉴的点包括:错误信息携带 key 名与 rank 号、用 torch.equal 做全量一致性校验、配套聚焦的 CPU 单测直接锁定回归。
参与讨论