verl-project/verl · 标签视图

V1 验证指标把失败会话按 acc=0 计入

值得精读。这是一个“小 diff、大语义”的指标修正：104 行改动里的核心只有三处（期望计数采集、源级 opt-in 补齐、None/has_pred 安全化），但直接改变了 Trainer V1 验证主指标的语义，阅读时建议重点看 `metric_utils.py` 的 `expected_acc_counts` 块与 `has_pred` 的判定条件，以及 `trainer_base.py` 中 `(str(data_source), str(uid))` 键的构造是否与指标侧分组严格对齐。建议配套动作：在监控中同时画 `acc` 与 `acc_success_only`，把两者差值作为失败率诊断；为 `_validate → _val_metrics_update` 补一个 CPU 级端到端单测（覆盖 `__rollout_n__` 缺省回退与键一致性）；明确 `pred` 是否也应随 `acc` 补齐，避免 `maj` 指标与 `mean` 基数不一致。

SGLang rollout 补齐视频特征转发，修复视频 VLM 盲答

值得精读，尤其是维护 rollout/多模态链路的同学：本案是“静默降级类 bug”的教科书样本——TODO 注释无告警、特征算完即丢、两个后端行为不一致，三者叠加后表现为模型输出流畅但完全虚构。建议重点看三处设计决策：(1) 用 `format="processor_output"` 复用 verl 已算好的 processor 输出而不是让 SGLang 重新抽帧，避免 fps 采样不一致这一隐形 desync；(2) 把后端差异收敛到 `LLMServerClient.generate` 的一处分支，并用无条件传参 + `TypeError` 换取“漏改即失败”的可见性；(3) teacher/OPD 路径与 rollout 路径共用同一 payload，避免修复只覆盖一半。阅读时建议同时关注作者未解决的遗留：非 Qwen 视频家族的静默丢弃、多轮 ToolAgentLoop 重复传帧、以及缺失的单测（作者愿意贡献 CPU-only mRoPE 对齐测试，可作为后续 PR 的补位点）。

为 Continuous Token 构建器增加 rollback 风格的 assistant 角色上下文合并支持。

此 PR 是一个具有重要设计决策的功能增强。建议相关工程师精读，特别关注： 1. `merge_context_tokens` 和分组编码的新逻辑，以及 `MergeResult` 语义的变化。 2. 模型特定子类（尤其是 DeepSeek）如何通过钩子适配新逻辑。 3. `scripts/chat_template_checker.py` 中的更新，以理解 CT 的新行为如何被验证。 4. 新增的测试用例，特别是那些模拟 rollback 场景的，以理解边界条件。 该 PR 的洞察价值较高，因为它展示了如何通过引入中间层（钩子）和约束来解决一个复杂的、与模型模板紧密相关的工程问题，其设计模式值得借鉴。

修复 DeepSeek 连续 token 构建器工具追加 TypeError

值得精读，尤其是维护自定义 tokenizer 模板或连续 token 增量路径的开发者。本 PR 展示了模板拼接契约与合成占位消息之间的类型冲突如何用最小覆盖解决，并提供了完整的真实 tokenizer 验证矩阵方法论。源码部分很小，重点看 continuous_token.py 的家族子类划分，以及测试文件中边界 tokenizer 的设计方式。

负载均衡 tie-break 改随机选择，修复 session 雪崩到单 replica

值得精读。这是一个「一行修复背后有完整系统思维」的范本：PR body 对雪崩机制的解释（idle 池 + 确定性 tie-break + sticky 缓存放大）清晰展示了多因素交互导致的问题，值得学习的是它如何界定修复边界——只随机化首轮选择、保留 sticky 与 full_determinism 两条既有保证。同时，Codex 评论揭示了测试与实现细节耦合的教训，读者可借机检查自身测试是否过度绑定内部选择顺序。建议：合并后优先确认声明的 CPU 测试文件去向，并跟进 agent_loop 既有测试的修复，避免 CI 长期 flaky。

连续 token 将 generation prompt 融合进末组渲染，消除 O(N^2) 重复 tokenize

值得精读。三个看点：① 用能力钩子把默认优化路径与模板特定回退解耦，钩子语义（“generation scaffold 是否只由末组决定”）单一清晰；② 用录制型 tokenizer 单测同时锁定渲染次数与 `add_generation_prompt` 参数序列，把性能修复固化为可回归的行为契约；③ review 阶段在真实 tokenizer 上做 8 builder × 24 用例的逐 token 对比矩阵，是同类增量渲染改动最可靠的验证范式。合并前由 wuxibin89 一次 approve，说明方案在讨论阶段已收敛；阅读时建议结合 #7617 的调用链分析和 #7630 的 DeepSeek 覆写一起看。

多模态处理改异步卸载，提升事件循环响应

该 PR 改动简洁且聚焦，值得精读。关注 run_in_executor 的使用模式以及在异步环境中卸载 CPU 密集任务的设计，可作为类似场景的参考。可结合 #6789 和 #6804 了解完整的多模态处理异步化演进。

RL-Insight 日志器新增 span 与会话转发

值得精读 verl/utils/tracking.py 中的版本门控与降级设计：用 MINIMUM_VERSION + callable 检查 + 一次性告警的组合，让新 API 在不破坏旧依赖的前提下逐步演进。可结合 RFC 7509 观察跨仓库协作中的接口边界，后续 uni-agent 埋点落地后再回看 agent_loop_session 的实际消费情况。