#6276 [data, rollout] feat: add audio data support
原始 PR · 作者 SanftMonster · 合并时间 2026-05-12 23:09
新增音频数据管道支持
建议仔细审查键名不一致问题,并在后续 PR 中统一;值得关注 `build_multimodal_processor_inputs` 的设计,它为多模态输入提供了统一入口,可被未来模态复用。
verl: Volcano Engine Reinforcement Learning for LLMs
原始 PR · 作者 SanftMonster · 合并时间 2026-05-12 23:09
新增音频数据管道支持
建议仔细审查键名不一致问题,并在后续 PR 中统一;值得关注 `build_multimodal_processor_inputs` 的设计,它为多模态输入提供了统一入口,可被未来模态复用。
为 mcore 0.12.1 patch 增加 torch 2.9.0 兼容
推荐合并。变更简洁且正确,为维持 NPU 升级链路兼容性所必须。值得注意的设计决策是将 patch 拆分为独立函数匹配特定版本组合,而非在单一函数内用复杂条件分支,便于未来按需增删版本支持。
修复 FSDP2 忽略 forward_prefetch 配置
该 PR 值得精读,特别是对于使用 FSDP2 后端的用户。它展示了如何正确地将 PyTorch FSDP1 的前向预取模式移植到 FSDP2,并考虑了版本兼容性。建议作者补充单元测试,至少验证 `config` 参数正确传递。
原始 PR · 作者 MohammadShahdad · 合并时间 2026-05-12 21:24
修复自定义 chat template 参数未转发导致 loss mask 偏移
建议所有使用 `apply_chat_template_kwargs` 的 SFT 用户升级此修复。值得关注的设计决策包括参数转发模式和 reviewer 提出的改进建议。可以在后续 PR 中参照 reviewer 建议,迁移到 `apply_chat_template` wrapper 和字典合并模式以增强健壮性。
重构 Ascend 精度对齐文档和 Dockerfile 构建指南
建议 NPU 用户和文档维护者详细阅读精度对齐指南和 Dockerfile 构建指南,特别是容器启动模板的挂载路径和参数使用的准确性。该 PR 作为文档基础设施的改进,值得参考其组织方式。
engine worker 添加内存日志支持
该 PR 变更较小且逻辑清晰,但其 review 讨论揭示了分布式内存监控中的常见陷阱。建议维护者根据 review 意见进一步优化:将 CPU 内存改为进程级测量(使用 `psutil.Process().memory_info().rss`),并考虑将内存指标置于 all-gather 之前以确保分布式一致性。
为 Ascend NPU 添加 sglang CI 工作流
值得关注的设计决策:使用 common_params 数组重构冗长的 python 参数调用,这是一种常见的脚本优化模式。但务必验证 review 中指出的版本兼容问题是否已解决。该 PR 为 NPU sglang CI 的基石,后续 NPU 相关 PR 可参考此模板。
原始 PR · 作者 beirong8kmiles · 合并时间 2026-05-12 14:26
重构 NPU 示例并新增两个 GRPO 训练脚本
建议阅读者在使用前先根据 Review 建议修正脚本中的关键问题(设置 `use_mbridge=True`、定义 `WORK_DIR` 默认值、启用 `set -e`、修正 Hydra 前缀)。该 PR 的价值在于补充了大规模 NPU 训练参考配置,但质量审核不足,可作为反面案例提醒开发者注意配置的完整性和正确性。
参与讨论