#1968 [Bug Fix] Reduce distributed min/max metrics as extrema
原始 PR · 作者 ChenyangWangjohn · 合并时间 2026-08-07 15:04
修复分布式日志 min/max 被平均聚合错误,改为按极值归约
值得精读。这是一个小文件但高信号度的修复:一、它纠正了分布式训练指标聚合中一个容易被忽视的语义错误(局部极值不能跨 rank 平均);二、评论区对"后缀推断 vs 显式白名单"的取舍是很好的 API 设计案例,最终选择显式策略以保证默认安全;三、merge commit 展示了与 #1927 可变 global batch size 引入的 `(sum, count)` tuple 语义如何共存。阅读时可重点关注 `reduce_gathered_log_dict` 的分支结构和测试对边界(空 gather、键不一致、未知策略名)的覆盖。
参与讨论