radixark/miles · 标签视图

消除 NVFP4 权重发布的主机同步与规则扫描开销

值得精读，尤其推荐给维护 NVFP4 RL、权重同步与 checkpoint 导出性能的工程师。重点关注四个设计决策：(1) 用 Python 标量 + `clamp_max` + `torch.where` 取代标量张量分配与 CUDA 标量真值判断，这是消除隐式同步的通用手法，前提是分子在 FP32 下精确可表示（1536 / 2688），换其它 `e4m3_max` 时需要重新确认；(2) `_literal_ignore_rules` 返回 `None` 作为“交给正则路径”的哨兵值，虽然保留了顺序 `re.match` 与异常行为，但把正确性押在调用约定上，建议后续补一个断言或在 `_is_ignored` 中显式处理；(3) 用 TorchDispatchMode 把性能契约写成断言，这是本 PR 最值得借鉴的测试范式；(4) 接受 `(1,)` 形状保持、并在 head 上删除策略回归测试，属于明确声明的取舍，建议后续补回 `tests/fast/utils/test_nvfp4_ignore_policy.py` 或等价用例，并在合并 head 上重跑一次完整发布路径的墙钟对比以闭合性能证据链。

修复 true-on-policy logprob 计算路径未按 chunk 处理响应行导致 OOM 的问题。

该 PR 是一个高质量的 bugfix，值得精读。其核心实现（响应行分块）和配套的全面测试（正确性、数值稳定性、内存）都展示了严谨的工程实践。建议关注： 1. `_calculate_log_probs_and_entropy_true_on_policy` 中分块循环的实现，特别是熵计算部分对 `entropy_requires_grad` 的处理和原地操作优化。 2. GPU 测试如何设置 TP2 环境、构建参考实现以及验证内存峰值，这对编写类似测试有借鉴意义。 3. PR 虽然修改文件少，但变更涉及核心计算路径，且测试覆盖深入，是 bugfix 的典范。

修复 DeepSeek-V4 精度对等测试因默认实现变更导致的 CI 失败。

这是一个小而必要的 bugfix PR，**值得精读**，但主要价值在于理解其修复的两个上游变更的联动影响。对于开发者，关注点应在于：1) 测试如何与特定实现（`dsv4_impl`）耦合；2) 当核心系统行为（如数据转储策略）变更时，配套测试需要如何演进。对于管理者，此 PR 展示了维护跨 PR 依赖（如 PR#3141 与本测试）的 CI 实践。变更本身无复杂设计，但清晰展示了如何响应上游变更来保持测试有效性。

修复训练器卸载时权重同步读取不可用 GPU 张量的问题，确保始终使用主机备份。

这个 PR 值得精读。它修复了一个影响高级部署模式（卸载训练）的核心正确性 bug，涉及对内存管理、模型状态和权重同步之间复杂交互的深刻理解。其设计决策（如在卸载时强制保留备份、取消同一标签跳过）虽然引入了性能开销，但是为了正确性必须付出的代价，且有清晰的解释。与 PR #3129 的强关联和特定的合并顺序要求也值得注意。

修复重复度度量仅扫描末尾片段的缺陷，改为全响应重叠窗口扫描并限制计算成本。

这是一个修复度量缺陷的高质量 PR，值得精读。核心设计决策（重叠窗口 + 步长动态扩大以控制成本）简洁有效，测试覆盖全面且具有针对性。特别值得关注的是作者在第二个提交中对性能问题的快速响应，体现了良好的工程实践。该变更对提升系统监控的准确性有积极意义。

为 DeepSeek-V4 注意力栈启用 THD packed-sequence 训练，支持上下文并行。

该 PR 是一个重要的功能增强，为 DeepSeek-V4 模型在 AMD 硬件上启用了高效的 THD 训练路径。建议精读 `miles_plugins/models/deepseek_v4/ops/thd_utils.py` 中的索引辅助函数实现和 `deepseek_v4.py` 中的 THD 前向传播路径，这些是理解 THD 支持的关键。同时关注 indexer replay 兼容性问题的后续修复。该 PR 的测试覆盖全面，包括单元测试、分布式正确性测试和端到端精度对比测试。

新增 `--colocate-memory-peak-device gpu` 对 LoRA 的支持，通过管理梯度缓冲区生命周期优化内存占用。

本 PR 值得精读。它解决了一个具体的、影响生产部署的内存优化问题，实现方案聚焦且测试充分。主要关注点在于 `actor.py` 中 `sleep`/`wake_up` 的新控制流，以及 `train.py` 中内存释放时序的调整。对于维护或扩展分布式训练内存管理模块的工程师，这是很好的参考实现。

优化训练调试数据写入策略，仅每个 DP/CP 分片写一次，大幅减少磁盘占用。

这是一个高质量、目标明确的优化和修复 PR。它不仅解决了实际痛点（磁盘空间浪费），还确保了功能的向后兼容性和测试覆盖。对于处理分布式训练调试数据的工程师来说，其门控写入和可见性探测的修复逻辑非常有参考价值。建议精读 `save_debug_train_data` 和 `DumpReader._visible` 的变更，理解其并行状态判断的设计。