#7241 [megatron, hardware] fix: pure-torch fast_hadamard_transform fallback for DSA on ROCm
原始 PR · 作者 PeterYang12 · 合并时间 2026-08-04 17:22
ROCm 下 DSA 增加纯 torch 哈达玛变换回退
值得精读 `verl/models/mcore/patch.py` 中 `apply_fast_hadamard_transform_shim` 的实现:它展示了一种“模块名级兼容垫片 + 已捕获符号回填”的模式,对处理第三方包硬编码 import 的硬件移植问题很有参考价值。建议在合入后补充针对回填逻辑的单元测试,并在 ROCm CI 上增加 DeepSeek-V4 DSA 的冒烟用例。