#39720 [Fix] Fix GLM5 mHC PP forward
原始 PR · 作者 yilin-void · 合并时间 2026-09-16 15:32
缺陷修复
重要性 5.68
洞察度 5.00
修复 GLM5 mHC 层 PP 前向的 residual 崩溃
值得精读，但重点不在改动量而在设计判断：这段 5 行的 diff 是理解 GLM5 mHC 如何把残差流折叠进加宽 hidden_states、以及 PP 边界契约如何随配置切换的最佳入口。建议关注三点：① 为什么选择"接收侧 + 发送侧同时按 `self.config.mhc` 分支"，而不是在 PP 传输层统一处理缺省残差；② 为什么普通层要保留严格 `pp_proxy_tensors["residual"]` 查找（快速失败优于静默 None）；③ 单测被删除后，本项目对这类内部契约修复的回归策略是真实多卡 e2e 而非 CPU 仿真，写类似 PR 时应提前按此预期准备验证证据。如果团队后续要在更多 PP 配置上支持 mHC，建议先补一份键集合一致性的契约测试。