#51368 [Bugfix] Fix DeepSeek V4 mHC broadcast buffer for dummy load
原始 PR · 作者 HollowMan6 · 合并时间 2026-08-19 08:02
新增 PWAL 钩子统一 finalize,修复 DSV4 dummy load 崩溃
值得精读。重点看两点:一是如何用 loader 标准的 PWAL 钩子替代“在 forward 里兜底”的惰性初始化,这是 vLLM 模型加载生命周期的正确定位;二是作者在移除 `load_weights()` 内 finalize 时被 verl e2e 打回、主动回滚的过程,展示了外部框架依赖与内部设计清理之间的权衡。阅读时建议结合 `#52626`(in-place `copy_()` 刷新)一起看,两者共同构成完整的权重生命周期方案。
参与讨论