#44527 [ROCm][DSv3.2] Eliminate per-decode FillFunctor launches in sparse-MLA hot loop
原始 PR · 作者 frida-andersson · 合并时间 2026-07-28 10:12
消除 DSv3.2 稀疏 MLA 解码热循环中的冗余 FillFunctor 启动
值得精读。本 PR 展示了一个典型的性能优化模式:消除冗余 GPU 内核启动。对于运行 DeepSeek 模型且使用 ROCm 的团队,此变更可直接带来吞吐提升。同时,review 中关于工作区管理的讨论(使用 `current_workspace_manager` 替代全局变量)是值得学习的架构实践。
参与讨论