#52494 [AMD][kimik3][ROCm][Perf] Fuse MLA q/kv RMSNorm in AMD Kimi-K3 MLA wrapper
原始 PR · 作者 rbrugaro-amd · 合并时间 2026-09-04 18:14
为 AMD Kimi-K3 MLA 层实现融合 q/kv RMSNorm,提升解码性能。
该 PR 值得精读,特别是对于关注性能优化模式、硬件特定实现或 MLA 架构的工程师。它展示了一个将性能优化与代码结构保持清洁的良好实践:通过子类化实现特定硬件优化,而不污染共享代码。PR 中详尽的性能数据和准确性验证也值得学习。
参与讨论