执行摘要

• 一句话：修复ROCm后端paged_mqa_logits_module的lru_cache失效，提升性能。
• 推荐动作：建议快速审查此PR，以理解lru_cache的正确使用方式。关注设计决策：确保缓存函数在模块级别定义以避免作用域问题。对于工程师，这是一个学习Python装饰器和性能优化的好例子，值得精读其简单但有效的修复思路。

功能与动机

根据PR body，函数paged_mqa_logits_module被定义在rocm_fp8_paged_mqa_logits内部，导致每次调用都创建新的函数对象和空缓存，破坏了lru_cache的目的，进而导致模块在每次调用时重复导入。这个问题影响了ROCm Sparse MLA实现，特别是DeepSeek v3.2模型。

实现拆解

实现方案集中在文件vllm/v1/attention/ops/rocm_aiter_mla_sparse.py中。关键改动包括：

1) 将paged_mqa_logits_module和mqa_logits_module两个函数从各自的宿主函数内部移动到模块级别；
2) 为这两个函数添加@functools.lru_cache装饰器。这样确保函数在模块加载时只定义一次，lru_cache能够有效缓存导入的模块，避免重复导入开销。

关键文件：

• vllm/v1/attention/ops/rocm_aiter_mla_sparse.py（模块 attention/ops）: 这是唯一被修改的文件，包含了修复lru_cache失效的关键改动，将paged_mqa_logits_module和mqa_logits_module移至模块级别，直接影响ROCm后端的性能。

关键符号：paged_mqa_logits_module, mqa_logits_module

评论区精华

review讨论较少，主要由gemini-code-assist[bot]验证修复的正确性，指出'The pull request correctly addresses the issue...'，以及tjtanaa批准'LGTM'。无显著争议或未解决疑虑，修复被迅速接受。

• 修复验证与批准 (correctness): 修复被接受，无争议。

风险与影响

• 风险：风险极低。变更仅涉及函数作用域移动和lru_cache装饰器添加，无逻辑更改。潜在风险包括导入路径错误或缓存副作用，但lru_cache旨在优化性能，不应引入回归。性能上，修复应减少重复导入，提升效率。安全性和兼容性无影响。
• 影响：影响范围有限于ROCm后端使用Sparse MLA的组件，特别是DeepSeek v3.2模型。对用户而言，性能提升，减少计算开销。系统层面，优化了模块导入机制，减少资源浪费。团队方面，这是一个局部的bugfix，不涉及其他模块或架构变更，维护成本低。
• 风险标记：暂无

关联脉络

• PR #37228 [ROCM][Bugfix] Use correct stride in cp_mha_gather_cache_kernel for hybrid model: 同为ROCm后端的bugfix，修改了attention相关文件，展示了对ROCm组件的持续维护模式。
• PR #35175 [Bugfix] Restore CUDA graph persistent buffers for FP8 FlashMLA decode: 涉及FP8和MLA的bugfix，与本PR的FP8 Sparse MLA实现有技术关联，反映了对性能优化组件的关注。