vllm-project/vllm

修复 persistent_topk 跨 CTA 初始化竞态条件

值得合并。该 PR 修复了一个真实竞态条件，并且采用了正确的 CUDA 模式（stream-ordered memset）。设计决策清晰，值得参考。

基于 token 数量动态决定 GEMM 多流并行

值得精读，尤其是对 CUDA 多流并行的性能陷阱感兴趣的工程师。核心设计模式——用 token 阈值动态关闭并行叠加——与已有的 `VLLM_SHARED_EXPERTS_STREAM_TOKEN_THRESHOLD`（PR#41443 附近）一致，体现了 vLLM 团队对 GPU 饱和度的工程洞察。建议关注 reviewer 关于一致性覆盖和 `enable` 默认值的讨论。

集成 TileLang 融合核优化 DeepSeek-V4 的 hc_head 计算，减少内存开销，提升吞吐。

值得精读，尤其适合希望了解 TileLang 内核集成流程和写融合核替换 PyTorch 多步操作的工程师。该 PR 展示了设计权衡（参数调优、与现有代码对齐）和性能验证方法。

抽象 MLA prefill 后端，引入选择机制并移除 cuDNN

建议精读 `vllm/v1/attention/backends/mla/prefill/selector.py` 和 `base.py`，理解后端的注册与选择模式。整个设计值得在 vLLM 其他 attention 层推广。由于可能存在的 regression，更新后需在生产环境充分验证 MLA 模型推理。

添加 logprob_token_ids 支持到 V2 模型 Runner

值得精读，特别是 `compute_topk_logprobs` 的 fast/slow path 设计和 `_fill_logprob_token_ids_kernel` 的实现。njhill 的重构也体现了模块化原则。也可以关注 `gemini-code-assist` 的自动化 review 质量。

新增MRCR长上下文评估到CI测试套件

本 PR 是 vLLM 项目在 CI 中引入长上下文准确度评测的重要起步。值得关注的设计决策包括：前缀门控评分机制（避免模型输出随机前缀作弊）、每针数单独阈值捕捉差异化退化、通过配置文件灵活控制测试参数。建议后续关注该评测在 CI 中的运行稳定性，并考虑扩展更多模型配置。

在 ROCm 平台通过 AITER 融合 all-reduce 与 RMSNorm，提升推理吞吐

值得精读。该 PR 展示了如何通过 torch.compile 的 pattern matcher 将外部自定义内核无缝集成到 vLLM 的编译图中，同时优雅地处理与 FlashInfer 后端的共存和 CUDA 图捕获。ROCm 团队应关注 compile range 的合理性以及在高并发下的性能表现。关注点设计（`is_applicable_for_range` 与 compile range 的配合）对其他融合 pass 的引入有参考价值。

ROCm DeepSeek V3.2 MLA 注意力后端深度优化

值得精读：本 PR 展示了 ROCm 平台上高效 MLA 注意力 kernel 的设计模式，包括 tile 策略、metadata 提前构建、融合 kernel 替换等。建议重点阅读 `rocm_aiter_mla_sparse.py` 中的 `_convert_req_index_to_global_index_kernel` 和 `_forward_mla` 实现，以及 `deepseek_v2.py` 中的 ROCm 分支设计。