vllm-project/vllm

移除 GDN 中嵌套 @torch.compile 修复 CUDA Graph 捕获失败

**值得精读**：该 PR 虽仅修改一行，但揭示了 torch.compile 中 CUDA Graph capture 与 Triton autotuning 之间的互斥约束，以及多层编译嵌套可能导致的隐蔽问题。对于参与 vLLM 编译优化的工程师有重要参考价值。**设计决策关注点**：当增加 `@torch.compile` 装饰器时需确认是否已被外层 AOT 编译覆盖；对模型启动崩溃问题，复现命令已提供，易于本地验证。

修复 Hopper GPU 上 GDN KKT 内核精度丢失问题

PR #42076 值得精读，它展示了 Triton 内核开发中 WGMMA 指令对操作数布局的敏感性，以及如何通过简单的代码调整解决深层硬件精度问题。对于维护张量核或 GPU 内核的开发者，这是一个很好的案例。另外，建议关注 gemini-code-assist 的累加器优化建议，可在后续 PR 中应用。

用CuteDSL重写DSv4 Indexer Q量化内核，性能提升显著

值得精读，尤其是以下方面： - CuteDSL 内核的编写模式（`@dsl_user_op`、内联汇编用法）。 - 线程粗化（thread coarsening）的策略选择与编译期预编译。 - 平台兼容性设计（`has_cutedsl` + Triton fallback）。 - 与自动代码审查工具（gemini-code-assist）的互动，展示了如何正确判断 PTX 架构支持。

ROCm 升级 aiter 依赖到 v0.1.13-rc5

该 PR 为常规依赖升级，价值较低，不值得深入精读。

为 LoRA MoE 添加初始 Expert Parallelism 支持

本 PR 值得所有关注 MoE + LoRA 联合优化的开发者精读。核心设计亮点包括：通过 `extra_tensors` 机制扩展 all-to-all 调度以携带元数据；通过 `local_token_lora_mapping` 保留了 rank 本地的 LoRA 映射；通过断言检查避免了与 `fully_sharded_loras` 的冲突。review 中关于切片时机的讨论也反映了 vLLM 中数据编排的常见模式。

C++标准从17升级到20以兼容PyTorch

建议精读该PR，尤其是评论中关于PyTorch C++标准演进方向的讨论。它反映了下游项目如何应对上游依赖的breaking change，对于维护大型分布式系统具有参考价值。

修复 GLM 非流式工具解析器去除首尾空格

建议精读。这是一个典型的细小但重要的 bugfix，展示了如何通过审慎的条件判断解决语义边界问题。其改动模式（从"统一 strip"到"根据类型条件化 strip"）值得学习。此外，review 中关于 `_is_string_type` 的讨论指出了进一步改进方向。

添加 Cohere Eagle 推测解码模型并修复 Cohere MoE

建议精读 `cohere_eagle.py` 的 `__init__` 和 `forward`，理解 EAGLE 草稿模型的融合机制；同时关注 `select_norm_impl` 的动态归一化选择设计。该 PR 是 vLLM 集成新推测解码模型的标准范例，值得参考。