vllm-project/vllm

ModelOpt NVFP4 W4A16 量化支持，使用 Marlin 内核

值得精读 `ModelOptNvFp4Config.__init__` 中的分发逻辑和 `ModelOptNvFp4W4A16LinearMethod` 的 `create_weights`/`process_weights_after_loading` 设计，展示了如何以最小改动扩展新量化格式并兼容旧 checkpoint。后续可关注 CLI 路由和 lm_head 支持的 follow-up PR。

MiMo-V2.5 支持多步 MTP 推测解码

建议微调后合入。这是一个有价值的起点，但应明确标记为“partial multi-step support”，并记录已知的层重用限制。推荐阅读以理解 vLLM 推测解码的约束模式，但不应作为最终解决方案。预期后续会有 PR 实现真正的多层 MTP。

DeepSeekV2 改用 AutoWeightsLoader 加载权重

值得所有关注 vLLM 模型架构演进的工程师精读。首先，它展示了 AutoWeightsLoader 的标准嵌入模式：将 load_weights 下沉到 *Model 类，ForCausalLM 仅做桥接。其次，get_spec_layer_idx_from_weight_name 的前缀问题是一个典型的因 AutoWeightsLoader 剥离前缀导致的 PP 隐藏陷阱，该修复方案可推广至类似模型迁移。最后，num_redundant_experts 的配置化建议体现了分布式环境下避免动态计算的健壮设计。

修复 Gemma4 AWQ 权重加载 KeyError，支持下划线命名

值得阅读。该 PR 清晰展示了如何处理不同量化框架的命名约定差异，并合理利用已有的工具函数 fused_moe_make_expert_params_mapping 减少重复代码。测试添加也体现了回归预防的实践，适合作为类似权重加载问题的参考。

修复DSv4 PD模式MLA TP映射与UniformType处理

建议**详细阅读**`tp_mapping.py`中的MLA逻辑变更和`utils.py`的`get_representative_spec_type`函数，这两个设计决策具有通用学习价值。此PR修复了至关重要的回归，建议尽快合并并发布补丁版本。后续建议补充端到端PD集成测试以覆盖MLA+非MLA场景，防止引入回退。

移除 GDN 中嵌套 @torch.compile 修复 CUDA Graph 捕获失败

**值得精读**：该 PR 虽仅修改一行，但揭示了 torch.compile 中 CUDA Graph capture 与 Triton autotuning 之间的互斥约束，以及多层编译嵌套可能导致的隐蔽问题。对于参与 vLLM 编译优化的工程师有重要参考价值。**设计决策关注点**：当增加 `@torch.compile` 装饰器时需确认是否已被外层 AOT 编译覆盖；对模型启动崩溃问题，复现命令已提供，易于本地验证。

修复 Hopper GPU 上 GDN KKT 内核精度丢失问题

PR #42076 值得精读，它展示了 Triton 内核开发中 WGMMA 指令对操作数布局的敏感性，以及如何通过简单的代码调整解决深层硬件精度问题。对于维护张量核或 GPU 内核的开发者，这是一个很好的案例。另外，建议关注 gemini-code-assist 的累加器优化建议，可在后续 PR 中应用。

用CuteDSL重写DSv4 Indexer Q量化内核，性能提升显著

值得精读，尤其是以下方面： - CuteDSL 内核的编写模式（`@dsl_user_op`、内联汇编用法）。 - 线程粗化（thread coarsening）的策略选择与编译期预编译。 - 平台兼容性设计（`has_cutedsl` + Triton fallback）。 - 与自动代码审查工具（gemini-code-assist）的互动，展示了如何正确判断 PTX 架构支持。