vllm-project/vllm

为 AsyncTP 添加 NVFP4 all-gather GEMM 融合路径

推荐精读，尤其关注 `collective_fusion.py` 中 `FlashInferAllGatherFP4Pattern` 的 `pattern` 与 `replacement` 设计，以及 `sequence_parallelism.py` 中 NVFP4 量化与序列平行的整合方式。对推理性能优化感兴趣的同学可以关注 reduce-scatter 融合的后续进展。

禁用路由专家路径修复

该 PR 变更简洁明确，建议合入。但由于测试未在 CI 中运行，建议后续跟进确保测试覆盖（如将 `test_routed_experts_capture.py` 加入测试套件）。值得关注的设计决策是：通过 early return 和条件守卫双重确保禁用的正确性，而非仅依赖一处判断。

移除旧版 KVConnector 构造函数兼容层

值得精读，特别是对分布式 KV 传输子系统感兴趣的工程师。本次 PR 示范了如何有计划地清理技术债务——先发出废弃警告，等待合理窗口后移除兼容层。`factory.py` 中从 warning 到 error 的升级策略值得借鉴。

Nixl util 懒加载重构

该 PR 值得阅读，演示了 Python 中利用 `__getattr__` 实现模块级懒加载的常用模式，且重构简洁清晰，适合作为类似依赖延迟初始化的参考。

ModelOpt NVFP4 W4A16 量化支持，使用 Marlin 内核

值得精读 `ModelOptNvFp4Config.__init__` 中的分发逻辑和 `ModelOptNvFp4W4A16LinearMethod` 的 `create_weights`/`process_weights_after_loading` 设计，展示了如何以最小改动扩展新量化格式并兼容旧 checkpoint。后续可关注 CLI 路由和 lm_head 支持的 follow-up PR。

MiMo-V2.5 支持多步 MTP 推测解码

建议微调后合入。这是一个有价值的起点，但应明确标记为“partial multi-step support”，并记录已知的层重用限制。推荐阅读以理解 vLLM 推测解码的约束模式，但不应作为最终解决方案。预期后续会有 PR 实现真正的多层 MTP。

DeepSeekV2 改用 AutoWeightsLoader 加载权重

值得所有关注 vLLM 模型架构演进的工程师精读。首先，它展示了 AutoWeightsLoader 的标准嵌入模式：将 load_weights 下沉到 *Model 类，ForCausalLM 仅做桥接。其次，get_spec_layer_idx_from_weight_name 的前缀问题是一个典型的因 AutoWeightsLoader 剥离前缀导致的 PP 隐藏陷阱，该修复方案可推广至类似模型迁移。最后，num_redundant_experts 的配置化建议体现了分布式环境下避免动态计算的健壮设计。

修复 Gemma4 AWQ 权重加载 KeyError，支持下划线命名

值得阅读。该 PR 清晰展示了如何处理不同量化框架的命名约定差异，并合理利用已有的工具函数 fused_moe_make_expert_params_mapping 减少重复代码。测试添加也体现了回归预防的实践，适合作为类似权重加载问题的参考。