vllm-project/vllm

优化 Kimi-K3 路由器权重加载，通过预取技术将单 token 场景的 PDL 等待延迟降低最高 20%。

这个 PR 值得精读，特别是对于从事 GPU 内核优化或关注 vLLM 性能工程的工程师。它展示了一个清晰且实现精良的性能优化案例：如何通过分析硬件特性（PDL 等待期间的空闲）找到优化点，并通过谨慎的设计（预取少量 tile、严格的运行时条件判断、独立缓存）在提升目标路径性能的同时，最小化对通用路径的侵入。核心的设计决策（`_vector_dotprod_prefetched` 的实现、基于 M 的运行时分派）及其背后的硬件权衡（CUDA 核心 vs 张量核心、预取窗口大小选择）具有较高的技术洞察价值。

移除冗余的 MRV2 专属 CI 测试，将相关测试整合至现有分组。

这是一个值得精读的清理性 PR。它清晰地展示了项目在架构演进（V2 runner 成为默认）后，如何对 CI 基础设施和测试策略进行适应性调整。关键的设计决策在于：通过删除专属配置文件和修改 `skipif` 逻辑的默认值来体现“默认”语义，并通过测试迁移确保覆盖无损。对于关注 CI 效率、测试策略或 vLLM 内部演进的工程师有参考价值。

修复 Kimi-K3 RecoverSSM 投机解码 prefill 路径的变量未定义崩溃。

该 PR 值得精读。它是一个针对特定模型运行时错误的精准修复，代码改动小但逻辑清晰，且补充了完整的单元测试覆盖。修复方案体现了对变量作用域和控制流状态的细致管理，可作为处理类似条件变量问题的参考。

恢复 QuarkW8A8Fp8MoEMethod 的 weight_dtype 属性以修复 FP8 MoE 权重加载崩溃。

该 PR 是简单明确的 bugfix，修复了重构引入的回归问题。建议快速审查并合并，以保持 CI 绿灯和模型功能正常。值得精读以确认恢复的属性值 'fp8' 与上下游逻辑一致。

修复 DecodeBenchConnector 在 DCP 模式下基于每组有效块大小的块选择错误。

该 PR 值得精读。它是一个清晰、聚焦且测试充分的 bugfix，解决了一个在特定并行配置下的实际问题。其关键设计决策在于，正确识别了 DCP 模式下不同类型的 KV 缓存组（如注意力层与滑动窗口层）具有不同的有效块大小，并将其抽象到调度器初始化中，这是一个良好的实践。对于关注分布式推理、KV 缓存管理或性能基准测试的工程师，此 PR 的修复方法和测试构造具有参考价值。

修复夜间 CRCR 报告因缺少 API 令牌而静默跳过的问题。

**建议精读此 PR**。虽然变更小，但它展示了一个在 CI/CD 基础设施中处理凭证和实现优雅降级的稳健模式。对于负责维护 CI 流程或编写类似自动化脚本的工程师，其设计（环境变量优先、代理检测、安全回退、最小权限 secret）具有参考价值。这是一个典型的“小而美”的修复，解决了真实存在的持续性问题。

重构 ModelOpt 量化模块，将六个重复的 LinearMethod 类合并为一个数据驱动的通用方法。

本 PR 是一个高质量、深思熟虑的架构重构，强烈建议精读。它展示了如何通过数据抽象和组合模式来消除重复代码并简化复杂系统的维护。核心设计决策（QuantKey、QuantSpec、FormatScheme）以及与审查者的深入讨论，对于理解如何在大型框架中设计可扩展的量化接口极具价值。特别关注 `resolve()` 函数如何映射格式到规范，以及 `FormatScheme` 如何优雅地处理格式特定的边缘情况。

禁用 GLM PCP 评估配置中的 CUDA 图，以修复 MRV2 稀疏 MLA PCP 的启动崩溃。