vllm-project/vllm

LoRA 测试提速 3.7x：引用上设备、FP8 向量化、跳过冗余清理

值得精读，尤其适合负责测试基建、CI 优化和 LoRA 模块的工程师。值得关注的设计决策包括：按平台分流参考实现（CPU 仅作为 XPU 的规避手段而非默认）、用零填充 + reshape + amax 把 blockwise 量化整体向量化、以及用 `skip_global_cleanup` 而非无操作 fixture 覆盖来跳过清理。建议合入后观察一次 XPU CI 结果，并考虑把 `quantize_to_fp8_blockwise` 的写法沉淀为共享工具。

放宽 flashinfer.comm 导入异常捕获，避免引擎启动崩溃

值得精读：改动极小，但清晰展示了“可选依赖导入失败应降级而非崩溃”的工程惯例，以及 warning 与 debug_once 之间的日志取舍如何在 review 中落地。值得关注的设计决策：异常从宽捕获 + 只记录一次（debug_once）+ 保留异常 message；PR body 的 Test Result 与最终实现不一致这一点也提示文档应与代码同步更新。后续可补充针对“mock flashinfer.comm 抛非 ImportError 异常”的单元测试，锁定该类回归。

Kimi K3 DFlash 改捕获 pre-norm AttnRes 混合流（默认关）

值得精读。重点关注三点：捕获点与训练目标对齐的必要性；把 pending MLP 输出折叠进 prefix 而非作为 delta 传递，以规避内核就地写回导致的二次加和；以及 PP 边界上“值是否被消费”的论证方式。合并后建议在 prefix caching 开启的真实服务上复测接受率，并跟踪 revert 提交中提到的框架级配置校验是否落地。

删除 override_attention_dtype 遗留配置参数

值得快速浏览，作为 dead code 清理的标准范例：先确认下游使用已移除，再同步删除配置字段、CLI 参数与内部传递路径。无需精读，逻辑直白。

补注册 flashinfer_mxfp4 懒包装，b12x 测试改平台无关

值得快速浏览的小型修复 PR，不需要精读。两个可学习的点：一是 vllm 对 flashinfer 的懒加载包装约定（每个入口函数都要在 vllm/utils/flashinfer.py 手动登记，否则上游 import 与 monkeypatch 都会失败）；二是 _mock_b12x_cuda_fp8_platform 用 SimpleNamespace 完整 mock 平台对象的写法，是让依赖特定平台的测试在任意 CI 设备上运行的通用模式。

后端发布 KV 打包规格，spec 回归纯数据

值得精读。尤其关注 `customize_spec` 的临时钩子设计——它平衡了当前架构约束与最终目标（后端直接构建 spec），并通过配置时间探针接入展示了如何渐进式迁移。review 中发现的遗漏问题也提示了此类重构中全局查找调用点的重要性。

SM90 上 MTP=3 改用 DeepGEMM 原生 decode，免 KV 重复读取

值得精读。三个设计亮点：1) 把“内核能力”从 indexer 中抽出到 DeepGEMM 封装层（`native_next_n_supported`），并用架构族矩阵测试锁定行为，避免重复的硬编码分支；2) “合法性是 step 的属性而非配置的属性”这一洞见（内核看到的是 `max_decode_len` 行 Q），避免了一批恰好 3 token 深的批次走上不存在的 SM90 内核；3) 调度 metadata 槽数由封装层自推导、`num_sms` 保持字面含义的设计哲学，从 API 形态上杜绝调用方算错。需要留意的是门控与 DeepGEMM 内核版本强耦合，升级 deepgemm 子模块时必须同步验证 SM90 的 `{1, 2, 4}` 支持面。

修复 Helm 资源引用：统一 selector、Pod 标签与 HPA 目标

建议阅读。虽然是个小 bugfix，但展示了 Helm chart 维护的典型最佳实践：用 include helper 收敛资源命名与标签生成，避免同一 chart 内多处硬编码命名漂移；同时用 helm-unittest 锁住渲染输出，防止回归。值得关注的设计决策是新增 chart.deployment-name helper，让 HPA 与 Deployment 共享同一命名来源。