vllm-project/vllm

修复测试参考实现中的 oracle 模糊性，消除 CI 间歇性失败

该 PR 值得阅读。它展示了如何通过最小化的测试代码变更来诊断和解决由底层算子行为不确定性导致的 CI 非确定性故障。对于负责维护 MoE 路由或编写类似内核参考实现的工程师，其中关于使用 `stable argsort` 来保证确定性平局打破的方法具有直接的参考价值。

启用 W4A16 DSA：为 FlashMLA Sparse 注意力后端添加 NVFP4 DS-MLA KV 缓存格式支持。

此 PR 是一个有意义的功能增强，值得精读。核心设计决策在于为一种新的量化缓存格式设计了从配置到内核的完整集成路径，并通过引入 `QUANTIZED_DS_MLA_CACHE_FORMATS` 集合来统一管理多种量化格式，展现了良好的可扩展性。建议关注：1) `nvfp4_ds_mla` 的命名决策及其带来的配置清晰性；2) CUDA 内核中 e2m1 打包/解包以及缩放因子置换的实现细节；3) 测试策略，即如何用 Python 参考实现来验证 CUDA 内核的正确性。

ROCm 修复 GLM-5.2 误入 MRV2，默认关 breakable cudagraph

值得精读，尤其是负责 ROCm / model runner / 配置系统的同学。亮点在于：一是用 frozenset 常量 + `lru_cache` 平台查询函数集中管理平台默认行为，配合 monkeypatch 与 `cache_clear()` 形成低成本测试模式；二是 perf 归因方法学（4 组对照分解 MRV2 与 breakable cudagraph 各自的回退贡献）值得借鉴，避免只靠环境变量 workaround 留下约 23% 的性能缺口。同时应记录 mawong-amd 的跟进建议，在 #53712 合并后复测并考虑是否需要反转部分默认值。

拆分 AITER MXFP4 W4A16 后端为 CK 与 Triton 独立路径，优化 gfx942 默认性能。

此 PR 值得精读，原因有三：1) 它解决了一个真实存在的设计问题（后端过度加载），并展示了通过重构实现模块化和性能优化的清晰路径；2) 实现过程涉及跨文件的枚举、路由、权重转换等核心逻辑的协调变更，是学习 vLLM MoE 后端扩展机制的好范例；3) Review 讨论中揭示了关于内存填充浪费的深入技术洞察，对理解量化 MoE 在分布式推理中的细节有重要价值。关注点应放在新后端的引入如何影响自动选择逻辑、权重转换的兼容性，以及社区用户提出的后续优化可能性上。

新增可选的 FlashInfer PCIe IPC all-reduce 后端，优化 PCIe-only 多 GPU 节点的解码性能。

**该 PR 值得精读**，尤其是 `FlashInferPcieIpcAllReduce` 的生命周期管理和与 `graph_capture` 的集成部分，展示了如何为具有严格流和资源约束的通信库编写健壮的封装层。然而，**必须关注并解决合并后暴露的导入时 CUDA 初始化导致的 CI 回归问题**。这不仅仅是修复一个测试，而是需要评估并可能重构相关模块的导入机制，以避免类似的副作用。建议在采纳此功能的同时，将解决该回归问题作为后续必要工作。

DSv4 MLA 元数据内核迁移至共享 JIT warmup 契约

值得精读。核心看三点：VllmTritonJitKernel + kernel_launcher 的「预热即假启动」设计（运行时 launch 规格是唯一事实来源，避免 launch 与 warmup 参数漂移）；triton_scalar_specialization_rep 对 Triton 标量特化类（exact-one / divisible-by-16 / generic）的处理；zip_inputs + _trace_dispatch 对编译键空间的声明式枚举。评审对话本身也是很好的教材：三处「预热变体不可达」说明编译键必须覆盖运行时真实特化类。若团队要迁移其他 Triton 内核，建议先读 jit_warmup_triton_helper.py 与本 PR 的 review 记录。

修复 EC 共享区在旧内核上的 madvise 崩溃

值得精读，建议关注三点：(1) “单页探测 + 双路径回退”的内核特性兼容模式，是处理跨内核版本 API 差异的通用做法；(2) |= 0 读-改-写保留共享数据的技巧，以及对应的 mincore 页面驻留测试方法；(3) 该 PR 是典型的“重复实现未同步修复”教训——ec_shared_region.py 与 shared_offload_region.py 已两次出现同类 bug 不同步，值得跟进抽取公共 helper 的后续重构。整体改动小、测试扎实、无行为回归。

新增请求级抢占次数直方图，细化抢占可观测性

改动小而清晰，值得作为 vLLM 指标层入门的精读样例。值得关注的决策点有两个：一是 histogram 语义设计（per-request lifecycle 指标与节点级事件计数器的分工），二是 bucket 边界对 Ray Metrics Exporter 的兼容处理。若运维团队关注 KV cache 压力下的服务质量，可基于该指标建立"高抢占次数请求占比"告警。