vllm-project/vllm

修复采样 token 排名 off-by-one，消除 logprobs 测试 flaky

该 PR 值得简要阅读：它展示了测试工具函数与生产代码（`logprobs.py`）对排名约定不一致导致的隐蔽 flaky 问题，以及 reviewer 主动要求覆盖相邻同类函数的最佳实践。对于维护测试基础设施的工程师有参考价值。

新增 Laguna INT4 夜间评估，NVFP4 迁移 chat 协议

不值得作为源码精读对象，但值得快速浏览：它是理解 vLLM nightly eval 配置结构的最小样例。值得关注的设计决策是"评估协议（chat completions vs raw completions）与精度门限联动调整"，以及"跨硬件运行矩阵拆分（models-small vs models-blackwell）"的做法。对维护 nightly CI 的工程师而言，这是一个低风险、易回滚的配置型变更。

修复 DCP 下混合 KV 组缓存几何不一致，恢复 Kimi-K3 前缀命中

值得精读。`dcp_world_size_for_kv_cache_spec` 的 spec 分类与 `UniformTypeKVCacheSpecs` 解包处理，是理解 vLLM 混合 KV cache 组与并行策略交互的很好的切入点；协调器把 `_cache_hit_alignment_tokens` 传播到 manager 保留掩码的设计，体现了"查找粒度与保留粒度必须一致"的约束；review 中 GirasoleY 对正交变更拆分、最小复现与边界数学的要求，则是大型基础设施 PR 评审的规范示范。关注 DCP/MLA/投机解码组合的工程师，应同时阅读 #51705 与后续 replay-boundary PR，才能评估端到端命中率收益。

ROCm AITER MLA 支持 DCP 下因果多 token 投机验证

值得精读，尤其关注三点设计决策：一是 metadata builder 作为 decode 路由唯一所有者的模式，`AiterMLADCPVerifyMetadata` 的存在即路由结果，避免 builder 与 impl 对同一条件推导两次产生分叉；二是 DCP 下因果窗口的推导——"每个行 drop 的 token 落在不同的 rank 上，不能从本地长度减偏移"，这是教科书式容易写错的地方，配套的负向对照实验非常有说服力；三是 segmented MLA 的 split-K 部分和如何以 natural-log LSE 桥接进现有 DCP 跨 rank 合并。建议结合 #53598（前缀缓存 CoW 修复）一起阅读，理解 DCP 在 KV 缓存管理层的完整影响面。

修复min_tokens与结构化输出组合导致的采样器空行崩溃，调整调度器停止检查顺序。

这个PR值得精读。它不仅修复了一个高优先级的生产环境bug，而且其核心设计决策——在采样器中增加“恢复逻辑”以防止所有logit被屏蔽，以及在调度器中重新排序停止条件检查——体现了对复杂交互约束的深入理解。特别值得关注的是融合内核中为支持批量恢复而增加的编译时常量和内存屏障，这是一种在保证正确性的前提下兼顾性能的典型做法。review讨论中提出的关于更通用解决方案的思路，也对理解vLLM的架构演进方向有启发价值。

3 个测试区域 YAML 排除 kv_transfer，减少 CI 误触发

值得快速浏览以理解 vLLM 的 Buildkite 测试触发机制与 test_areas 依赖声明约定；对常改 `vllm/distributed/kv_transfer/` 的贡献者尤为有用。设计上无复杂决策，不深入阅读必要。

ROCm 镜像切换到 TheRock 7.14 构建，保持 Python 3.12/Ubuntu 22.04

值得精读，尤其适合维护 CI/发布管线的工程师。重点关注三处设计：一是 Dockerfile.rock 的 REMOTE_VLLM 双模式源码获取与 Rust 分层缓存，二是 triton constraints 解决 resolver 反复替换版本的工程细节，三是 TheRock pip 化 SDK 方案的运行时 hack。合并时 RCCL 多 GPU 问题仍未闭环，建议持续跟踪后续 AMD CI 是否出现 gfx1201 相关回归。

XPU 上 Qwen2-VL 测试限长 64，规避 BF16 数值发散 flaky

值得快速浏览（约 5 分钟），不建议精读。它展示了“注释文档化 + 平台特判”处理跨后端数值发散的模式，作者在 PR body 中关于“测试目的与数值稳定性取舍”的论证是值得借鉴的表达方式。若后续要根治 ViT FlashAttention 数值问题，PR 注释中的证据链（BF16 + FlashAttention、num_logprobs 无效、FP32/Triton 通过）是可复用的排查起点。