vllm-project/vllm

修复 ROCm CI 无 GPU Job 的 CPU 平台选择

值得快速阅读：如果你负责平台抽象或 ROCm/CPU CI，可以学习“显式环境变量目标优先于 wheel 元数据和宿主机探测”的设计模式；同时注意后续维护 `cpu_platform_plugin()` 时保持其不会在 `VLLM_TARGET_DEVICE=cpu` 下返回 `None` 的不变量。该 PR 不需要深度精读，但可作为平台选择逻辑的参考案例。

DSpark 未指定 backend 时继承 target，修复 DSV4 缓存崩溃

值得精读。该 PR 是理解 vLLM 配置装配中 `replace` 语义和 DSpark draft/target 契约的极好案例：`None` 不等于“继承”，而是“重新自动选择”，这类隐式语义是配置 bug 的高发点。建议关注两点：一是合入后跟踪 mgoin 提到的“draft 与 target attention 不同”的模型是否出现回归；二是推动为 `load_dspark_model` 补充“显式继承/显式覆盖”的配置语义与回归测试，避免再次依赖 `None` 的隐式含义。

新增 VLLM_GPU_SYNC_CHECK 同步检测机制，修复一批 GPU-CPU 同步

值得精读，尤其是 `vllm/utils/gpu_sync_debug.py` 的设计：线程局部检测、编译期抑制器、`gpu_sync_allowed()` 的语义边界。值得关注的设计决策包括：能消除的同步尽量消除（如 `keep_on_cpu`、`async_tensor_h2d`、host 侧推导），不能消除的才显式豁免，且豁免区域要留下 TODO；DP 路径只在 NCCL 开启检测，避免 Gloo 路径误报。对后续提交的启发是：新增任何 `torch.Tensor.cpu()`、`.tolist()`、`.item()`、`torch.tensor(..., device=...)` 等操作前，都应先考虑是否触发主流同步。

融合 MTP 尾部 all-reduce 与 RMSNorm，本地 argmax 生成草稿 token

值得精读。该 PR 展示了两个可复用的设计模式：一是在层边界复用 `fused_allreduce_rms_norm` 把 all-reduce 归并入 norm，避免额外 kernel 发射；二是通过 `use_local_argmax_reduction` 协议探测 + `get_top_tokens` 命名的隐式约定，让 speculator 与模型之间可插拔地选择本地 argmax 快路径。PR body 的基准方法论也值得学习：明确只做同节点对内比较、用接受长度归一化吞吐来排除运气因素、如实声明单次 A/B 与复现丢失的局限。

MRV2 支持 attention-free 模型，补 CI 兼容小改动

值得精读。虽然只有 3 个文件、9 行净变更，但它示范了两件事：一是如何把一个大型迁移 PR 拆成语义单一、可独立合入的小步（关注 #46646 的拆分策略）；二是 `MambaHybridModelState` 复用于 attention-free 模型的 ModelState 路由决策，以及测试中 `envs.disable_envs_cache()` 处理环境变量缓存的细节。若你正在跟踪 MRV2 默认切换或 mamba 状态管理相关代码，建议阅读 `init_model_state` 的完整分支顺序与 `shutdown` 的资源释放序列。

移除 pip pybind11，修复 ROCm ABI 不匹配崩溃

值得快速浏览而不是精读：它演示了从“上游一个 unpinned 依赖发布”到“运行时 ABI 崩溃”的完整因果链，对镜像依赖治理有警示价值。关注两点：一是 aiter 侧 include 优先级缺陷（issue #4770）何时在 JIT 工具链中修复；二是 #49925 是否会把 pybind11 纳入统一管理。若团队在意长期稳定性，可考虑在镜像构建后增加 pybind11 internals 版本一致性检查。

Humming H100 eval 拆 3 个并行 Job，关键路径提速约 3 倍

建议 CI 维护者阅读：这是 Buildkite parallelism + BUILDKITE_PARALLEL_JOB 环境变量 + 配置列表分片的简洁示例，对长耗时、易并行化的测试步骤很有参考价值。但注意三份 shard 文件是手工维护的，后续新增或删除配置时需同步重平衡，可以考虑后续脚本化自动生成。

MoE B200 eval 拆 4 分片，关键路径提速 3.65x

若关注 CI 可靠性和 Buildkite pipeline 写法，本 PR 值得快速精读，重点学习 %N + parallelism + BUILDKITE_PARALLEL_JOB 的组合用法。由于分区是静态的，后续新增模型或评估口径变化时需要主动更新 4 个分片文件；建议把静态分片当作技术债跟进，后续可考虑按配置时长自动均衡分片。