vllm-project/vllm

DSv4 短上下文跳过 topk 与 router，TTFT 降低 3.4%

这是一个典型的小改动大收益的性能优化 PR，代码简洁安全。建议重点阅读 Triton kernel 的实现和 cuda graph 兼容性。对于 DeepSeek V4 推理服务，建议合并；后续可考虑增加单元测试覆盖短上下文边界情况。

量化测试显式指定设备，消除 fixture 副作用

可以直接合并。该 PR 虽小，但为解决 CI 不稳定提供了正确且简洁的方案，值得学习其对待全局 fixture 影响测试隔离性的处理方式。

回滚导致 GPU coredump 的 attn metadata 构建变更

该 PR 值得精读，因为它揭示了一个重要的设计约束：在 CUDA graph 捕获中，FlashAttention Sm90 内核在 eager 模式下对模拟输入敏感，不能简单移除 skip_attn 保护。后续如果要重新引入该特性，需要更稳健的条件判断。

修复异步调度+推测解码下推理结束标记丢失导致结构化输出失效

本 PR 值得精读，尤其是 `should_advance` 的重构和统一路径的设计决策。它展示了如何在跨多个上游后端的情况下通过 vLLM 层防御性修复设计缺陷。建议在合并后确认 E2E 回归（特别是非推测解码路径），并考虑后续删除占位符回退路径，强制所有调用点传递 `new_token_ids`。

修复 GPTQ Qwen3.5 MTP 权重加载失败

建议精读该 PR，了解 GPTQ 量化与推测解码 MTP 层加载的交互机制。该 PR 可作为轻量级修复的范例，但需要关注 Issue 评论中 `sdougbrown` 提出的更通用修复建议。

将 MM embeds 加载异步化以释放事件循环

该 PR 设计简洁、测试充分、性能提升明显，值得合并。建议其他开发者注意：未来新增 embedding 类型时应同步提供异步方法以避免类似问题。

修复 Plamo2 在 transformers v5 下的 HF runner 崩溃

可快速合入。该 PR 是 Transformers v5 升级跟踪的一部分，修复方式合理，逻辑清晰，可作为未来类似兼容问题的修复模板。

修复推测解码下 stop 字符串选择错误

值得精读，特别是理解推测解码下 stop 字符串处理的边界情况。设计决策简单有效：通过遍历所有 stop 并选择最早完成位置来保证一致性。测试覆盖全面，可作为纯函数单元测试的参考示例。