vllm-project/vllm

修复 Nano-Nemotron 预计算多模态嵌入的消费路径

建议精读，但只需重点看 vllm/model_executor/models/nano_nemotron_vl.py 中 _parse_and_validate_multimodal_inputs 与 embed_multimodal 两段（约 10 行核心改动）。关注三个设计点：一是从 walrus 真值判断改为 `is not None` 的张量安全写法，这是 Python + PyTorch 代码库中高频踩坑点；二是「解析层模态识别」与「消费层类型分流」必须成对修改，只改其一就会出现解析到了却没人用、或用错处理器的错配；三是预计算嵌入直接透传与像素路径的边界划分。review 时值得追问的是 video_embeds 在真实 MRV2 流程下与占位 token 的对齐验证，以及是否值得加一条仓库级 lint 拦截张量真值判断。

XPU CI 依赖统一收敛至 xpu.in，8 处 pip install 下线

1. **是否值得精读**：对 Intel/XPU CI 维护者、以及负责 requirements 与镜像构建的同学值得精读；对做模型、内核、调度的工程师可快速略过（零运行时源码改动）。 2. **值得关注的设计决策**：把“步骤级 pip install”整体上移到镜像 requirements，是一次典型的 CI 依赖治理；阅读时应重点对照删除命令与 xpu.in 新增条目的映射表，确认没有遗漏（例如 `pip install open-clip-torch --no-deps` 改为带依赖解析的 `open_clip_torch==2.32.0` 属于语义变化，不只是形式迁移）。 3. **建议的后续动作**：跟进补上 `requirements/test/xpu.in`、`requirements/test/xpu.txt` 到 `.buildkite/intel_jobs/*.yaml` 的 `source_file_dependencies` 及 `.buildkite/ci_config_intel.yaml`；在 PR 描述中补测试证据（至少说明依赖已随镜像生效）；对 `gpt-oss` 0.0.9 → 0.0.5、`numpy` 2.3.5 → 2.2.6 的锁文件回退给出验证结论或原因说明。

Torch ABI 审计超时 5 分钟翻倍至 10 分钟

不值得精读，但值得关注其诊断方法：用"未修改重试通过"与"冷启动被杀"的对照数据，把问题归因于超时预算而非代码缺陷，是 CI flaky 问题定位的标准范式。PR body 对"为何不与已有 PR 重复"和"无需模型评估"的论证也很规范，可作为 CI 小补丁的撰写模板参考。

为 FlashMLA 两个扩展目标补 MSVC 数学宏定义

值得精读，但不用花太多时间——这是一个「小而正确」的构建可移植性修复，价值集中在两点设计决策上：(1) 为什么选构建层宏定义而不是 issue 里建议的字面量替换（覆盖面 vs 上游分叉）；(2) 为什么必须用 `if(MSVC)` 收窄，否则会击穿全仓库构建缓存。建议读者顺带了解 vLLM 对外部内核项目（`cmake/external_projects/*.cmake`）的维护模式，以及 FlashMLA 扩展中 torch 2.11+ ABI 目标（`TORCH_TARGET_VERSION`）的同文件上下文。若团队有 Windows 部署需求，可考虑补一条 MSVC 侧的最小构建冒烟 check，避免这类修复无法被 CI 守护。

CI 时间线新增 GPU 利用率与内存采样

值得精读，尤其适合关注 CI 可观测性和低侵入采集器设计的工程师。重点学习：如何在零依赖前提下安全采集硬件遥测、如何处理失败而不污染主流程、如何用 spool + OIDC 复用既有认证链路上传数据，以及字节预算批处理在 OTLP 导出中的必要性。

统一 Cohere 解析器，旧 parser 降级为 shim 修复特殊 token 泄漏

建议精读，价值在于三点：一是 `DelegatingParser` 统一入口 + 薄 shim 的迁移手法，可复用于其他模型家族；二是 `convert_schema_to_structural_tags` 对 xgrammar `triggered_tags` 的构造方式，是结构化输出与工具调用约束生成的关键；三是 `tests/parser/cohere/utils.py` 的 `MockCohereTokenizer` 与 `token_deltas` 设计，把多字节字符拆分的 U+FFFD 缓冲、多 token chunk 流式行为都纳入测试，值得在其它 parser 测试中借鉴。

为 ROCm CI 新增 15 个 AMD 镜像测试门禁

值得精读。这是 vLLM 将 AMD 平台纳入一等公民的重要一步，展示了 Buildkite mirror 机制的用法，对理解 ROCm CI 布局有帮助。后续若想了解完整 Stage F/G 演进，可对比 PR 56522、56526 等。

移除 DSV4.1 误移植的 compressor 对齐 padding，token 流对齐 HF 参考

值得精读。该 PR 是“参考实现比对驱动删除”的小而清晰案例：核心看点是 `_apply_token_matches_with_placeholders` 覆写的删除动机——pad 依赖拼接位置导致 prompt updates 无法缓存，删除后不仅 token 流对齐官方，还顺带恢复基类默认路径。对多模态模型接入团队有参考价值：跨模型版本移植预处理逻辑前应逐行比对官方 image_processor.py。建议后续补充一条针对 DSV4.1 图片 token 流 bit-match 的回归测试，并核查 `mm_prefix_span_leading_pad_modulus` 是否还有其他读取方。