vllm-project/vllm

MiniJinja 2.24 修复 GLM-5.2 模板渲染及工具字段顺序

值得精读。三个设计决策值得借鉴：一是借上游修复解决序列化顺序问题，而不是在本地用手写 map 绕过，维护成本最低；二是用 serde 属性把“缺失、null、false”三态语义精确映射到 OpenAI 协议；三是用真实模型 roundtrip 加 SHA-256 比对来锁定 prompt 一致性，比单测更有说服力。后续在 Rust 前端接入新模型时，可直接沿用这套验证模板。

修复 DSV4 mHC 广播缓冲刷新，保持 CUDA graph 地址稳定

值得精读，重点看两点： 1. **CUDA graph 地址稳定性模式**："首次分配 + 后续原地 `copy_()`" 是 vLLM 中处理运行时权重/输入更新的通用套路，任何涉及 CUDA graph 捕获后数据变更的功能都可复用本设计与论证方法。 2. **bugfix 测试契约设计**：两个用例成对出现，一个钉住既有语义（流求和），一个钉住新契约（原地更新 + 地址稳定），并附 revert 反向验证，是非常干净的 bugfix 测试范式。 局限：建议后续补充一个真正跑 CUDA graph 捕获/重放的回归用例，缩小身份断言与真实行为之间的差距。

修复 XPU 单测 OOM 与无 graph 死循环

值得 XPU/Intel GPU 相关贡献者精读，重点是"把平台特有测试机制泛化为通用原语"的设计手法：先有 ROCm 的延迟显存回收等待，再通过重命名与平台分支扩展覆盖 XPU，避免复制一份平行实现。对普通读者而言这是一条小而有代表性的测试基建收口 PR，其中 graph 禁用时的 skip 防护模式也可以在其它依赖 CUDA graph/SYCL graph 的用例中复用。

MXFP8 FlashInfer 路径加可用性守卫，修复无 FlashInfer 时崩溃

改动小巧但值得精读。核心价值不在代码量，而在 PR body 展现的工程判断过程：明确“默认路径不受影响”的问题范围、用表格给出修复前后测试对比、主动论证设备门槛为何不能收窄、用 `git log -S` 与 issue 检索排除重复 PR。建议重点关注“守卫放在选择期而非运行时”的设计语义，以及测试文件在合并前被删除这一异常信号——后续若有人重开同类修复，应先确认该测试被删的背景。

fused GDN MTP 内核支持 Qwen 头比例 1/2/3/4/8，提升 MTP 解码吞吐

值得精读。核心看三点：一是如何把运行期整数 ratio 提升为编译期模板参数并保留 10 个特化；二是 host 端用 C++20 templated lambda 消除 dispatch 重复；三是用 config audit 而非拍脑袋决定支持集合，并把“不支持比例回退”显式纳入 guard 测试。对后续内核工作，建议把质量等价性评估（如 GSM8K 等）与性能评估一起纳入 CI 门禁，避免 -1.06 pp 类点估计长期悬而未决。

完善 FlashInfer one-sided All2All，支持 DeepSeek Blockwise FP8 与序列并行

值得精读。该 PR 展示了如何将一个分布式通信后端的“载荷字节量”概念抽象为中央函数，并用显式校验防止 shape/dtype 不匹配，设计上具有可扩展性。建议重点阅读 `all2all_utils.py` 中的布局函数和 `trtllm_fp8_moe.py` 中的 scale 校验函数，它们为同类问题提供了可复用的模式。若团队正在使用 FlashInfer one-sided A2A 或计划支持更多量化格式，此 PR 是重要参考。

Kimi-K3 开启 DCP 部分前缀缓存命中，修复 Mamba 块表越界

值得精读。核心设计决策是"cache identity 而非 virtual-page 或 interleave 几何决定 hash 语义"以及"每种 cache 类型自己负责 CP 感知的块表宽度"，这两个思路对后续 hybrid 模型（attention + mamba）在并行化下的缓存设计有直接借鉴价值。建议按 `kv_cache_coordinator.py` → `model_runner.py` → `block_table.py` 的顺序阅读三个源码文件，再配合 `test_gpu_model_runner_v2.py` 中捕获块表宽度的测试技巧（monkeypatch `get_block_table_width` 并断言两次调用值）理解修复前后差异。

给 on_gfx1250 加 ROCm 平台守卫，修复非 ROCm 平台导入异常

值得花 2 分钟快速浏览：改动虽小，但它是“平台特有调用应放在平台门控之后”的标准修法，可作为后续跨平台代码审查的参考范式。核心设计决策是先用 `is_rocm()` 做前缀守卫、再用局部变量缓存求值结果，避免在函数体内重复做平台判断，这种写法值得在同时支持多平台的量化工具函数中推广。