vllm-project/vllm

多模态 P0/P1 缓存漂移改为可自愈重试，不再断言崩溃

值得精读。该 PR 展示了两个高价值设计：一是把"不可恢复的断言"改造成"类型化可重试错误 + 批量失效 + 客户端重试自愈"的完整恢复链路；二是处理 msgspec `array_like` 位置化序列化与 Rust 镜像协议同步的工程细节。对于 V1 引擎与多模态 IPC 缓存相关开发，建议重点阅读 `vllm/multimodal/cache.py` 的异常路径与 `EngineCore._handle_mm_cache_miss` 的接线方式，并关注 Rust 前端恢复路径的后续落地。

发布 XPU Triton shim 索引，公开 wheel 安装源

建议快速阅读，作为发布流水线脚本的参考样例：固定 SHA256 校验、DRY_RUN 本地验证、复用 nightly 索引生成器的做法都有学习价值；不建议精读。重点审视两个设计决策：一是版本与哈希硬编码在脚本中的可维护性，二是新发布步骤缺少失败隔离与显式权限配置。可结合 #50857 一并 review，形成对 XPU 发布链路的完整认识。

ROCm KDA 解码融合内核，e2e 吞吐提升约 7%

值得精读。该 PR 展示了 ROCm 上把三段解码链融合为单内核的完整工程实践：从 HIP kernel 的 DPP 归约与非时序访存、CMake 的 arch 过滤构建，到 Python 侧双重门控、加载期权重布局 staging，再到面向 CUDA-graph 的 benchmark 设计。特别推荐关注 `benchmarks/kernels/benchmark_kimi_k3_kda_decode.py` 中关于“eager 计时会夸大融合收益、graph replay 才是决策指标”的方法论，以及测试中对 NULL_BLOCK_ID 填充行、槽位隔离等边界条件的处理。

修复 Triton 量化内核在 torch.compile 下编译失败

值得花 10 分钟精读 PR body + 4 行 diff。这是一个非常典型的 Triton 与 torch.compile 类型系统交互问题：同一个 Python float 参数在 eager 与 Inductor 下被赋予不同 dtype，从而诱发不支持的 LLVM 转换。对经常写 Triton kernel 或维护量化路径的工程师，建议把"将常量标量声明为 `tl.constexpr`"当作 torch.compile 兼容性的默认习惯。后续可跟进补一个 `compile_mm_encoder` 路径的回归测试。

分布式单节点测试改用 file rendezvous，消除端口竞争

建议快速阅读：作为并行 CI 消除 TCP 端口竞态的轻量范例，get_file_store_init_method 的用法和范围限定值得借鉴。不涉及生产代码，无需深入精读。

ROCm 启用融合 bf16→fp32 路由 GEMM，消除独立拷贝内核

值得精读，尤其适合关注 ROCm 推理性能与 MoE 路由优化的工程师。核心看点有三：一是利用 torch.mm 的 out_dtype epilogue 消除跨 kernel 数据移动的思路；二是 dispatch 条件中「无 bias」守卫的严谨性（防止 torch.mm 静默丢 bias）；三是完全设备无关的 eligibility 测试写法——用 monkeypatch 模拟平台谓词，让 ROCm 专属逻辑也能在通用 CI 跑通。若团队在 AMD 上部署 MoE 模型，建议合入后至少在 gfx90a 与最新 ROCm 版本上各做一次回归。

模型执行路径再消除多组 GPU-CPU 同步

值得精读。这是 vLLM 官方维护者在 GPU 同步消除主线上的第二批落地，展示了一类可复用的性能优化范式：用主机侧已有精确数据推导设备端元数据、用 async 拷贝与 fill_ 消除隐式同步、用 keep_on_cpu 避免无意义 staging。建议重点阅读 `vllm/v1/attention/backends/mamba_attn.py` 的 `_prefill_cpu_metadata` 抽取与 `mamba2_attn.py` 的推导替换、`gemma4_mm.py` 的 per-device 索引缓存模式、`diffusion_gemma.py` 的 `init_canvas` 契约收紧。若你维护多模态模型或自定义 attention backend，需要对照检查自己的 `MultiModalFieldConfig` 与元数据构建是否也存在同类同步。

加固 tensor IPC 多进程测试，修复 ROCm 超时误报

值得精读。虽然只是单文件测试改动，但它展示了多进程测试中两个常被忽视的设计点：一是通过 `get_context('spawn')` 局部化 start method，避免全局 `set_start_method` 的副作用；二是失败路径的有界进程回收与带状态信息的超时诊断。`_cleanup_processes` 的 join / terminate / kill 阶梯式清理可以推广到 vLLM 其他多进程测试，建议在后续 IPC 与 kernel 相关测试中复用该模式。