vllm-project/vllm

修复 layerwise 加载遗漏注意力后处理，统一首载/重载生命周期

值得精读。对模型加载/RL 热更新链路的维护者，这是一个直接相关的 bugfix；对一般读者，亮点在于两处设计：一是用一个共享谓词同时约束标准加载与 layerwise 加载的延迟语义，二是 `_finalize_attention_layer` 用「kernel_tensors 是否为空」区分首次加载与 reload 两条生命周期，避免为首次加载单独维护一套路径。建议对照 `_layerwise_process` 与 `_reload_attention_scales` 的关系，理解「物化 + 重放」与「恢复 + 重放」两种模式的差异。

单槽导入缓存修复 packed IPC 多 chunk 传输的 producer 侧显存永久泄漏

值得精读。这是对 torch 跨进程 IPC refcount 语义的一次深入剖析，展示了'一次导出只能配对一次释放'的系统约束，以及用单槽缓存 + 精确释放时机解决协议失配的简洁设计。建议关注两个可改进点：把 fresh-export 假设固化为仓库内测试（当前只有临时 harness），以及在 PackedBufferImporter 中补充 key 不匹配时的显式替换语义注释，防止后续调用方误用导致双进程计数组失衡。

为 /generate 新增 content_parts 原始多模态输入

值得精读，尤其是评审中 SSRF 问题的发现与修复过程：它示范了「新入口复用时必须继承既有安全配置」的审查要点。建议关注三点：`_check_mm_fields_exclusive` 的互斥设计、`AsyncMultiModalItemTracker` 复用带来的防护一致性、以及 flat `MediaContentPart` schema 相对 RFC 原提案 `multi_modal_data` 的取舍。使用 /generate 做多模态推理的 RL 工程团队应直接采用该字段，并显式配置 `--allowed-media-domains`。

统一 spec-decode 测试基建，补 AMD CI 与失败诊断

值得精读。该 PR 是“大规模测试基建统一”的范本：vllm_runner 迁移中如何处理默认值语义差异（block_size/enable_chunked_prefill 显式传 None）、如何用共享工具函数收敛重复断言逻辑、以及如何在测试代码中做平台差异化（ROCm 的 AITER/FlashAttention 限制）都值得后续新增 spec-decode 测试时直接复用。重点文件是 tests/v1/e2e/spec_decode/utils.py 与 test_draft_model.py；若负责 CI 维护，还应关注 spec_decode.yaml 的 shard 平衡与新增 AMD 镜像。

修复 chat completion 非对象 JSON body 返回 500 的问题

该 PR 值得快速阅读，适合作为了解 vLLM OpenAI 前端校验器模式的入门案例。它展示了 `mode="before"` 校验器在面对非 dict 输入时的通用陷阱，以及如何用 `isinstance(data, dict)` 守卫与既有代码保持一致的解决方案。对于维护 API 兼容层的开发者有借鉴意义，但不涉及复杂架构设计。

Rust 前端新增 ResolvedToolContext，统一动态与请求级工具解析

值得精读。核心看 `rust/src/chat/src/request.rs` 中 `ResolvedToolContext::new` 的「一次解析、处处消费」模式与错误类型化设计，以及 `rust/src/server/src/routes/openai/chat_completions/convert.rs` 的入口装配；`types.rs` 把校验从 validator 下沉到 resolver 的做法可作为多来源配置统一校验的范式参考。

修复 Ernie-4.5-VL 编码器 CUDA graph 多路径输出兼容

建议阅读。变更很小但能体现 vLLM 在处理框架演进与模型适配之间契约漂移的 fix-forward 决策，值得关注的是：1) postprocess_encoder_output 的数据契约从 Tensor 演化为 dict 的设计动机；2) 同类覆写模型（如其他支持 encoder cudagraph 的模型）是否也存在同样的适配风险；3) 类似 revert 与 fix-forward 的决策模式。

升级 MiniJinja 至 2.22，删除 TemplateMap 绕行方案

值得精读。它展示了如何在一个 upstream issue 修复后及时回退本地 workaround，并以真实模型 roundtrip + prompt hash 对比来验证行为等价，是处理"上游修复-本地绕行"类变更的标准范式。关注点：布尔渲染的兼容性验证方式，以及删除自定义 Object 后对序列化语义的影响。此类小步升级也可作为依赖升级 PR 的参考模板。