vllm-project/vllm

修复 stable docs 横幅链接丢失当前页面路径

值得简单查看，了解 MkDocs 模板变量的使用方式。可作为小型修复的参考。

修复 Qwen3-Omni 在 use_audio_in_video 时混合图像/视频输入崩溃与模态分类错误

该 PR 值得精读，尤其适合关注多模态输入处理和 API 设计的开发者。核心设计决策（使用 Tensor 属性传递元数据而非修改函数签名）提供了一个简洁的模式，可在其他需要为数据附加临时信息的场景中复用。`check_interleaved_audio_video` 的重写展示了如何正确处理含边界 token 的多跨度交错检测。

为 KV 卸载事件添加可选的地域性元数据

值得精读，尤其是事件元数据的向后兼容设计（`omit_defaults`）和 `Locality` 枚举的使用方式。对于需要构建 KV 缓存全局视图的团队尤其有参考价值。

支持 TranslateGemma 模型，允许 chat 内容传递语言代码字段

值得精读，特别是其动态类型反射的设计模式，可作为需要在请求中传递额外元数据模型的参考。PR 讨论也展示了如何处理兼容性问题和测试迁移，对 vLLM 贡献者有学习价值。

引入有状态 Trainer 权重发送新抽象

值得精读。重点关注： - `WeightSource` 的分通道设计（metadata 不触发 all-gather vs 迭代时 materialize） - `VLLMWeightSyncClient` 使用结构协议而非抽象基类，降低耦合 - `materialize_full_tensor` 如何安全处理 FSDP 分片 - `WeightTransferTrainerFactory` 的 lazy-load 注册模式 对于需要集成自定义训练引擎的团队，理解这些抽象有助于写出适配器。

移植 Rust 基准测试工具 vllm-bench

值得精读，尤其关注： - `benchmark.rs` 中 DNS 预解析和 SpecDecode 指标拉取的实现，体现了高并发下的稳健性设计。 - `config.rs` 中 `RangeRatio::parse` 的灵活解析（支持 float 或 JSON 对象）和语义对齐 Python 的向后兼容处理。 - `output/json.rs` 中与 Python 输出 schema 严格匹配的设计，确保工具可互换。 建议在后续集成时关注与 `vllm-rs` 的代码复用和 CLI 统一。

修复 attention 权重重载后 CUDA graph 引用过期 tensor

建议尽快合并并 cherry-pick 到相关分支。本 PR 贡献了一个清晰的权重重载时 tensor 地址保持的设计范式，值得其他类似场景参考。`replace_parameter` 的用法可作为最佳实践传播。

新增 blocks_per_chunk 配置支持异构 KV 缓存

建议精读以了解配置扩展模式。关注 `build_offloading_config` 中互斥校验的实现思路，可作为后续类似配置扩展的参考。